Anatomia de uma IA moderna: do token ao agente

TL;DR

A anatomia de uma IA moderna em produção tem camadas nomeadas: modelo, token, contexto, prompt, ferramenta, memória, RAG, harness, agente, skill, subagente e sandbox. A anatomia completa de uma IA moderna não cabe em uma única página de documentação de fornecedor — exige organizar as peças na mão. Misturar esses termos produz a confusão que se vê nas comparações rasas entre produtos.

• “IA” virou guarda-chuva comercial; sem definir as peças da anatomia de uma IA moderna, qualquer comparativo vira propaganda.
• Modelo é cérebro estatístico; token é a menor unidade que ele processa; contexto é a janela onde o modelo “vê”.
• Harness é a camada invisível que organiza modelo, contexto, ferramentas e execução; sem harness, o modelo é um cérebro sem corpo.
• Agente de IA é uma engrenagem que persegue objetivo; chatbot é uma interface que responde turno a turno — categorias diferentes.
• Sandbox é onde o agente executa ações com permissão limitada; produção sem sandbox é produção sem teste.

A confusão que produz mal-entendido: “IA” virou sinônimo de tudo

A anatomia completa de uma IA moderna começa por admitir uma confusão inicial. A expressão “IA” virou sinônimo de tudo porque o marketing empacota produtos diferentes sob o mesmo rótulo. Em 2026, há produtos comercializados como “IA” que são:

• Modelos puros vendidos por token (Claude, GPT, Gemini, Llama).
• Assistentes conversacionais (ChatGPT, Claude.ai, Gemini App).
• Plataformas de agentes (CrewAI, AutoGen, LangGraph, OpenAI Agents SDK).
• Ferramentas de automação com LLM embarcado (Cursor, Devin, v0).
• Co-pilots verticais (Github Copilot, Notion AI, Microsoft 365 Copilot).

A confusão aparece quando se compara “qual IA escreve melhor código” sem perguntar qual camada está sendo comparada. Comparar GPT-4o com Devin é comparar um motor com um carro: o motor é o mesmo, mas o produto que o envolve é diferente.

Três consequências práticas dessa confusão:

• Avaliação enviesada. Benchmarks medem o modelo, mas o usuário final consome o produto (modelo + harness + ferramentas). O número no leaderboard diz pouco sobre o resultado real.
• Expectativas infladas. Anunciar “agente” para um produto que é só chatbot com retrieval cria a impressão de automação onde há só geração de texto.
• Decisões de stack sem critério. Equipes contratam “uma IA” como se fosse um insumo; o que precisam é de uma arquitetura: modelo + harness + ferramentas + sandbox + memória.

A primeira decisão útil é separar o que é modelo do que é produto. O resto do post dedica-se a nomear cada peça.

Modelo: o cérebro estatístico treinado em escala

A anatomia de uma IA moderna tem o modelo como peça central, mas raramente é suficiente sozinho. Modelo de linguagem é uma função estatística que recebe uma sequência de tokens e produz a distribuição de probabilidade do próximo token. Treinado em escala (centenas de bilhões a trilhões de tokens), o modelo aprende padrões sintáticos, semânticos e factuais suficientes para parecer competente em uma enorme variedade de tarefas.

As três propriedades que definem o que um modelo pode fazer:

• Janela de contexto. Quantos tokens o modelo consegue processar de uma vez. Em 2026, modelos de fronteira operam entre 200 mil e 2 milhões de tokens.
• Capacidade. Medida aproximada pelo número de parâmetros; capacidades maiores custam mais por inferência e latência maior.
• Alinhamento. Treinamento adicional (RLHF, DPO, constitutional AI) que ajusta o modelo para seguir instruções, recusar conteúdo perigoso e manter formato.

O modelo, isoladamente, é estático. Não chama API, não lê arquivo, não lembra de conversa passada. Quem faz isso é a camada em volta — o harness.

Erro recorrente em avaliações: atribuir ao modelo o que foi feito pelo harness. Quando “Claude acertou a query SQL”, o que aconteceu foi: o harness formatou o prompt, o modelo gerou o SQL, o harness executou contra o banco e devolveu o resultado. Sem essa cadeia, o modelo não tem como acessar o banco.

Token, contexto e prompt: a tríade que cabe na entrada

Token é a menor unidade de texto que o modelo processa. Um token não é uma palavra — pode ser uma sílaba, um pedaço de palavra, um número, um símbolo. Em português, uma palavra média gera entre 1 e 3 tokens. O custo e a latência do modelo são medidos em tokens de entrada e tokens de saída.

Contexto é a janela onde o modelo “vê” tokens durante uma inferência. Inclui:

• System prompt. Instruções persistentes que definem o papel, o formato de saída e as restrições do modelo.
• Histórico da conversa. Mensagens anteriores trocadas na sessão.
• Conteúdo injetado. Texto recuperado por RAG, saída de ferramentas, anexos.

A janela tem limite fixo. Quando o histórico excede, há truncamento (começo ou fim descartado, dependendo da implementação) ou compactação por resumo. Pesquisas como o paper *Lost in the Middle* (Liu et al., 2023) mostram que modelos prestam atenção desigual ao longo da janela: o começo e o fim recebem mais atenção do que o meio.

Prompt é a instrução ou pergunta do usuário, geralmente concatenada ao system prompt e ao histórico. A engenharia de prompt é a disciplina de escrever instruções que maximizam a chance do modelo produzir a saída desejada. Não é magia — é empirismo sistemático sobre o que faz o modelo performar melhor em uma classe de tarefa.

A tríade token-contexto-prompt é o que cabe na entrada do modelo. Tudo o que o modelo “sabe” durante uma inferência tem que estar dentro dessa janela.

Ferramenta, memória e RAG: o que o modelo alcança além do próprio peso

Modelo isolado não consulta banco, não lê arquivo, não chama API. Para alcançar o que está fora do próprio peso treinado, três mecanismos complementares entram em jogo:

• Ferramenta (tool). Função declarada que o modelo pode invocar por function calling. O modelo emite JSON estruturado com argumentos; o harness executa e devolve o resultado como texto. Exemplos: consultar banco, ler arquivo, enviar e-mail, fazer HTTP request.
• Memória. Persistência de estado entre invocações do modelo. Pode ser curto-prazo (cache de sessão), médio-prazo (resumo de conversas anteriores com o mesmo usuário), longo-prazo (base de conhecimento indexada).
• RAG (Retrieval-Augmented Generation). Combinação de busca semântica + prompt augmentation. O pipeline: a pergunta do usuário vai para um índice (geralmente vetorial), o sistema retorna os k trechos mais relevantes, esses trechos são concatenados ao prompt antes de chamar o modelo.

Os três mecanismos respondem a limitações diferentes do modelo:

| Mecanismo | Resolve | Latência extra | Custo extra | |—|—|—|—| | Ferramenta | Modelo não tem acesso ao mundo externo em tempo real | Média (I/O) | Baixo por chamada | | Memória | Modelo esquece entre chamadas | Baixa (cache hit) | Armazenamento | | RAG | Modelo não tem conhecimento específico do domínio | Alta (busca + embedding) | Indexação + embedding |

Sem essas três camadas, o modelo responde apenas com o que aprendeu no treino. Em produção, isso raramente é suficiente.

Harness: a camada que organiza modelo, contexto, ferramentas e execução

Harness é o software que envolve o modelo e operacionaliza o uso dele. Inclui:

• Loop de controle que decide quando chamar o modelo, quando invocar ferramenta, quando devolver resposta ao usuário.
• Gestão de contexto: concatenar system prompt, histórico, retrieval e tool results dentro da janela.
• Parsing de saída: extrair JSON, validar schema, lidar com modelo que alucinou formato.
• Retry, fallback e observabilidade: logar chamadas, medir latência, capturar erros.
• Política de uso: rate limit, orçamento de tokens, filtros de segurança.

Sem harness, o modelo é um cérebro sem corpo. Toda a interação de produto que o usuário vê é o harness. Exemplos de harness:

• OpenAI Assistants API, Anthropic SDK, Google Vertex AI Agent Builder.
• Frameworks: LangGraph, LlamaIndex, CrewAI, AutoGen.
• Plataformas verticais: Cursor (para codificação), v0 (para UI), Devin (para engenharia).

Critério prático para avaliar harness: medir quantas das cinco responsabilidades acima estão resolvidas com observabilidade real. A maioria dos produtos no mercado resolve 2-3; os que resolvem 5 cobram premium.

Agente, skill e subagente: a engrenagem que persegue um objetivo

A anatomia completa de uma IA moderna converge no agente, porque é o componente que mais aparece para o usuário final. Agente é um sistema que usa um modelo de linguagem para perseguir um objetivo em múltiplos passos, decidindo em cada passo qual ferramenta chamar ou qual sub-objetivo atacar a seguir. Diferente de chatbot, que responde turno a turno, o agente tem:

• Objetivo explícito. Entrada do usuário é meta, não pergunta.
• Planejamento. Decompõe a meta em sub-tarefas, define ordem, identifica dependências.
• Loop de execução. Itera até concluir ou desistir, com critério de parada.
• Memória operacional. Estado da execução entre iterações.
• Capacidade de usar ferramentas. Para buscar informação, modificar estado, validar resultado.

Skill é uma capacidade nomeada que o agente pode invocar. Exemplos: `buscar_no_google`, `criar_arquivo`, `rodar_teste`, `fazer_commit`. Skills são declaradas em formato estruturado (geralmente JSON Schema com nome, descrição e parâmetros) e registradas no harness.

Subagente é um agente instanciado pelo agente principal para tratar sub-objetivo isolado. O agente principal delega; o subagente executa com contexto próprio e devolve resultado. Esse padrão é o que permite que um agente “contrate outro agente” para uma subtarefa específica, com isolamento de contexto e responsabilidade.

Distinção crítica que o mercado confunde com frequência:

| Categoria | Interface | Objetivo | Iterações | Estado | |—|—|—|—|—| | Chatbot | Conversa | Responder | 1 turno | Mínimo | | Co-pilot | Inline (IDE, editor) | Sugerir | 1 turno | Mínimo | | Agente | Comando de alto nível | Concluir tarefa | Múltiplas | Persistente | | Sistema multi-agente | Comando de alto nível | Concluir workflow | Múltiplas | Coordenado |

Chamar “agente” de chatbot avançado é erro de categoria. A diferença é de arquitetura, não de grau.

Sandbox: o ambiente controlado onde as ações acontecem

Sandbox é o ambiente isolado onde o agente executa ações. Inclui:

• Sistema de arquivos efêmero (o agente pode ler, criar, modificar, mas as mudanças são descartadas ao final, salvo persistência explícita).
• Runtime com permissões limitadas (rede restrita, comandos autorizados, sem acesso a credenciais de produção).
• Instrumentação: log de cada comando, arquivo modificado, requisição feita.
• Timeouts e cotas: tempo máximo de execução, número máximo de iterações, custo máximo em tokens.
• Mecanismo de aprovação humana: para ações sensíveis (deploy, delete, pagamento), o sandbox pausa e pede confirmação.

Por que sandbox é obrigatório em produção:

• Reversibilidade. Sem sandbox, a primeira execução do agente apaga o banco de produção. Com sandbox, o pior caso é reconstruir o ambiente descartável.
• Auditabilidade. Toda ação fica registrada. Debugging de agente vira grep em log, não arqueologia de estado do sistema.
• Custo controlável. Loop infinito no agente queima orçamento. Sandbox impõe limite.
• Segurança. Agente rodando código arbitrário é vetor de ataque se o prompt for contaminado. Sandbox isola o efeito.

Em produção, três implementações comuns de sandbox:

• Container descartável (Docker/Podman): sobe container limpo, executa agente, derruba container.
• Máquina virtual efêmera: mesma ideia, com isolamento mais forte (Firecracker, gVisor).
• Worktree de git: para tarefas de código, agente opera em branch isolada; merge só após revisão.

Padrão emergente em 2026: cada agente de produção opera dentro de sandbox por padrão. Agentes sem sandbox são aceitos apenas em ambiente de desenvolvimento local.

O fechamento deste texto é proposição, não conselho. A próxima vez que alguém perguntar “qual IA é melhor”, a resposta útil é perguntar qual arquitetura está em avaliação — qual modelo, qual harness, quais ferramentas, qual camada de memória, qual sandbox, quais skills. Comparar só modelo é comparar motor sem perguntar para que carro. A próxima geração de profissionais não vai precisar apenas saber usar IA; vai precisar compreender a arquitetura da inteligência que está usando.

Leitura relacionada

• Harness de IA: a camada entre o modelo e o trabalho real — mostra como harness organiza o que o modelo sozinho não alcança, com exemplos de produção.
• Contexto é o superpoder do prompt: como a IA decide o que responder — aprofunda a tríade token-contexto-prompt que este post apenas nomeou.
• Contexto, memória e trabalho: como a IA sustenta raciocínio longo — detalha memória operacional e de longo prazo que distingue agente de chatbot.