Context window: entenda a janela de contexto da IA

A context window, ou janela de contexto, é o espaço total de tokens que um modelo de linguagem de grande porte (LLM) pode usar em uma requisição: tanto a entrada que ele lê quanto a saída que gera. Em uma janela de 1M de tokens, instruções, documentos e histórico da conversa dividem espaço com a resposta, incluindo o raciocínio quando o modelo usa esse recurso. Preencher a janela não significa que o modelo vai aproveitar corretamente cada detalhe.

O que é context window e como funciona na IA?

Pense na janela de contexto como uma bancada de trabalho. Documentos, instruções e tarefas em andamento ocupam sua superfície. Uma bancada maior permite espalhar mais material, mas ainda é preciso deixar espaço para trabalhar. E colocar todos os documentos à vista não garante que você vá perceber a cláusula relevante.

Um token é uma unidade processada pelo modelo, muitas vezes um fragmento de palavra, e não uma palavra inteira. Texto, código e outros tipos de entrada são convertidos em tokens segundo as regras de cada modelo. Conte os tokens da requisição real, em vez de estimar a capacidade pelo número de páginas ou pelo tamanho dos arquivos. O guia de tokens do Google explica essa diferença.

A entrada pode incluir conteúdo que você nunca digitou no chat:

• Instruções de sistema que definem o comportamento do assistente.
• Sua mensagem atual e o histórico da conversa que foi mantido.
• Definições de ferramentas, que descrevem as ações disponíveis para o modelo.
• Resultados de ferramentas, trechos recuperados, imagens e documentos.

A Anthropic inclui explicitamente esses componentes na contagem do contexto. Por isso, uma pergunta curta do usuário pode fazer parte de uma requisição enorme.

Qual é a diferença entre janela de contexto e limite de tokens?

A janela de contexto limita a requisição inteira; o limite de saída restringe a parte gerada. Modelos de raciocínio podem usar parte dessa capacidade de geração para pensar antes de produzir a resposta visível. A OpenAI documenta como entrada, saída e raciocínio consomem a mesma janela.

Quando a janela é compartilhada, a regra de planejamento é:

Tokens de entrada + tokens reservados para geração devem caber na janela de contexto.

Inclua o raciocínio nessa reserva quando o modelo o contabilizar ali. Respeite também o limite máximo de saída do modelo, que é uma restrição à parte. Configurar um limite de saída alto não cria espaço extra.

O que a janela de contexto determina em uma ferramenta de IA?

Ela determina quanto material o modelo consegue considerar em conjunto naquela requisição. Não informa com que precisão ele vai usar esse conteúdo, o que o aplicativo armazena entre sessões nem quais dados armazenados serão enviados de volta ao modelo na próxima vez.

Para quem trabalha com suporte, a diferença é prática: um chamado pode continuar salvo no sistema de atendimento sem estar presente na entrada atual do assistente. Para quem desenvolve a aplicação, salvar a transcrição e montar a próxima requisição ao modelo são responsabilidades distintas.

Tamanho atual das janelas de contexto: Claude, GPT-6 e Gemini 4

Os principais modelos disponíveis por API abaixo oferecem janelas de aproximadamente um milhão de tokens, mas as regras de saída importam tanto quanto essa capacidade anunciada. Dados conferidos nas páginas oficiais dos modelos em 16 de outubro de 2026. Cada linha aponta diretamente para o fornecedor. São especificações de API, não garantias sobre um plano de chat para o consumidor ou sobre os limites de um aplicativo.

A página atual dos modelos Claude informa a mesma janela e o mesmo teto de saída para os modelos listados. Por isso, o tamanho da janela pouco ajuda a escolher entre eles: compare as respostas de cada um na sua tarefa.

GPT-6 Astra, GPT-6.1 Sol e GPT-6 Luna também compartilham a capacidade indicada. Mesmo com janelas iguais, os modelos podem se comportar de formas diferentes em extração de dados, planejamento ou programação. A especificação define o que cabe, não uma classificação de qualidade.

O limite de long decode do Gemini 4 Argon faz parte da janela compartilhada. Segundo o Google, a API limita a saída solicitada ao espaço que sobra depois da entrada; o raciocínio também consome essa capacidade. Não é possível somar uma saída enorme a uma janela já totalmente ocupada pela entrada. A documentação de contagem de tokens do Gemini detalha a regra.

Exemplo na prática: o prompt cabe, mas a resposta não

Um prompt com um milhão de tokens deixa menos espaço para a resposta do que o limite máximo de saída do modelo faz parecer.

Considere os limites documentados do GPT-6 Astra. Suponha que a requisição montada contenha 1,000,000 de tokens de entrada, contando instruções, ferramentas, histórico e documentos de referência. É um exemplo de distribuição de tokens, não uma carga de trabalho medida. Você quer reservar todos os 128,000 tokens de geração permitidos pelo modelo.

A conta fica assim:

• Janela: 1,050,000 tokens.
• Espaço que sobra depois da entrada: 1,050,000 − 1,000,000 = 50,000 tokens.
• Entrada mais saída planejadas: 1,000,000 + 128,000 = 1,128,000 tokens.
• Espaço que falta: 78,000 tokens.

A entrada cabe. A reserva planejada para a resposta, não. O espaço restante precisa acomodar tanto o raciocínio quanto a resposta visível.

Para reservar toda essa capacidade de saída, a entrada deve ter no máximo 922,000 tokens, resultado de 1,050,000 − 128,000, antes de descontar qualquer margem adicional necessária ao seu fluxo de trabalho. Você não precisa reservar o máximo em toda tarefa: defina a reserva de acordo com a saída que a tarefa exige.

Por que uma janela maior não garante que o modelo encontre os detalhes?

Uma requisição pode caber na janela e ainda assim gerar uma resposta que deixa passar evidências presentes nela. Isso é uma falha de qualidade, mesmo quando a API aceita o prompt.

A Anthropic descreve a queda na capacidade de recuperar informações à medida que o contexto cresce em suas orientações sobre engenharia de contexto. A falha nem sempre aparece como uma recusa evidente. O assistente pode ignorar uma exceção, misturar uma política antiga com a que a substituiu ou responder com base em um trecho próximo que parece relevante.

O estudo Lost in the Middle, de Nelson F. Liu e colegas, constatou que o desempenho em perguntas e respostas sobre documentos e na recuperação de pares chave-valor dependia da posição da informação relevante. Evidências no meio do contexto podiam ser mais difíceis de aproveitar do que as próximas às extremidades. É uma pesquisa anterior, não um benchmark dos modelos atuais da tabela.

A qualidade com contextos longos precisa ser medida nas suas tarefas. Não existe aqui uma quantidade universal de tokens a partir da qual todos os modelos se tornam subitamente pouco confiáveis.

Para um assistente de suporte, monte um pequeno conjunto de avaliação com exceções de políticas cujas respostas corretas você já conhece. Compare uma requisição focada, com a política aplicável, a outra mais longa, que inclua também políticas sem relação com o caso. Mova o trecho decisivo para o início, para o meio e para o fim. Verifique se a resposta aplica a exceção correta e cita a fonte certa.

Para um assistente de programação, faça uma pergunta que dependa de um arquivo de implementação e do código que o chama. Só acrescente arquivos sem relação com a tarefa depois de estabelecer a resposta com o contexto focado. Se a versão mais longa piorar o resultado, comprar mais capacidade não vai explicar a causa do erro.

Encontrar uma frase específica é um indício útil sobre a capacidade de recuperação. Isso não comprova que o modelo consiga conciliar documentos conflitantes ou respeitar todas as restrições ao longo de uma tarefa extensa.

O que fazer quando aparece um erro de contexto longo demais?

Quem desenvolve deve inspecionar a requisição completa. Quem opera o assistente deve preservar o estado atual da tarefa antes de continuar a sessão. Em ambos os casos, é preciso distinguir uma entrada rejeitada de uma resposta interrompida por falta de espaço.

Nos modelos atuais do Claude, a Anthropic documenta um erro de prompt longo demais quando a entrada, sozinha, ultrapassa a janela. Se a entrada couber, mas a geração atingir o limite, a resposta pode parar com model_context_window_exceeded. Confira o erro ou o motivo de parada informado, em vez de supor que o sistema descartou silenciosamente as mensagens antigas. Veja o comportamento do Claude ao exceder a janela.

1. 1

   Conte tudo o que o aplicativo envia

   Inspecione em conjunto as instruções, as mensagens da conversa, as definições de ferramentas, os trechos recuperados e os resultados das ferramentas. Use o recurso de contagem de tokens do fornecedor quando ele aceitar o formato da sua requisição; depois, compare a estimativa com o uso informado na resposta. O endpoint de contagem da Anthropic aceita mensagens estruturadas e vários tipos de entrada, mas tem restrições para ferramentas executadas no servidor e algumas fontes de arquivos.

2. 2

   Reserve espaço para a geração

   Registre o tamanho da janela do modelo, seu teto de saída e quanto você precisa reservar para a resposta. Inclua o raciocínio quando for o caso. Reduza o espaço destinado à entrada de acordo com essa reserva; nem todo token restante está disponível para mais um documento.

3. 3

   Identifique o conteúdo que não para de crescer

   Procure resultados de busca repetidos, logs inteiros, documentos duplicados e caminhos abandonados da conversa. Um agente de programação pode precisar do teste que falhou e da função relevante; raramente precisa receber, a cada interação, a saída completa de todos os comandos anteriores que deram certo. Mantenha as evidências necessárias para verificar a próxima ação.

4. 4

   Guarde uma nota para retomar o trabalho

   Antes de reiniciar ou compactar, registre o objetivo, as decisões confirmadas, as questões em aberto, a localização das fontes relevantes e a próxima ação. No atendimento a um cliente, preserve a solicitação atual e a exceção de política aplicável. Volte à fonte original sempre que a redação exata fizer diferença.

5. 5

   Confira se a resposta continua correta

   Repita a tarefa que falhou usando a requisição menor. Confirme que as evidências necessárias estão presentes e que a resposta está correta. Se o prompt agora cabe, mas o modelo ainda deixa passar o detalhe decisivo, investigue a seleção e a recuperação das informações, em vez de continuar cortando conteúdo às cegas.

Se um fluxo de trabalho curto e estável já responde corretamente e respeita seus limites, mantenha a escolha de modelo. Uma janela maior na ficha técnica, por si só, não justifica uma migração.

Quando usar recuperação, resumos, compactação ou cache?

Escolha a intervenção de acordo com o que está ocupando espaço. Essas técnicas resolvem problemas diferentes e podem funcionar juntas.

Use recuperação quando o acervo de fontes for muito maior do que o conjunto de evidências necessário para a pergunta. A geração aumentada por recuperação (RAG) fornece ao modelo material selecionado das fontes antes da resposta. Um assistente de suporte deve buscar a política de devolução aplicável e o registro do pedido, em vez de ler toda a base de conhecimento. O guia de RAG com agentes explica como um agente pode buscar novamente quando as primeiras evidências não bastam.

O limite está na seleção: se a recuperação deixar de fora a exceção decisiva, o modelo não poderá usá-la. Mantenha no contexto um conjunto limitado de documentos completos quando a tarefa realmente exigir comparar seus detalhes ao longo do trabalho. Avalie se reduzir esse conjunto elimina evidências necessárias.

Use um resumo quando os detalhes antigos puderem dar lugar a um registro duradouro do estado da tarefa. O resumo deve preservar o que foi decidido, o que ainda é incerto e onde estão as fontes que sustentam as decisões. Em uma alteração de código, isso pode incluir a abordagem escolhida, o comportamento que está falhando e os caminhos dos arquivos relevantes. Não troque uma cláusula contratual exata ou uma mensagem de erro por uma paráfrase imprecisa quando a próxima decisão depender daquela redação.

Use compactação quando a própria conversa passar a ocupar a maior parte do espaço. A compactação substitui o histórico acumulado por um contexto menor, que permite continuar o trabalho. A Anthropic alerta que uma compressão agressiva demais pode perder detalhes importantes. Confira o que foi preservado, em vez de tratar a conversa compactada como um arquivo sem perdas. A discussão da Anthropic sobre compactação explica essa escolha e suas consequências.

O guia de engenharia de contexto aborda o tema de forma mais ampla e explica como selecionar e manter esse conteúdo ao longo do trabalho de um agente.

Use cache de prompts quando entradas úteis se repetirem. Ele reaproveita o processamento de um prefixo idêntico do prompt, ou seja, do início da requisição que permanece inalterado. Coloque instruções estáveis e material compartilhado antes do conteúdo variável e siga as regras de cache do modelo. O guia atual da OpenAI inclui o comportamento de pontos de corte explícitos, enquanto a página do Gemini 4 Argon lista apenas cache implícito. Veja o cache da OpenAI e o suporte a cache no Gemini.

Prompts longos acrescentam tokens de entrada sujeitos a cobrança. Quando há acerto de cache, o custo da entrada repetida pode cair, conforme as regras de gravação do cache, mas esses tokens continuam ocupando a janela. O funcionamento do cache é explicado em outro artigo.

Compactar ou reescrever o início de um prompt pode reduzir o reaproveitamento do cache. Preserve um prefixo estável enquanto ele for útil; remova o histórico irrelevante quando ele comprometer a requisição. Uma taxa alta de acertos de cache não comprova a qualidade da resposta.

Onde está o exagero nas promessas de contexto longo?

É comum usar o número de capacidade como prova de coisas que ele não mede. Ele não garante recuperação perfeita das informações, memória permanente nem a possibilidade de substituir todo fluxo de recuperação por um prompt maior.

O argumento útil a favor de uma janela maior é concreto: a tarefa precisa de mais evidências relevantes ao mesmo tempo, a requisição menor perde relações essenciais e a maior produz resultados corretos na sua avaliação. Essa é uma razão para usar a capacidade extra.

Aja quando logs, histórico ou coleções de fontes estiverem tomando o espaço da resposta. Primeiro, melhore a seleção do que entra na requisição. Considere um modelo com janela maior quando o material relevante ainda não couber. Espere se o fluxo atual for confiável e sua única motivação for um número maior na especificação.

Dúvidas frequentes sobre janela de contexto

O que é a janela de contexto de um modelo de linguagem de IA?

É a capacidade de tokens que o modelo tem por requisição para a entrada que considera e a saída que gera. Nos modelos de raciocínio, contabilize também os tokens usados para pensar, conforme as regras do fornecedor.

Quanto cabe em uma janela de contexto de 200K?

200K significa 200,000 tokens. Isso não corresponde a um número fixo de palavras ou páginas, e uma janela compartilhada também precisa acomodar a saída gerada. Conte os tokens do seu material com o tokenizador do modelo escolhido ou com um endpoint de contagem compatível.

O que significa contexto em programação?

Contexto é o conjunto de informações ao redor de uma operação que está disponível para ela. Em uma aplicação com LLM, são as instruções, mensagens e materiais de apoio reunidos para a requisição atual ao modelo.

Qual é um exemplo de engenharia de contexto?

Um assistente de suporte recebe o chamado atual, a política aplicável e um registro conciso das decisões anteriores. Quando necessário, busca evidências adicionais, em vez de receber o arquivo completo de chamados.

Quanto ganha um engenheiro de contexto?

Uma especificação de janela de contexto não permite determinar um salário. Para contratar, defina se o trabalho envolve recuperação de informações, engenharia de aplicações, avaliações ou infraestrutura. Depois, compare cargos com esse escopo na sua região.

Como aprender engenharia de contexto?

Inspecione as requisições completas de uma aplicação pequena. Altere separadamente as instruções, as evidências recuperadas ou o histórico mantido e compare as respostas com resultados corretos já conhecidos. Aprenda a explicar por que uma mudança melhorou a correção da resposta, e não apenas por que encurtou o prompt.

Qual é a diferença entre engenharia de contexto e engenharia de prompts?

A engenharia de prompts se concentra nas instruções e nos exemplos fornecidos ao modelo. A engenharia de contexto também abrange a seleção de evidências, a disponibilização de ferramentas e a preservação do estado necessário conforme o trabalho avança.

Quais são as boas práticas de engenharia de contexto?

Planeje o uso de tokens da requisição inteira, reserve espaço para a saída, mantenha as evidências relevantes e preserve referências às fontes ao resumir. Verifique se a resposta continua correta depois dos cortes ou da compactação.

Quais habilidades são mais úteis para agentes na engenharia de contexto?

Dê ao agente meios específicos de encontrar fontes, examinar trechos relevantes e preservar o estado da tarefa. Avalie essas ferramentas pela capacidade de ajudar na próxima decisão sem inundar a requisição com material desnecessário.

O que colocar em prática na segunda-feira

Pegue uma requisição que falhou ou deixou passar um detalhe importante. Conte toda a entrada, reserve espaço para a saída esperada e identifique o maior bloco que não ajuda a responder à pergunta. Substitua esse bloco por evidências selecionadas ou por uma nota de retomada e repita a tarefa, comparando o resultado com uma resposta correta já conhecida. Só mantenha a requisição menor se ela preservar as evidências e o resultado.

Para receber guias práticos sobre como criar fluxos de trabalho confiáveis com IA, assine a newsletter.