Context rot: como manter a precisão da IA em conversas longas

O context rot pode reduzir a precisão de um agente mesmo quando a entrada cabe na janela de contexto anunciada. O estudo da Chroma com 18 modelos de linguagem constatou que a confiabilidade variava conforme o tamanho da entrada. Na prática, a resposta é preservar as evidências necessárias para a próxima ação e reduzir o histórico irrelevante.

O que é context rot em IA?

Context rot, ou degradação de contexto, é a queda de confiabilidade à medida que aumenta o volume de informações fornecidas a um modelo de linguagem. O problema pode aparecer como fatos ignorados, associações incorretas ou respostas que deixam de respeitar uma decisão já estabelecida. O modelo pode continuar aceitando uma conversa longa, mas ter cada vez mais dificuldade para usar seu conteúdo com precisão.

A janela de contexto é o espaço de trabalho disponível para o modelo em uma requisição. Ela pode conter instruções, histórico da conversa, documentos e resultados de ferramentas. Um token é uma unidade de conteúdo processada pelo modelo, muitas vezes um fragmento de palavra. Nosso guia sobre janela de contexto explica o que ocupa esse espaço.

Imagine uma sala de resposta a incidentes cuja parede reúne o plano atual, hipóteses abandonadas, cronologias já substituídas e logs antigos. Ampliar a parede permite guardar mais material. Isso não informa a quem chega qual decisão ainda orienta o trabalho.

Essa distinção importa ao depurar um agente. Se o fato necessário foi removido antes de a requisição chegar ao modelo, investigue o truncamento ou a recuperação de informações. Se o fato estava presente, mas a resposta o ignorou ou usou incorretamente, investigue como o modelo lidou com o contexto fornecido. Nenhum desses sintomas, isoladamente, comprova um problema relacionado ao tamanho da entrada.

Documentação conferida em 24 de outubro de 2026: as orientações do fornecedor citadas abaixo foram verificadas na documentação online da Anthropic. Os exemplos de fluxo de trabalho são propostas de implementação, não resultados observados em produção.

O que o estudo sobre context rot demonstra?

O relatório da Chroma, publicado em 14 de julho de 2025, constatou que correspondências semânticas mais difíceis e informações que pareciam relevantes, mas serviam de distração, tornavam menos confiável a recuperação em entradas longas. Seus testes controlados oferecem evidências úteis, mas não medem o desempenho do seu agente. Estudo original.

Em sua versão depurada do benchmark de conversas LongMemEval, a Chroma comparou 306 prompts com média de cerca de 113,000 tokens a versões focadas nas informações relevantes, com média de aproximadamente 300 tokens. As entradas focadas tiveram pontuações melhores em todos os modelos avaliados. Há uma ressalva importante: essas entradas curtas foram montadas a partir de trechos rotulados como relevantes e ajustes manuais, e não por um sistema de recuperação automática submetido a avaliação. Métodos e resultados do estudo.

Até onde vão as conclusões da Chroma sobre context rot?

O relatório não estabelece o mecanismo por trás do fenômeno nem uma quantidade universal de tokens que seja segura. Além disso, no experimento com texto repetido, a saída cresce junto com a entrada, diferentemente dos testes de recuperação com respostas curtas. Limitações da pesquisa e descrição das tarefas.

Para quem desenvolve sistemas, a pergunta útil é se o sistema consegue encontrar e preservar as evidências necessárias. Um gráfico que compara evidências cuidadosamente selecionadas com um histórico completo não revela se o seu índice de busca, seus filtros ou seu sistema de resumo vão selecionar essas evidências corretamente. Essa seleção precisa de uma avaliação própria.

Por que um contexto maior pode ser mais difícil de usar?

O material relevante precisa se distinguir de tudo o que está ao redor. Um plano antigo de implantação pode se parecer mais com o plano atual do que um documento sem relação com a tarefa. O risco vai além de não encontrar uma frase: o modelo pode aplicar a frase errada à situação atual.

As orientações da Anthropic sobre engenharia de contexto apontam restrições de arquitetura e treinamento com sequências predominantemente mais curtas como fatores que contribuem para a dificuldade com contextos longos. A descrição é de uma perda gradual de precisão, e não de um limite único a partir do qual a capacidade desaparece. Essas explicações ajudam a analisar o problema, mas não comprovam uma explicação causal completa.

Considere um agente de suporte cujo histórico contém um diagnóstico inicial, uma tentativa de contorno que falhou e uma correção confirmada posteriormente. Se uma chamada de ferramenta subsequente devolver uma versão antiga do guia de solução de problemas, a próxima resposta terá de conciliar tanto a cronologia quanto a autoridade das fontes. O texto adicional tornou a decisão mais complexa, embora a pergunta do usuário continue igual.

Deixe essa conciliação explícita: identifique o estado atual, marque o diagnóstico anterior como rejeitado e mantenha a fonte que sustenta a correção aceita. O objetivo é ter evidências suficientes, com seu status bem definido, e não produzir o menor prompt possível.

O que verificar primeiro ao desenvolver ou operar agentes?

Compare a mesma decisão com contextos diferentes antes de atribuir a falha ao modelo. Para quem desenvolve, isso significa capturar a requisição exata montada pela aplicação. A conversa visível pode omitir instruções de sistema, resultados de recuperação ou respostas de ferramentas que chegaram ao modelo.

Para quem opera, o primeiro passo é identificar um requisito concreto que foi ignorado ou uma ação incorreta. “A conversa parece pior” é difícil de investigar; “o agente recomendou a solução de contorno que já havia sido rejeitada no registro do incidente” oferece um caso que pode ser reproduzido.

Use esta sequência de diagnóstico em um exemplo salvo:

1. 1

   Fixe as condições da decisão

   Mantenha a pergunta, a configuração do modelo e o resultado exigido sem alterações. Salve a entrada original e as evidências das fontes de referência. Reexecute o caso sem realizar ações externas, para que a comparação não altere a situação analisada.

2. 2

   Confira se as evidências chegaram

   Localize o trecho necessário na requisição que de fato foi enviada. Se ele estiver ausente, corrija primeiro a recuperação, o truncamento ou o carregamento do estado. Se uma fonte obsoleta tiver chegado em seu lugar, corrija a seleção e a atualidade das fontes.

3. 3

   Monte uma versão focada para comparar

   Mantenha as mesmas instruções da tarefa e todas as evidências necessárias para responder, removendo o histórico sem relação com o caso e os resultados obsoletos de ferramentas. Não inclua a resposta esperada nem simplifique a tarefa. Compare a correção das respostas, o uso das fontes e o cumprimento das restrições em reexecuções representativas.

4. 4

   Escolha a correção a partir da falha

   Se a entrada focada ajudar, investigue a seleção e a organização do contexto. Se ambas as versões falharem, examine a tarefa, as instruções, a qualidade das evidências e a capacidade do modelo. Se a falha começar depois da geração de um resumo, inspecione o que ele deixou de fora.

Essa comparação serve como diagnóstico, não como prova de que o tamanho, por si só, causou o erro: remover material também muda a composição da entrada. Para testar o efeito do tamanho com mais rigor, mantenha controladas as evidências relevantes e sua posição enquanto acrescenta material sem relação com a tarefa. Não tire conclusões gerais de uma reexecução que deu certo por acaso.

As equipes devem agir quando o crescimento do histórico vier repetidamente acompanhado de erros evitáveis. Um fluxo curto e bem delimitado que passa nas verificações de correção pode manter seu desenho mais simples. Acrescente orquestração quando houver uma falha concreta que ela possa resolver.

Como reduzir o context rot em um agente?

Escolha a intervenção de acordo com o material que está causando o problema. A compactação gerencia o histórico acumulado; a recuperação seleciona evidências; os subagentes mantêm a exploração em contextos separados; a ordem do conteúdo deixa a tarefa mais clara; e respostas concisas de ferramentas reduzem entradas desnecessárias. São controles complementares, cada um com suas próprias formas de falhar.

Compacte o histórico e preserve o estado de trabalho

A compactação substitui trechos antigos da conversa por um registro mais curto que permite continuar o trabalho. A documentação online da Anthropic sobre compactação explica por que é importante manter pequeno o contexto ativo: “a qualidade das respostas se degrada à medida que a conversa cresce.” Sua API permite tanto a compactação solicitada pela aplicação quanto a compactação acionada por um limite configurado de tokens.

Estruture o registro de continuidade em torno do que a próxima ação exige. No exemplo do incidente, preserve o objetivo atual, a causa confirmada, a solução de contorno rejeitada e o motivo da rejeição, as incertezas restantes, a localização das fontes e a próxima ação. Mantenha identificadores ou textos exatos quando a correção depender deles.

Um registro fraco diz: “Investigamos o problema e avançamos.” Um registro útil diz: “A solução de contorno foi rejeitada porque viola o comportamento exigido; a correção aceita está registrada no documento do incidente; a verificação continua pendente.” O segundo permite retomar o trabalho sem recontar toda a investigação.

O limite: um resumo pode descartar um detalhe que se torne importante depois. Mantenha o registro original acessível e avalie se o agente, ao retomar, ainda consegue responder às perguntas que dependem dele. Salvar um estado persistente e escolher o que recarregar são tarefas distintas, abordadas no guia sobre memória de agentes.

Recupere evidências quando a tarefa precisar delas

Guarde referências a fontes extensas e carregue os trechos relevantes sob demanda. A Anthropic descreve essa abordagem como contexto just-in-time: o agente pode manter caminhos de arquivos, consultas ou links e buscar o material conforme a necessidade. Orientações sobre recuperação de contexto.

Para um agente de resposta a incidentes, comece pelo registro do incidente atual e pela documentação aplicável ao serviço. Busque um incidente antigo quando o diagnóstico exigir. Retorne cada trecho com sua fonte, versão ou data, quando disponíveis, e texto ao redor suficiente para interpretar uma exceção.

O limite: a recuperação pode omitir a ressalva decisiva ou retornar um resultado plausível, mas desatualizado. Verifique se as evidências necessárias estão presentes antes de medir a qualidade da resposta. Dê ao agente um meio de ampliar a busca ou ler a fonte completa quando um trecho não for conclusivo.

Um conjunto menor de resultados só é útil se preservar o que a decisão exige. “Recuperar em vez de despejar tudo no contexto” é uma política de seleção, não uma instrução para esconder informações inconvenientes.

Dê aos subagentes tarefas delimitadas e contextos limpos

Use um contexto separado para explorações cujos resultados brutos não sejam necessários ao agente principal. A documentação da Anthropic sobre subagentes no Claude Code descreve agentes auxiliares que operam em suas próprias janelas de contexto e devolvem resultados à conversa principal.

Um agente auxiliar encarregado de investigar um log pode receber a pergunta específica, os detalhes relevantes do serviço e uma referência ao log. Peça que ele retorne a conclusão, a localização das evidências, as incertezas e as dependências ainda não resolvidas. O agente principal pode usar esse resultado sem carregar todo o caminho percorrido na busca.

O limite: o isolamento também retira conhecimentos compartilhados. Inclua as restrições de que o agente auxiliar precisa e exija evidências junto com a conclusão. Confira o que seu framework de orquestração de fato repassa a ele: copiar todo o histórico do agente principal anularia a separação pretendida. Colar de volta a transcrição completa de cada agente auxiliar recria o acúmulo no contexto principal.

Use esse padrão em investigações que podem ser separadas. Quando uma decisão depende de informações muito interligadas em um registro compartilhado, pode ser mais fácil tratá-la no contexto principal com recuperação direcionada.

Organize os documentos e a solicitação atual de forma deliberada

Deixe fácil distinguir a tarefa atual do material que a sustenta. As orientações da Anthropic sobre prompts com contextos longos recomendam colocar documentos extensos perto do início do prompt, diferenciar suas fontes e apresentar a pergunta depois deles. Também recomendam localizar citações relevantes antes de responder a perguntas sobre documentos.

Na aplicação, mantenha as instruções que regem o comportamento no canal de instruções apropriado. Dentro da entrada da tarefa, identifique o registro do incidente atual separadamente das anotações históricas e, em seguida, apresente com clareza a pergunta e a saída exigida. Mudar um texto recuperado de lugar não deve transformá-lo em uma instrução que governa o comportamento do agente.

O limite: reorganizar o conteúdo não recupera evidências que nunca foram carregadas, e nenhuma ordem garante bons resultados em todos os modelos e tarefas. Compare organizações diferentes nos seus próprios exemplos. Evite repetir um manual inteiro de regras a cada interação quando uma descrição concisa e atual da tarefa for suficiente.

Selecione o que as ferramentas retornam e mantenha acesso à saída completa

Retorne o resultado necessário para a próxima decisão, com um caminho para acessar o artefato completo. As orientações da Anthropic sobre desenvolvimento de ferramentas recomendam respostas úteis e controles como filtragem, paginação e truncamento. Separadamente, a documentação sobre edição de contexto descreve a remoção de resultados antigos de ferramentas do histórico da conversa.

Quando uma verificação falhar, retorne a falha, o trecho relevante do erro e a localização do relatório salvo. Em uma busca, retorne os trechos relevantes e suas fontes. Em uma operação bem-sucedida, retorne o status e os identificadores necessários para continuar. Evite incluir o relatório inteiro só porque a ferramenta o produziu.

O limite: truncar sem critério pode remover o erro ou a ressalva decisiva. Sinalize as omissões e permita que o agente solicite mais conteúdo. Preserve a saída completa fora do contexto ativo quando ela for necessária para inspeção.

Essas escolhas devem ficar na camada que monta as requisições. O guia de engenharia de contexto apresenta uma visão mais ampla de como instruções, memória, ferramentas e material recuperado se combinam.

Onde está o exagero em torno do context rot?

Não existe uma quantidade universal de mensagens nem uma porcentagem da janela que indique a todos os agentes quando reiniciar. Um limite que impede uma requisição grande demais é uma configuração de capacidade. Já o ponto em que um fluxo específico deixa de ser confiável precisa ser medido com base nas tarefas que ele realmente executa.

Também não é qualquer resposta ruim em uma conversa longa que comprova context rot. Evidências ausentes, instruções contraditórias, uma ferramenta com defeito ou uma tarefa além da capacidade do sistema podem produzir sintomas parecidos. Um relatório de incidente útil identifica a decisão que falhou e registra o que o modelo recebeu.

A compactação tem perdas, e a memória externa não garante relevância automaticamente. Trate ambas como componentes cujas saídas precisam ser verificadas. Preservar a conclusão errada com mais eficiência pode fazer um fluxo errar de forma consistente.

Por fim, o cache é outro tipo de intervenção. Um KV cache reaproveita cálculos de atenção; ele não decide qual documento importa nem remove o histórico desatualizado. Mesmo uma requisição que aproveita bem o cache pode conter o material errado para a próxima decisão.

Um checklist curto para esta semana

Use esta lista em um agente com uma falha recorrente:

• Capture a entrada que o modelo de fato recebeu na decisão que falhou e identifique as evidências de que ele precisava.
• Reexecute a tarefa com evidências focadas e requisitos inalterados; compare a correção das respostas em casos representativos.
• Substitua a resposta de ferramenta com mais ruído por um trecho relevante e uma referência ao artefato completo.
• Defina um registro de continuidade para a compactação que preserve decisões, abordagens rejeitadas, restrições, fontes e trabalho pendente.
• Isole uma investigação separável no contexto limpo de um agente auxiliar, se a exploração for a origem do acúmulo.
• Coloque a mudança em produção somente se o fluxo retomado preservar os fatos necessários e reduzir a falha em questão; mantenha o comportamento anterior disponível para restauração.

Comece pela falha que você consegue reproduzir. Assim, a mudança terá um teste de aceitação claro, em vez de usar “menos contexto” como métrica de sucesso.

Perguntas frequentes sobre context rot

Context rot ainda é um problema?

A documentação atual da Anthropic sobre compactação continua descrevendo explicitamente a degradação da qualidade das respostas à medida que as conversas crescem. Isso sustenta a necessidade de continuar gerenciando o contexto, mas não estabelece o desempenho de todos os modelos atuais. Avalie o modelo e o fluxo que você coloca em operação.

Como evitar o context rot?

Mantenha as instruções atuais e as evidências necessárias, remova material obsoleto ou redundante, compacte o histórico com cuidado e recupere detalhes quando precisar deles. Isole tarefas paralelas que geram muito ruído quando isso for útil. Verifique se cada mudança preserva os fatos exigidos pela próxima ação.

O que causa o context rot?

O tamanho do contexto, a relevância do material ao redor e a forma de apresentar as informações podem afetar a confiabilidade. O estudo original não estabelece um único mecanismo por trás do fenômeno. No caso de um agente, inspecione as evidências fornecidas e o estado de trabalho antes de escolher uma correção.

Assine a newsletter para receber guias práticos sobre como desenvolver e operar fluxos de trabalho com IA.