Deterioração do contexto em agentes de IA: porque é que as tarefas longas perdem precisão e como evitá-la
Um guia sobre o que se acumula no contexto de um agente de IA, porque é que isso prejudica a precisão e como configurar tarefas que se mantêm fiáveis.

O que significa a deterioração do contexto para os agentes de IA
A deterioração do contexto em agentes de IA é a perda gradual de precisão que se instala à medida que o contexto de um agente se vai enchendo durante uma tarefa longa.
O contexto de um agente é a informação que o modelo tem disponível para o passo seguinte. Pode incluir instruções, mensagens anteriores, resultados de pesquisa e texto de sites ou ficheiros. À medida que o agente trabalha, pode acrescentar mais.
Por exemplo, imagine que a tarefa de um agente é encontrar fornecedores que entreguem no prazo de duas semanas. No início, o contexto contém apenas esse pedido. A meio da tarefa, o contexto incluirá também o texto de dezenas de sites de fornecedores, várias páginas de resultados de pesquisa e notas sobre os fornecedores que o agente já verificou.
Há um limite para a quantidade de contexto que um modelo consegue conter (chamado janela de contexto). A janela é medida em tokens, que são pequenos fragmentos de texto, normalmente uma palavra ou parte de uma palavra. A deterioração do contexto aumenta à medida que o contexto cresce, razão pela qual é mais provável que ocorra em tarefas longas com muitos passos.
À medida que a deterioração do contexto se agrava, o agente torna-se menos preciso. Pode seguir as instruções originais com menos rigor, ignorar detalhes ou confundir informação semelhante com aquela de que precisa.
Por exemplo, o agente pode começar a incluir fornecedores que demoram seis semanas, apesar de lhe ter sido pedido que encontrasse entregas em duas semanas. A instrução continua no contexto, mas já não orienta as escolhas do agente.
A deterioração do contexto não é o mesmo que simplesmente ficar sem espaço na janela de contexto. Quando o contexto de uma tarefa ultrapassa a janela, há material que é cortado ou a tarefa falha. A deterioração do contexto começa muito antes desse ponto, quando tudo ainda cabe.
Também não é o mesmo que o envenenamento do contexto (quando informação enganadora ou prejudicial entra no contexto do agente). Um agente com informação exata e completa pode, ainda assim, sofrer de deterioração do contexto.
Porque é que a deterioração do contexto acontece
A deterioração do contexto acontece porque a atenção de um modelo é limitada, mesmo quando a janela de contexto ainda tem espaço de sobra. Nos modelos de IA, atenção é o termo técnico para a forma como um modelo decide em que partes da entrada se deve basear ao escrever cada palavra de uma resposta. Todas as partes do contexto competem por essa atenção. Quanto mais texto houver, menos atenção recebe cada parte.
Por exemplo, a Chroma publicou um estudo sobre a forma como o comprimento da entrada afeta os modelos de IA. Testou 18 modelos da Anthropic, da OpenAI, da Google e da Alibaba. Num dos testes, os investigadores esconderam uma frase com um conselho de escrita no meio de uma longa coleção de ensaios. Depois, perguntaram ao modelo qual era o conselho.
Repetiram o teste muitas vezes, acrescentando mais texto de ensaios de cada vez. A frase e a pergunta nunca mudaram. Só mudou a quantidade de texto à sua volta.
Quanto mais texto os modelos tinham de ler, pior era o desempenho. Esta conclusão manteve-se em todos os testes do relatório. Os investigadores preveem que a quebra de precisão seria ainda maior em trabalho real com muitos passos, como a maioria das tarefas de agentes.
Como a deterioração do contexto pode afetar os agentes de IA
A deterioração do contexto manifesta-se normalmente de uma de quatro formas:
Perder de vista as instruções originais
O teste mais simples da Chroma pedia aos modelos que copiassem exatamente uma longa sequência de palavras repetidas, com uma palavra diferente inserida algures no meio. Era uma tarefa trivial, com uma instrução explícita. Mesmo assim, o desempenho caiu em todos os modelos à medida que o texto ficava mais longo. Alguns modelos começaram a produzir palavras que nem sequer estavam na entrada.
Numa tarefa de agente, o utilizador define normalmente restrições específicas no início, como um orçamento ou um formato obrigatório. O agente pode aplicá-las de forma menos consistente à medida que o contexto cresce. A causa é o comprimento total do contexto, não o sítio onde a instrução se encontra.
Detalhes perdidos a meio de uma tarefa
Os modelos de IA utilizam a informação de forma mais fiável quando esta se encontra mesmo no início ou mesmo no fim da entrada, segundo um estudo de Stanford de 2023. Num dos testes, os investigadores deram aos modelos um conjunto de 20 documentos e fizeram uma pergunta a que apenas um deles respondia. Quando esse documento aparecia em primeiro ou em último lugar, os modelos encontravam normalmente a resposta. Quando estava no meio do conjunto, falhavam-na com muito mais frequência. Os investigadores chamam a isto efeito de posição.
O mesmo padrão aplica-se aos agentes. A informação encontrada mais cedo numa tarefa pode ficar no meio de uma conversa longa, onde alguns modelos têm mais dificuldade em utilizá-la. No exemplo dos fornecedores, a lista final pode deixar de fora um bom fornecedor que o agente verificou a meio da tarefa.
Confundir informação semelhante
À medida que o contexto cresce, os agentes podem ter mais dificuldade em reconhecer que informação corresponde às suas instruções. Por exemplo, imagine que o utilizador pediu ao agente que encontrasse fornecedores que enviem “no prazo de duas semanas”. O site de um fornecedor diz “chega no prazo de 14 dias de calendário após a encomenda”. Numa tarefa curta, um agente provavelmente perceberia que significam o mesmo. Perdido entre dezenas de outras páginas de fornecedores, é mais provável que não estabeleça a correspondência.
Em alternativa, o agente pode começar a incluir resultados que não são relevantes. Imagine que o agente procura fornecedores de cadeiras de escritório. O site de um fornecedor promete entrega em duas semanas, mas apenas para secretárias. As cadeiras demoram seis semanas. O site usa as mesmas palavras que a instrução, por isso o agente pode acrescentar o fornecedor à lista na mesma. Os investigadores chamam a este tipo de informação um distrator. Parece relevante, mas não é, e por isso compete com a informação que importa.
O estudo da Chroma concluiu que ambos os problemas se agravavam à medida que aumentava a quantidade de texto à volta.
Erros difíceis de detetar
A deterioração do contexto não gera nenhuma mensagem de erro. O agente continua a trabalhar e devolve um resultado com ar de concluído. Isso faz com que os seus erros passem facilmente despercebidos.
Nos testes da Chroma, estes erros assumiram duas formas. Por vezes, um modelo dava com confiança uma resposta errada. No exemplo da pesquisa de fornecedores, o agente pode entregar uma lista de fornecedores organizada e bem formatada que inclui um fornecedor cujas condições de entrega interpretou mal.
Outras vezes, um modelo dizia que não conseguia encontrar informação que, na verdade, lá estava. Por exemplo, o agente pode entregar um relatório a dizer que nenhum fornecedor cumpre o limite de duas semanas quando vários o cumprem.
Como configurar tarefas de agente para reduzir a deterioração do contexto
Configurar corretamente as tarefas minimiza o impacto da deterioração do contexto e mantém o agente o mais preciso possível ao longo da tarefa. As boas práticas seguintes podem ajudar.
Redija a tarefa como uma incumbência
Uma incumbência clara mantém o contexto mais pequeno. O agente sabe quando terminou, por isso deixa de recolher material assim que tem o suficiente. Requisitos específicos também lhe dão algo concreto com que comparar cada página. Isso facilita ao agente a identificação da informação certa.
Antes de enviar uma tarefa, verifique se abrange três aspetos:
- A tarefa: o que o agente deve fazer e produzir, como “encontrar fornecedores e devolver uma lista restrita”.
- Os requisitos: os factos que o agente não consegue adivinhar, como o orçamento, o prazo, a morada de entrega e o destinatário do resultado.
- O resultado: o formato, a extensão e a estrutura, como “uma tabela com nome, preço por cadeira e prazo de entrega”.
Juntando tudo, a consulta da tarefa de fornecedores poderia ser assim:
“Encontre 10 fornecedores que consigam entregar 40 cadeiras de escritório no nosso escritório de Chicago no prazo de duas semanas, por menos de 250 $ por cadeira. Devolva uma tabela com o nome do fornecedor, o preço por cadeira, o prazo de entrega e uma ligação para a página do produto. A lista destina-se ao nosso gestor de escritório, que fará a encomenda.”
Mantenha cada tarefa focada
Uma tarefa com um único objetivo claro mantém o contexto pequeno. As tarefas longas também custam mais. Cada passo processa tudo o que foi recolhido até então, por isso um contexto sobrecarregado gasta mais créditos em cada passo.
Para um projeto com várias partes, divida-o:
- Enumere os entregáveis separados, por exemplo uma pesquisa de fornecedores, uma comparação de preços e um e-mail para o fornecedor escolhido.
- Execute cada entregável como uma tarefa própria.
- Passe apenas o resultado final de uma tarefa para a seguinte. Por exemplo, carregue a tabela de fornecedores como ficheiro para iniciar a tarefa de comparação, em vez de continuar no tópico que a produziu.
Assim, a tarefa de comparação começa com uma única tabela em vez de todas as páginas.
Indique ao agente as fontes certas
Cada página que o agente lê aumenta o seu contexto, incluindo os menus, os anúncios e o texto padrão à volta da parte útil. Dar diretamente as fontes ao agente reduz esse ruído.
Carregue os ficheiros de que a tarefa depende, como a lista de fornecedores aprovados, anexando-os à consulta. Quando o agente tiver de pesquisar na Web, indique os sites que vale a pena pesquisar, como dois diretórios de fornecedores de confiança.
Ligue as ferramentas onde a informação se encontra. Por exemplo, no Perplexity Computer, abra Conectores na barra lateral e ative as aplicações de que a tarefa precisa, como o Google Drive ou o Slack. Depois, mencione-as na consulta: “Utilize as especificações das cadeiras que estão no nosso Google Drive.” Ligue apenas as aplicações relevantes, uma vez que cada conector ocupa parte do contexto do agente.
Se a informação estiver numa aplicação que não consta da lista de Conectores, poderá ainda assim ser possível ligá-la. Muitas aplicações oferecem um conector MCP (Model Context Protocol), uma forma padrão de as ferramentas de IA se ligarem a outro software. O Computer pode utilizá-los juntamente com os conectores incorporados. Numa conta empresarial, poderá ser necessário que um administrador os ative primeiro.
Peça uma verificação final face às instruções
Termine a consulta com um passo de revisão que indique as restrições mais importantes:
“Antes de terminar, verifique cada fornecedor face a estes requisitos: entrega no prazo de duas semanas e menos de 250 $ por cadeira. Assinale os que não cumprirem esses requisitos em vez de os excluir.”
As restrições continuam no início do contexto. O passo de revisão dá ao agente um motivo para comparar o resultado final com as restrições, em vez de depender de as instruções manterem a sua influência ao longo de todos os passos.
Além disso, pedir-lhe que assinale os problemas, em vez de simplesmente eliminar esses resultados, torna os erros mais fáceis de detetar (como rejeitar um fornecedor que promete a chegada no prazo de 14 dias de calendário por não usar as palavras “duas semanas”).
Reveja o trabalho em pontos de controlo
Em tarefas mais longas, inclua um ponto de controlo na consulta:
“Comece por encontrar 20 fornecedores candidatos e depois pare. Vou confirmar a lista antes de recolher os preços.”
Compare a lista restrita com as instruções originais. Corrija o que estiver errado numa mensagem de seguimento e depois deixe o agente continuar. Os erros detetados nesta fase não se propagam a todos os passos seguintes.
Inicie uma nova tarefa quando uma se desviar do rumo
Se o agente repetir o mesmo erro depois das correções, inicie uma nova tarefa. Cada correção acrescenta mais texto a um contexto que já é longo. Em vez disso, crie uma nova tarefa. Volte a indicar as instruções, carregue qualquer bom resultado da primeira tentativa e recomece.
Alguns agentes fazem automaticamente uma versão disto, um processo chamado compactação. À medida que uma tarefa se torna longa, o agente substitui o material mais antigo, como o texto completo das páginas que leu no início, por um breve resumo do que encontrou. O Portable Computer da Perplexity compacta o contexto desta forma, para que o modelo se mantenha dentro da quantidade que consegue gerir bem.
Também é importante iniciar uma nova tarefa se o objetivo mudar. Um tópico que começou como uma pesquisa de fornecedores não deve transformar-se também numa revisão de contratos.
Transforme instruções repetidas numa Skill
Algumas instruções surgem em todas as tarefas de um determinado tipo, como um formato de tabela preferido, uma lista de fornecedores a evitar ou um passo de revisão padrão. No Computer, estas podem ser guardadas como uma Skill, um conjunto reutilizável de instruções que o agente segue sempre. Uma Skill incorpora as outras boas práticas em todas as tarefas que a utilizam.
Para configurar uma:
- Escolha uma tarefa que surja com frequência, como a pesquisa de fornecedores.
- Anote as instruções que dá sempre: o formato, as verificações, as fontes a utilizar ou a evitar.
- Guarde-as como uma Skill. As instruções já escritas em Markdown podem ser importadas diretamente.
- Mencione a Skill pelo nome em consultas futuras: “Utilize a Skill de pesquisa de fornecedores para encontrar fornecedores de cadeiras para o escritório de Denver.”
Como a Perplexity aborda o contexto no trabalho de agentes
O Perplexity Computer gere tarefas longas de formas que mantêm o contexto de cada modelo pequeno e relevante. Três aspetos da sua conceção limitam a quantidade que um modelo tem de ler de uma só vez.
Dividir o trabalho entre subagentes
O Computer divide um pedido em tarefas e subtarefas e depois cria subagentes para as executar. Cada subagente trabalha numa parte do trabalho no seu próprio contexto. Na tarefa dos fornecedores, um subagente pode pesquisar preços enquanto outro verifica as condições de entrega. Nenhum deles tem de ler tudo o que o outro leu.
Manter o trabalho em ficheiros
Cada tarefa do Computer tem o seu próprio espaço de trabalho, com os seus próprios ficheiros, navegador web e ferramentas. O agente pode guardar o trabalho num ficheiro, como uma tabela atualizada continuamente com os fornecedores que já verificou. Depois, só volta a abrir esse ficheiro quando precisa dele.
Selecionar passagens relevantes dos resultados de pesquisa
As páginas web estão cheias de material de que o modelo não precisa, como menus, anúncios, metadados e texto sobre outros temas. A compressão de contexto sensível à consulta elimina tudo isso. Antes de uma página chegar ao modelo, a Perplexity mantém apenas as frases relacionadas com a consulta.
Explore dicas, guias e tarefas de exemplo para o Perplexity Computer para pôr estes passos em prática.
Perguntas frequentes
A deterioração do contexto é o mesmo que alucinação?
Não, mas estão relacionadas. Uma alucinação é qualquer resposta que afirma algo falso ou sem fundamento. A deterioração do contexto é uma das condições que tornam as alucinações mais prováveis, a par de outros erros, como instruções ignoradas e detalhes que escapam.
Uma consulta melhor pode resolver a deterioração do contexto?
Uma consulta clara reduz a deterioração do contexto ao manter a tarefa focada. No entanto, não consegue impedir que o contexto cresça. Numa tarefa suficientemente longa, o agente continua a recolher mais do que consegue utilizar bem, razão pela qual dividir o trabalho e verificá-lo ao longo do caminho importa tanto como a própria consulta.
A deterioração do contexto afeta os chats de IA comuns, e não apenas os agentes?
Sim. Num chat, o contexto é toda a conversa até ao momento, incluindo todas as mensagens e quaisquer documentos colados ou carregados nela. Um tópico que dura há horas e abrange vários temas pode produzir os mesmos erros que uma tarefa longa de um agente. Iniciar um novo tópico para cada novo tema mantém cada conversa focada.
Quão longa pode ser uma tarefa antes de surgir a deterioração do contexto?
Não há um ponto fixo. Depende do modelo e da tarefa. Os modelos no dispositivo com janelas de contexto de 260 000 tokens, por exemplo, começam a ter dificuldades a partir de cerca de 100 000 tokens, muito aquém do seu limite. Além disso, o declínio é gradual e não repentino.