Деградация контекста у ИИ-агентов: почему в длительных задачах снижается точность и как это предотвратить

Руководство о том, что накапливается в контексте ИИ-агента, почему это снижает точность и как ставить задачи, чтобы они выполнялись надёжно.

Diagram of an AI agent's context growing from task start to late in a task: instructions are joined by stacked search results, websites, documents, and notes, while a bar showing how closely the agent follows the original instructions shrinks.

Что деградация контекста означает для ИИ-агентов

Деградация контекста (context rot) у ИИ-агентов — это постепенная потеря точности, которая наступает по мере того, как контекст агента заполняется во время длительной задачи.

Контекст агента — это информация, доступная модели для следующего шага. Он может включать инструкции, предыдущие сообщения, результаты поиска и текст с веб-сайтов или из файлов. По мере работы агент может добавлять в него новые данные.

Допустим, агенту поручено найти поставщиков, которые доставляют товар в течение двух недель. В начале его контекст содержит только этот запрос. К середине задачи в контексте окажутся также тексты десятков сайтов поставщиков, несколько страниц результатов поиска и заметки о том, каких поставщиков агент уже проверил.

Объём контекста, который может удерживать модель, ограничен (этот предел называется контекстным окном). Размер окна измеряется в токенах — небольших фрагментах текста, обычно это слово или часть слова. Деградация контекста усиливается по мере его роста, поэтому чаще всего она возникает в длительных задачах с множеством шагов.

По мере усиления деградации контекста агент становится менее точным. Он может хуже следовать исходным инструкциям, упускать детали или принимать похожую информацию за ту, которая ему нужна.

Например, агент может начать включать в список поставщиков, которым на доставку нужно шесть недель, хотя ему было поручено найти доставку за две недели. Инструкция по-прежнему есть в его контексте, но больше не влияет на решения агента.

Деградация контекста — это не то же самое, что простая нехватка места в контекстном окне. Когда контекст задачи выходит за пределы окна, часть материала обрезается или задача завершается сбоем. Деградация контекста начинается задолго до этого момента, пока всё ещё помещается в окно.

Это также не то же самое, что отравление контекста (когда в контекст агента попадает вводящая в заблуждение или вредоносная информация). Даже агент с точной и полной информацией может столкнуться с деградацией контекста.

Почему возникает деградация контекста

Деградация контекста возникает потому, что внимание модели ограничено, даже если в её контекстном окне ещё остаётся свободное место. В ИИ-моделях вниманием (attention) называют механизм, с помощью которого модель решает, на какие части входных данных опираться при написании каждого слова ответа. Все части контекста конкурируют за это внимание. Чем больше текста, тем меньше внимания достаётся каждой части.

Например, компания Chroma опубликовала исследование о том, как длина входных данных влияет на ИИ-модели. В нём протестировали 18 моделей от Anthropic, OpenAI, Google и Alibaba. В одном из тестов исследователи спрятали предложение с советом о писательском мастерстве внутри длинного сборника эссе. Затем они спросили модель, в чём заключался этот совет.

Тест повторили много раз, каждый раз добавляя больше текста эссе. Предложение и вопрос не менялись. Менялся только объём текста вокруг них.

Чем больше текста приходилось читать моделям, тем хуже они справлялись. Этот результат подтвердился во всех тестах отчёта. Исследователи предполагают, что в реальной многошаговой работе, как в большинстве задач агентов, точность падала бы ещё сильнее.

Как деградация контекста может влиять на ИИ-агентов

Обычно деградация контекста проявляется одним из четырёх способов:

Агент упускает из виду исходные инструкции

В самом простом тесте Chroma модели должны были точно скопировать длинную строку из повторяющихся слов, в которую где-то было вставлено одно другое слово. Это тривиальная задача с явной инструкцией. И всё же по мере увеличения длины текста качество работы снижалось у всех моделей. Некоторые модели начинали выдавать слова, которых во входных данных вообще не было.

В задаче для агента пользователь обычно задаёт конкретные ограничения в самом начале, например бюджет или требуемый формат. По мере роста контекста агент может применять их всё менее последовательно. Причина — в общей длине контекста, а не в том, где находится инструкция.

Упущенные детали из середины задачи

Согласно исследованию Стэнфордского университета 2023 года, ИИ-модели надёжнее всего используют информацию, расположенную в самом начале или в самом конце входных данных. В одном из тестов исследователи дали моделям набор из 20 документов и задали вопрос, ответ на который содержался только в одном из них. Если этот документ был первым или последним, модели обычно находили ответ. Если же он находился в середине набора, модели упускали его гораздо чаще. Исследователи называют это эффектом позиции.

Та же закономерность действует и для агентов. Информация, найденная на более раннем этапе задачи, может оказаться в середине длинного диалога, где некоторым моделям сложнее её использовать. В примере с поставщиками в итоговый список может не попасть хороший поставщик, которого агент проверил на полпути.

Путаница в похожей информации

По мере роста контекста агентам может становиться сложнее определять, какая информация соответствует их инструкциям. Допустим, пользователь поручил агенту найти поставщиков, которые отправляют товар «в течение двух недель». На сайте поставщика написано: «доставка в течение 14 календарных дней с момента заказа». В короткой задаче агент, скорее всего, заметил бы, что это одно и то же. Но среди десятков других страниц поставщиков он с большей вероятностью упустит это совпадение.

Кроме того, агент может начать включать нерелевантные результаты. Допустим, агент ищет поставщиков офисных кресел. Сайт одного поставщика обещает доставку за две недели, но только для столов. Кресла этот поставщик доставляет за шесть недель. На сайте используются те же слова, что и в инструкции, поэтому агент всё равно может добавить этого поставщика в свой список. Исследователи называют такую информацию дистрактором. Она выглядит релевантной, но таковой не является, и поэтому конкурирует с действительно важной информацией.

Исследование Chroma показало, что обе проблемы усугублялись по мере увеличения объёма окружающего текста.

Ошибки, которые трудно заметить

Деградация контекста не вызывает сообщений об ошибке. Агент продолжает работать и выдаёт результат, который выглядит завершённым. Поэтому его ошибки легко пропустить.

В тестах Chroma такие ошибки проявлялись в двух формах. Иногда модель уверенно давала неверный ответ. В примере с поиском поставщиков агент может предоставить аккуратный, хорошо оформленный список, в который входит поставщик, чьи условия доставки агент понял неправильно.

В других случаях модель сообщала, что не может найти информацию, которая на самом деле присутствовала. Например, агент может выдать отчёт о том, что ни один поставщик не укладывается в двухнедельный срок, хотя таких поставщиков несколько.

Как ставить задачи агенту, чтобы уменьшить деградацию контекста

Правильная постановка задач сводит к минимуму влияние деградации контекста и помогает агенту оставаться максимально точным на протяжении всей задачи. В этом помогут следующие рекомендации.

Формулируйте задачу как поручение

Чёткое поручение помогает сохранить контекст компактным. Агент знает, когда работа выполнена, поэтому прекращает собирать материалы, как только их становится достаточно. Конкретные требования также дают ему чёткие критерии для проверки каждой страницы. Так агенту проще найти нужную информацию.

Перед отправкой задачи убедитесь, что в ней есть три элемента:

  • Задача: что агент должен сделать и какой результат предоставить, например «найти поставщиков и составить шорт-лист».
  • Требования: факты, которые агент не может угадать, например бюджет, срок, адрес доставки и то, для кого предназначен результат.
  • Результат: формат, объём и структура, например «таблица с названием, ценой за кресло и сроком доставки».

В итоге запрос для задачи с поставщиками может выглядеть так:

«Найди 10 поставщиков, которые могут доставить 40 офисных кресел в наш офис в Чикаго в течение двух недель по цене до 250 $ за кресло. Представь результат в виде таблицы с названием поставщика, ценой за кресло, сроком доставки и ссылкой на страницу товара. Список предназначен для нашего офис-менеджера, который будет оформлять заказ».

Ограничивайте каждую задачу одной целью

Одна задача с одной чёткой целью помогает сохранять контекст компактным. Кроме того, длительные задачи обходятся дороже. На каждом шаге обрабатывается всё, что собрано к этому моменту, поэтому раздутый контекст расходует больше кредитов на каждом шаге.

Если проект состоит из нескольких частей, разделите его:

  1. Перечислите отдельные результаты работы, например поиск поставщиков, сравнение цен и письмо выбранному поставщику.
  2. Оформите работу над каждым результатом как отдельную задачу.
  3. Передавайте из одной задачи в следующую только готовый результат. Например, загрузите таблицу поставщиков в виде файла, чтобы начать задачу по сравнению, вместо того чтобы продолжать работу в треде, где эта таблица была создана.

Тогда задача по сравнению начинается с одной таблицы, а не со всех страниц сразу.

Укажите агенту нужные источники

Каждая страница, которую читает агент, пополняет его контекст, включая меню, рекламу и шаблонный текст вокруг полезной части. Если сразу предоставить агенту источники, этого шума станет меньше.

Загружайте файлы, от которых зависит задача, например список одобренных поставщиков, прикрепляя их к запросу. Если агенту нужно искать в интернете, назовите сайты, по которым стоит искать, например два проверенных каталога поставщиков.

Подключите инструменты, в которых хранится информация. Например, в Perplexity Computer откройте раздел «Коннекторы» на боковой панели и включите приложения, необходимые для задачи, например Google Drive или Slack. Затем упомяните их в запросе: «Используй характеристики кресел из нашего Google Drive». Подключайте только нужные приложения, так как каждый коннектор занимает часть контекста агента.

Если информация хранится в приложении, которого нет в списке коннекторов, его, возможно, всё равно удастся подключить. Многие приложения предлагают коннектор MCP (Model Context Protocol) — стандартный способ подключения ИИ-инструментов к другому программному обеспечению. Computer может использовать такие коннекторы наряду со встроенными. В корпоративном аккаунте их, возможно, сначала должен будет включить администратор.

Попросите выполнить финальную проверку на соответствие инструкциям

Завершите запрос шагом проверки, в котором перечислены самые важные ограничения:

«Прежде чем закончить, проверь каждого поставщика на соответствие этим требованиям: доставка в течение двух недель, цена до 250 $ за кресло. Отметь тех, кто не соответствует этим требованиям, вместо того чтобы исключать их».

Ограничения по-прежнему находятся в начале контекста. Шаг проверки даёт агенту повод сравнить итоговый результат с этими ограничениями, а не полагаться на то, что инструкции сохранят своё влияние на каждом шаге.

При этом просьба отмечать проблемы, а не просто отбрасывать такие результаты, помогает легче выявлять ошибки (например, когда агент отклоняет поставщика, который обещает доставку в течение 14 календарных дней, только потому, что тот не использует слова «две недели»).

Проверяйте работу на контрольных точках

Для более длительных задач добавьте в запрос контрольную точку:

«Сначала найди 20 потенциальных поставщиков, а затем остановись. Я подтвержу список, прежде чем ты начнёшь собирать цены».

Сверьте шорт-лист с исходными инструкциями. Исправьте всё, что не так, в следующем сообщении, а затем позвольте агенту продолжить. Ошибки, выявленные на этом этапе, не перейдут на все последующие шаги.

Начинайте новую задачу, если работа пошла не по плану

Если агент повторяет одну и ту же ошибку после исправлений, начните новую задачу. Каждое исправление добавляет ещё больше текста к и без того длинному контексту. Вместо этого создайте новую задачу. Сформулируйте инструкции заново, загрузите удачные результаты первой попытки и начните сначала.

Некоторые агенты делают нечто подобное автоматически — этот процесс называется сжатием (compaction). Когда задача становится длинной, агент заменяет более старый материал, например полный текст страниц, прочитанных в начале, кратким изложением того, что он нашёл. Portable Computer от Perplexity сжимает свой контекст именно так, чтобы модель оставалась в пределах объёма, с которым она хорошо справляется.

Также важно начинать новую задачу, если меняется цель. Тред, который начинался как поиск поставщиков, не должен превращаться ещё и в проверку договора.

Превратите повторяющиеся инструкции в навык

Некоторые инструкции повторяются в каждой задаче определённого типа, например предпочтительный формат таблицы, список поставщиков, которых следует избегать, или стандартный шаг проверки. В Computer их можно сохранить как навык — многоразовый набор инструкций, которым агент следует каждый раз. Навык встраивает остальные рекомендации в каждую задачу, где он используется.

Чтобы настроить навык:

  1. Выберите задачу, которая возникает часто, например поиск поставщиков.
  2. Запишите инструкции, которые вы даёте каждый раз: формат, проверки, источники, которые нужно использовать или избегать.
  3. Сохраните их как навык. Инструкции, уже написанные в Markdown, можно импортировать напрямую.
  4. Указывайте навык в будущих запросах: «Используй навык поиска поставщиков, чтобы найти поставщиков кресел для офиса в Денвере».

Как Perplexity работает с контекстом в задачах агентов

Perplexity Computer выполняет длительные задачи так, чтобы контекст каждой модели оставался компактным и релевантным. Три особенности его архитектуры ограничивают объём информации, который модели приходится читать за один раз.

Распределение работы между субагентами

Computer разбивает запрос на задачи и подзадачи, а затем создаёт субагентов для их выполнения. Каждый субагент работает над своей частью задания в собственном контексте. В задаче с поставщиками один субагент может изучать цены, а другой — проверять условия доставки. Ни одному из них не нужно читать всё, что прочитал другой.

Хранение результатов работы в файлах

Каждая задача Computer получает собственное рабочее пространство со своими файлами, веб-браузером и инструментами. Агент может сохранять результаты работы в файл, например в постоянно обновляемую таблицу проверенных поставщиков. Затем он снова открывает этот файл, только когда тот ему нужен.

Отбор релевантных фрагментов из результатов поиска

Веб-страницы полны материалов, которые модели не нужны: меню, реклама, метаданные и текст на другие темы. Сжатие контекста с учётом запроса удаляет всё это. Прежде чем страница попадёт к модели, Perplexity оставляет только те предложения, которые относятся к запросу.

Изучите советы, руководства и примеры задач для Perplexity Computer, чтобы применить эти шаги на практике.

Часто задаваемые вопросы

Деградация контекста — это то же самое, что галлюцинации?

Нет, но эти явления связаны. Галлюцинация — это любой ответ, в котором утверждается что-то ложное или необоснованное. Деградация контекста — одно из условий, повышающих вероятность галлюцинаций, наряду с другими ошибками, такими как игнорирование инструкций и упущенные детали.

Может ли более удачный запрос устранить деградацию контекста?

Чёткий запрос уменьшает деградацию контекста, помогая сохранить фокус задачи. Однако он не может остановить рост контекста. При достаточно длинной задаче агент всё равно собирает больше информации, чем может эффективно использовать, поэтому разделение работы и её проверка по ходу выполнения так же важны, как и сам запрос.

Влияет ли деградация контекста на обычные чаты с ИИ, а не только на агентов?

Да. В чате контекстом является весь разговор на данный момент, включая каждое сообщение и все документы, вставленные или загруженные в него. Тред, который длится часами и затрагивает несколько тем, может приводить к тем же ошибкам, что и длительная задача агента. Если начинать новый тред для каждой новой темы, каждый разговор будет оставаться сфокусированным.

Насколько длинной может стать задача, прежде чем начнётся деградация контекста?

Фиксированного порога нет. Всё зависит от модели и задачи. Например, модели, работающие на устройстве, с контекстным окном на 260 000 токенов начинают испытывать трудности при превышении примерно 100 000 токенов — задолго до своего предела. Кроме того, снижение качества происходит постепенно, а не внезапно.