Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Память ИИ-агента научились пополнять только теми выводами из прошлого опыта, которые подтверждены наблюдениями. В препринте Yixu Huang и Jiaqi W. Ma система RIKA показала лучший сводный результат на всех проверенных моделях, хотя работа ещё не прошла рецензирование и все числа получили сами авторы. Для архитектуры агента это означает, что между извлечением опыта и его повторным использованием нужен отдельный слой проверки.
Почему сохранённый опыт ухудшает следующие задачи
Обычная память агента сохраняет факты, инструкции или выводы после выполненной задачи, а затем добавляет подходящие записи в контекст. Такая схема считает извлечённый текст полезным по умолчанию. Но правдоподобный вывод может опираться на случайное совпадение, относиться только к прежнему состоянию среды или требовать сведений, которых не будет при повторном использовании.
Для проверки этой проблемы авторы разобрали результаты Mem0, ACE, Trace2Skill и SkillOpt на потоке последовательных задач. Составные записи разделили на самостоятельные утверждения, после чего по одному удаляли их из памяти и повторно измеряли качество на будущих заданиях. Утверждение считали вредным, если без него агент работал статистически значимо лучше.
Вредными оказались от 12 до 33% проверенных утверждений. Ошибки возникали по трём основным причинам: знание зависело от недоступной позднее информации, не подходило к новой задаче или устаревало после изменения среды. Значит, качество памяти нельзя оценивать только по тому, насколько аккуратно модель пересказывает прошлую траекторию.
Показателен пример со схемой базы данных. Наблюдение может прямо подтвердить, что в текущей версии сумма заказа хранится в определённом поле. Но вывод о том, что это поле одинаково устроено во всех версиях, уже выходит за пределы полученного доказательства. Если сохранить оба утверждения на равных, локальный факт незаметно превратится в ненадёжное общее правило.
Как RIKA допускает знания в контекст
RIKA разделяет извлечение и допуск. Сначала система получает из траекторий факты, связи между ними, процедуры и правила выбора процедуры. Факты и конкретные действия служат основанием для более общих понятий и рекомендаций, поэтому абстрактные выводы не возникают отдельно от исходного опыта.
Затем составные записи делятся на атомарные утверждения. Для каждого сохраняются источник, область применимости, подтверждающие наблюдения и отношения с уже известными утверждениями. Это позволяет принять подтверждённую часть записи и отложить ту, которая пока остаётся предположением.
Если обратная связь среды прямо устанавливает утверждение в заявленных границах, оно сразу получает допуск. Например, результат проверки схемы подтверждает название поля в конкретной версии базы. Обобщение на другие версии остаётся в ожидании, пока последующие задачи не дадут достаточно подтверждений.
Новый опыт может поддержать, уточнить или опровергнуть сохранённое знание. RIKA сопоставляет утверждения по смысловым отношениям: они могут совпадать, уточнять друг друга, обобщать, пересекаться или противоречить. При противоречии система пересматривает прежний допуск, а устаревшие записи со временем забывает.
Для этого не нужны отдельные проверочные задания или повторный запуск старой среды. Доказательства поступают из того же потока задач, на котором работает агент. Главная архитектурная идея здесь не в новом формате заметок, а в состоянии знания: кандидат, подтверждённая запись и отвергнутое либо забытое утверждение должны храниться и обрабатываться по-разному.
Когда эту схему стоит закладывать в архитектуру
RIKA проверяли на шести текстовых потоках Continual Learning Bench и четырёх базовых моделях, включая задачи с базами данных, кодом, продажами и последовательными решениями. Параметры моделей оставались неизменными: агент учился только через внешний файл знаний, который добавлялся в контекст. Поэтому результаты прямо относятся к системам, где модель нельзя или невыгодно дообучать после каждой новой задачи.
RIKA получила лучший сводный показатель на каждой базовой модели и победила в 14 из 24 сочетаний модели и потока. Отрыв от сильнейшего конкурента по нормированному сводному показателю составил 0,046–0,081. На GPT-5.4 показатель вырос с 0,183 у ближайшего варианта до 0,232, но на отдельных потоках другие методы оставались лучше.
Командам, которые строят агента для повторяющихся операций, работа предлагает изменить конвейер памяти. Сырые выводы стоит сначала помещать в хранилище кандидатов, связывать с исходной обратной связью и областью применимости, а в рабочий контекст отдавать только допущенные утверждения. Извлечение при этом не должно само решать, заслуживает ли запись доверия.
Такая схема особенно уместна, когда среда меняется и агент регулярно получает проверяемый результат действий: ответ базы, состояние файла, результат выполнения кода или подтверждение операции. Работа охватывает только текстовые задачи с инструментами и внешний механизм памяти. Она не показывает, как тот же подход поведёт себя при физической обратной связи, обновлении параметров модели или в областях, где ошибку нельзя исправить следующим заданием.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
