Журнал · Rit.work

Память LLM-агента нужно настраивать под модель

Команда IBM проверила, когда LLM-агенту стоит передавать всю накопленную память, а когда лучше выбирать только подходящие правила.

Rit.work
Студия разработки
20 ноября 2026 г.4 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

LLM-агента можно учить на собственных прошлых запусках: повторяющиеся ошибки превращаются в правила, которые он получает перед новой задачей. В препринте команды IBM, который не прошёл рецензирование и содержит числа, полученные самими авторами, DeepSeek-V3.2 лучше работал со всей памятью, а gpt-oss-120b — с выбранным подмножеством. Значит, объём памяти надо настраивать под модель, а не фиксировать на уровне всей агентной системы.

Как журнал запусков превращается в правила

Система сохраняет успешные и неуспешные запуски агента. Модель читает каждый журнал и формулирует короткие указания: проверить страницы ответа API, уточнить сущность перед действием или не возвращать ответ, если пользователь его не просил.

Затем похожие указания объединяются. Для каждого итогового правила система хранит число исходных наблюдений, тип результата и задачу-источник. Сумма наблюдений до и после объединения должна совпадать, а указания, которые не удалось объединить, остаются без изменений.

Перед новой задачей агент получает либо весь набор, либо выборку. В выборку входит ядро из часто повторявшихся правил, к которому добавляются указания из похожих прошлых задач. Та же модель выполняет задания, извлекает уроки и объединяет их: отдельной модели-учителя и ручной разметки нет.

Систему проверяли на нескольких моделях и на 168 заданиях AppWorld, где агент пишет Python-код и вызывает API имитированных приложений. Доля выполненных задач показывает, сколько отдельных заданий прошло все проверки; более строгая доля завершённых сценариев засчитывает группу, только если прошли все варианты задания. Память строили по обучающей и настроечной частям, но несколько конфигураций сравнивали уже на тестовой части, поскольку отдельной выборки для выбора настроек не осталось. Большинство результатов получено в одиночных запусках.

Сильная модель использует длинный хвост правил

Без памяти DeepSeek-V3.2 выполнял 79,8% задач. С полным набором из 191 правила результат вырос до 89,3%. Промежуточные конфигурации давали промежуточный результат: по мере добавления памяти модель продолжала улучшаться.

У gpt-oss-120b зависимость оказалась другой. Небольшое подмножество, выбранное по частоте и сходству задач, дало 55,4%, тогда как полный набор — 51,2%. Лишние правила не вызывали явной ошибки: агент продолжал работать, но реже доводил задачу до правильного результата.

Единого правила «чем больше памяти, тем лучше» не получилось. GLM-5 уже находился на уровне, где память не изменила итог, а Gemma-4-31B почти не смогла ею воспользоваться. Основной прирост пришёлся на задания средней сложности, где агент и без подсказки был близок к правильному решению. Память не компенсировала задачи, которые слабая модель в принципе не умела выполнять.

Сжатие до аккуратного чек-листа тоже ухудшало результат. Значительная часть пользы находилась в редких ситуационных указаниях, каждое из которых встречалось лишь однажды. Поэтому хранить стоит полный набор, а сокращать контекст — при выдаче правил конкретному агенту.

Что менять в планах агентной команды

Работа меняет архитектурный план, если память сейчас реализована как один неизменный системный промпт. При замене базовой модели нельзя автоматически переносить прежний объём правил: сильной модели может пригодиться весь набор, а слабой — только ядро и несколько подходящих указаний.

  • Разделить хранение и выдачу. В хранилище остаются все правила, а перед запуском система выбирает нужную часть. Так редкие уроки не исчезают при сжатии, но и не перегружают каждый запрос.
  • Проверять несколько объёмов памяти для каждой модели. Практический набор конфигураций — запуск без памяти, ядро из повторяющихся правил, выборка по сходству задач и полный набор. Небольшие разрывы надо перепроверять: в работе разницу примерно в пять задач считали уровнем шума.
  • Сохранять происхождение правила. Если отбор использует частоту и исходную задачу, эти поля должны проходить через объединение без потерь. Автоматическая проверка должна сравнивать число наблюдений до и после обработки.
  • Отделить повторяемость от правильности. Частое правило не обязательно верно. Для постоянного обучения нужен сигнал о том, помогло ли указание, противоречит ли оно новым данным и не устарело ли.

Одно часто встречавшееся правило предлагало останавливать постраничный запрос, когда API вернул меньше записей, чем ожидаемый лимит. Агент предположил лимит 20, хотя API по умолчанию возвращал 5, и завершил обход после первой страницы. Ошибка исчезла, когда правило потребовало явно задавать размер страницы и продолжать запросы до пустого ответа.

В рабочей системе также нужны проверки на рост хранилища, число вызовов модели и ошибки API. Авторы столкнулись со сбоями, при которых память переставала записываться, но журналы выглядели правдоподобно. Без таких проверок команда может неделями оценивать не память, а незаметно отключённый путь записи.

Источники

Иллюстрация: рисунок из статьи «How Much Should an Agent Remember? Deployment Lessons from Self-Distilled Memory for LLM Agents», K. R. Jayaram, Vatche Isahagian, Aswath Vaithinathan Aravindan и др., CC BY 4.0

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу