Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Память LLM-агента научили хранить не только текущий факт, но и цепочку замен, конфликтов и откатов. В нерецензированном препринте Bowen Qin и Yao Lu из National University of Singapore, где все числа получили сами авторы, такая память сохранила правильный ответ на длинной цепочке исправлений, тогда как чтение истории при каждом запросе стало ошибаться. Для продукта это предлагает менять не модель поиска, а формат состояния, если агент месяцами ведёт один процесс.
Почему поиск по истории возвращает устаревшие факты
Обычная память агента часто работает как архив. Она сохраняет сообщения, заметки или фрагменты диалога, а затем извлекает подходящие записи по запросу. Релевантность при этом не означает актуальность: старое значение может точнее совпасть с формулировкой вопроса и вытеснить новое.
Например, пользователь сначала сообщает личный рекорд в беге, а через несколько месяцев называет улучшенный результат. Старое сообщение прямо отвечает на будущий вопрос о рекорде, поэтому поиск может вернуть именно его. Модель каждый раз заново решает, какой записи доверять, и способна разрешать один конфликт по-разному в соседних запросах.
CRUD-память поступает иначе: она меняет запись сразу при поступлении нового факта. Чтение упрощается, но ошибочное обновление стирает предыдущее значение. Если пользователь позднее отзовёт исправление, восстановить состояние уже не из чего.
MoM сочетает оба свойства: фиксирует новое состояние при записи и не удаляет вытесненный факт. Авторы называют этот принцип фиксацией при поступлении (commit on arrival). Агент читает готовое текущее значение, но при необходимости может проследить, что оно заменило и на каких наблюдениях основано.
Как граф происхождения данных хранит замены и конфликты
Реализация P-Mem представляет память как граф происхождения данных. В нём есть исходные наблюдения, версии фактов, операции обновления и отметки об отзыве. Связи показывают, какое значение поддерживает наблюдение, что было вытеснено и какие варианты пока противоречат друг другу.
Для каждого смыслового ключа граф выставляет одно текущее значение на активную границу. Например, разные формулировки вроде «рекорд на дистанции» и «лучшее время» система старается сопоставить с одной ячейкой: сначала по смысловой близости ключей, затем короткой проверкой. Иначе новое значение попадёт в соседнюю запись, а старое останется активным.
Каждое наблюдение запускает типизированную операцию. Система может принять новое значение, отклонить прежнее, записать альтернативу без выбора победителя, отозвать текущую версию, разрешить конфликт или лишь добавить подтверждение. Граф только дописывается: старые узлы меняют статус, но не исчезают.
При отзыве ошибочного обновления система проходит по связи замещения и возвращает предыдущее значение. Если два источника называют разные переговорные комнаты без признака приоритета, P-Mem сохраняет конфликт открытым, а не выбирает последнее сообщение. Последующее уточнение разрешает его один раз, после чего все запросы читают уже зафиксированный результат.
Базовая LLM при этом не меняется. Отдельный разметчик извлекает факты и выбирает операцию, а детерминированный слой строит представление для чтения. Ошибка разметчика всё ещё может временно сделать неверный факт текущим, но сохранённая история позволяет исправить его после нового сигнала.
Когда P-Mem меняет архитектурные планы
Метод проверяли на LongMemEval-s с историями диалогов, на управляемых цепочках исправлений ALFWorld-Revision и на потоках взаимосвязанных фактов MemoryAgentBench. Сравнение охватывало архивный поиск, CRUD-память, плоское хранилище с порядком записей и графы, где актуальность определяет время. Так работа разделяет две задачи: найти относящийся к вопросу факт и определить, действует ли он сейчас.
На LongMemEval-s P-Mem показала сопоставимую с сильнейшим поисковым вариантом точность при примерно в 4 раза меньшем контексте для чтения. Отсечение устаревших реплик снизило долю старых ответов с 19,4% до 10,9%. На самой длинной цепочке ALFWorld-Revision состояние, зафиксированное при записи, сохранило точность 100%, а сборка порядка событий во время запроса дала 25%.
Архитектура относится прежде всего к агентам, которые долго ведут изменяемое состояние: предпочтения пользователя, параметры заказа, бюджеты, местоположение объектов или этапы процесса. Если команда сейчас хранит такие сведения как набор извлекаемых заметок, отдельный слой текущих значений может убрать повторное разрешение одних и тех же конфликтов и сократить контекст.
Полностью заменять поиск работой не предлагается. На естественных историях качество по-прежнему зависит от того, правильно ли система извлекла факт и объединила разные формулировки одного ключа. Практический план выглядит как сочетание: поиск находит нужную область памяти, а граф состояния решает, какое значение в ней действует и как откатить ошибочное обновление.
Источники
Иллюстрация: рисунок из статьи «MoM: Memory of Memory», Bowen Qin, Yao Lu, CC BY 4.0
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
