Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Память LLM-агента научились вести так, чтобы прежний факт оставался доступен, но не выглядел актуальным. В препринте Zhejiang Wanli University, который не проходил рецензирование и содержит замеры самих авторов, одна метка «исторический» повысила точность ответов до 55,95 процентного пункта. Для продуктов с долгой историей диалога это аргумент не перезаписывать профиль пользователя, а хранить версии его состояния.
Как факт превращается в цепочку версий
TEM группирует записи по субъекту и отношению. Адреса одного пользователя образуют одну цепочку, места работы — другую. Значение факта не входит в ключ группы, поэтому новый адрес дополняет историю, а не создаёт независимую запись.
Каждая запись содержит само утверждение, исходную сессию и её позицию в истории. Когда появляется новое значение, TEM добавляет его в группу и помечает предыдущие значения как исторические. Их содержание и связь с исходным диалогом сохраняются.
Статус вычисляется по полной группе до поиска. Поэтому старый адрес не станет текущим только из-за того, что поиск не нашёл более новую запись. Обычная схема, в которой актуальность определяют уже после поиска, допускает такую ошибку.
При ответе TEM сначала выбирает факты по смысловой близости к вопросу. Возраст записи не снижает её оценку: старое значение может понадобиться для вопроса о прошлом. Затем система располагает найденные версии по порядку исходных сессий и добавляет к заменённым значениям явную метку.
Структурированных фактов недостаточно для событий, условий и связей между несколькими репликами. Поэтому TEM дополняет их краткими описаниями событий и исходными фрагментами диалогов. Модель, которая извлекает факты и готовит ответ, при этом не дообучают.
Правило рассчитано на явные обновления однозначных свойств. Оно считает порядок сессий порядком изменений, хотя пользователь может позже рассказать о более раннем событии. Конфликтующие значения внутри одной сессии TEM также не разрешает, а несколько одновременно допустимых предпочтений нельзя без дополнительной логики делить на текущие и исторические.
Почему служебная метка меняет ответ
Основную проверку провели на 420 вопросах о месте жительства, занятии и напитках. В историях встречались вопросы как о текущем состоянии, так и о значении перед конкретным обновлением. Эксперимент повторили с четырьмя открытыми моделями, не меняя набор найденных фактов и их порядок.
Метрика считала ответ правильным, если он содержал нужную сущность без учёта регистра. С TEM доля таких ответов составила 75,71–97,62% в зависимости от модели. На вопросах о прежнем месте жительства результат ни у одной модели не опустился ниже 96,67%.
Главное сравнение отделяет работу поиска от работы временной разметки. Контрольный вариант получал те же версии в том же порядке, но без меток. Значит, прирост нельзя объяснить более удачным поиском: модели требовалась явная подсказка, что найденное значение уже заменили.
TEM также передавал модели почти вдвое меньше текста, чем RAG, который извлекал целые сессии. Короткие структурированные записи экономят контекст, но сохраняют связь с первоисточником, откуда при необходимости можно забрать подробности.
Меняет ли TEM планы команд
Для агента, который должен помнить меняющийся профиль пользователя, работа предлагает конкретное изменение архитектуры. Вместо одной записи «текущий адрес» стоит хранить неизменяемую цепочку версий, источник каждой версии и вычисленный заранее статус. В контекст ответа нужно передавать не только значение, но также порядок и признак того, что запись заменена.
Это не требует менять базовую LLM или обучать отдельную модель памяти. Механизм можно разместить между хранилищем и генератором: извлечь кандидатов, восстановить их порядок, добавить статусы и только затем собрать доказательства для ответа. Такой слой особенно уместен там, где прежнее состояние само остаётся предметом запросов.
На более широком наборе LoCoMo проверка охватила 1540 вопросов о нескольких сессиях. При одинаковом лимите доказательств в 1024 токена гибридная память TEM обошла RAG на 7,92 и 10,58 процентного пункта для двух базовых моделей.
Но на LoCoMo исторические метки почти не изменили общий результат относительно варианта без них. В таких вопросах требуются детали событий и связи между разными фрагментами разговора, поэтому преимущество дала организация гибридной памяти в целом. Одного версионирования недостаточно, чтобы заменить поиск по исходным репликам или работу с составными вопросами.
Практический вывод узкий: если продукт хранит обновляемые однозначные факты, перезапись уничтожает полезную историю, а простое накопление перекладывает выбор версии на LLM. TEM показывает промежуточный вариант — хранить всё, но явно сообщать генератору временной статус каждой найденной записи.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
