Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Долговременную память LLM-агента научились упорядочивать без перезаписи исходных фактов. Команда Jianjie Zheng представила ROAM; в препринте, который не прошёл рецензирование и содержит только замеры авторов, метод повысил точность ответов максимум на 29,8 процентного пункта по сравнению с лучшим способом из выбранных для сравнения. Для архитектуры агента это означает, что хранение истории можно отделить от решения, какие сведения попадут в контекст ответа.
Каждое наблюдение хранится как неизменяемая атомарная запись — короткий текст с одним фактом. ROAM определяет, независима ли новая запись от прежней, равнозначна ей, уточняет её, уступает ей по полноте или конфликтует с ней. Затем фиксированные правила назначают записям роли: актуальная становится основной, а повтор, менее полный или устаревший факт остаётся подтверждающим.
Для ответа система объединяет совместимые подробности и изменения во времени в компактное представление основной записи. Поиск работает только по таким представлениям, поэтому дубликаты и прежние состояния не конкурируют за место в контексте. Подтверждающие записи при этом сохраняются: по ним можно восстановить источник и историю изменения факта.
Самый крупный разрыв получился при восьми мешающих записях и бюджете памяти в 256 токенов. ROAM лучше сохранял в контексте источники, необходимые для ответа: их полнота выросла на 15,6 пункта, а доля токенов из мешающих записей снизилась на 11,5 пункта. Выигрыш возник не из-за более длинного контекста, а из-за другого отбора содержимого.
Метод проверяли на LongMemEval Controlled, исходном LongMemEval и MEME-Post с моделями семейств Gemma и Qwen в роли диспетчера памяти. У всех сравниваемых способов были одинаковые входные записи, модель поиска и генератор ответа. Проверка охватывает короткие извлечённые факты, длинные истории диалогов и вопросы после изменения состояния; иерархическую и событийную память работа не рассматривает.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
