Журнал · Rit.work

LMLineage связывает ответы агента с исходным контекстом

LMLineage отслеживает источники каждого предложения агента и выборочно сокращает устаревший контекст, не запуская генератор повторно.

Rit.work
Студия разработки
18 ноября 2026 г.3 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Появилась система, которая связывает каждое предложение LLM-агента с поддерживающими его фрагментами контекста. В не рецензированном препринте Lenovo Global Security Lab, где числа получили сами авторы, быстрый режим LMLineage оказался одновременно точнее и быстрее полного перебора исходных предложений. Такой слой можно добавить к работающему агенту, не открывая его веса и не запуская модель повторно.

Как ответ связывают с конкретным фрагментом

LMLineage работает рядом с агентом как отдельный сервис. Он получает системные и пользовательские сообщения, найденные документы, результаты инструментов, записи памяти и ответы модели. Основной путь генерации не ждёт трассировку: сервис обрабатывает завершённый ход асинхронно.

Система делит ответ на предложения, а входные документы — на доступные для сопоставления фрагменты. Для каждого предложения она ищет в каждом документе непрерывное окно со сходным смыслом. Сначала алгоритм сравнивает представления отдельных слов и находит подходящую область, затем сопоставляет векторное представление всего предложения с найденным окном.

Это отличается от полного перебора всех входных предложений. В LMLineage от каждого документа в итоговом сравнении участвует только его лучшее окно. Поэтому длинная веб-страница не получает преимущество лишь из-за того, что содержит больше случайно похожих фраз.

Результат хранится как набор из источника, его идентификатора и уверенности. Идентификатором может быть адрес документа, имя файла или название модели. Часть уверенности, которую нельзя отнести ко входному контексту, система записывает на внутренние знания модели. Если агент использует прежний ответ в следующем ходе, происхождение переносится дальше, а не теряется внутри истории диалога.

Доступ к весам генератора не нужен, но вычисления не бесплатны: сервис строит векторные представления текста и ищет окна. Отсутствие дополнительного прогона означает, что LMLineage не просит саму LLM ещё раз объяснить или процитировать ответ.

Почему выборочное сокращение зависит от качества трассировки

Поверх этих связей авторы построили выборочное сокращение контекста. Сервис отмечает, какие документы давно не поддерживали новые ответы. Когда доля такого текста пересекает заданный порог, агент заменяет только устаревшие документы короткими конспектами, а остальную историю оставляет без изменений.

Пользовательские инструкции и содержимое памяти исключены из автоматического сокращения. Это важное отличие от полной суммаризации истории: правило вроде «не удалять письма» остаётся дословно, даже если модель давно на него не ссылалась. Если трассировка не успела завершиться или не нашла уверенный сигнал, система ничего не переписывает.

Быстрый поиск окна определял правильный тип источника точнее полного перебора — разрыв доходил до 38 процентных пунктов. Одновременно он работал примерно в 17 раз быстрее. В воспроизведённых длинных сессиях обработка хода занимала около секунды и не замедлялась при накоплении 40 ходов.

С сокращением контекста результат осторожнее. Полнота обнаружения устаревших документов составила 30%, хотя ложных срабатываний не было. Система редко удаляла не тот источник, но часто не замечала документ, который уже перестал влиять на ответы. Причина — ошибки самой трассировки: если веб-фрагмент ранее приписали пользовательскому вопросу, его дальнейшее устаревание отследить нельзя.

Точность проверяли на 71 размеченном предложении из 10 китайских веб-сценариев. Скорость и поведение в диалогах дополнительно оценивали на 90 ходах, созданных gpt-4o-mini, qwen3.8-27b и deepseek-v4-flash. Эти условия показывают работу прототипа на веб-вопросах и нескольких генераторах, но не дают оснований переносить точность на другие языки и корпоративные документы без своей проверки.

Что меняется в планах продуктовой команды

Работа даёт практическую схему для аудита агента без перестройки его логики. События сессии можно копировать в боковой сервис, хранить ссылки на исходные позиции и показывать оператору, откуда агент взял спорную фразу или команду. Такой слой подходит для разбора инцидентов, контроля памяти и поиска ответов, основанных на заражённом документе.

Автоматически сокращать рабочий контекст только по сигналу LMLineage пока рискованно: высокая точность срабатывания сочетается с низкой полнотой. Разумный первый этап — теневой режим, в котором система предлагает кандидатов на удаление, но не меняет историю. Собственные журналы покажут, путает ли она пользовательский запрос с найденными документами в конкретном продукте.

Для агентов с длинными сессиями потребуется отдельно заложить вычислительный ресурс. На GPU трассировка успевала работать рядом с диалогом, тогда как испытанный авторами сервер без GPU пропускал срок ожидания на крупных контекстах. Асинхронность защищает время ответа пользователю, но не гарантирует, что решение о сокращении будет готово вовремя.

Главный результат работы — не готовый диспетчер памяти, а отделение наблюдаемости от самой LLM. Команда может внедрить трассировку как независимый журнал происхождения данных, а автоматическое удаление включать позже, после проверки на своих источниках и сценариях.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу