Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Многоязычную LLM научили находить подтверждения в коллекциях документов без отдельного поискового модуля. В препринте, который не прошёл рецензирование и содержит замеры самих авторов, MARS обошла методы с обычным поиском и прямым доступом к корпусу. Такой подход позволяет отказаться от векторного индекса, но переносит расходы и сложность в обучение агента и выполнение команд.
Как агент ищет по сырому корпусу
Обычная система с поисковым дополнением сначала превращает документы в числовые представления, строит индекс и по смысловой близости выбирает фрагменты для LLM. MARS убирает этот промежуточный слой: модель сама выбирает языковой корпус, составляет команду оболочки и получает найденный текст.
После каждого ответа корпуса модель решает, что делать дальше. Она может уточнить выражение, добавить фильтр, перейти к документам на другом языке или завершить поиск. Поэтому качество зависит не от ранжирования готового поискового модуля, а от того, насколько точно модель формулирует последовательность команд.
Точный поиск чувствителен к написанию имён. Переведённое название компании, места или произведения может не совпасть с формой, которая встречается в документах. Простая смена языка запроса эту проблему не решает: мешают транслитерация, сокращения и местные варианты имени.
Команда Beijing Jiaotong University и WeChat AI добавила привязку сущностей к самому корпусу. Если найденный фрагмент похож на вводную статью об объекте, система извлекает из него заголовок и альтернативные имена, а затем предлагает модели использовать их как точные поисковые ключи.
При пустом результате MARS переносит выражение в английский корпус, который служит опорным, и пытается найти подходящую форму там. Для этого не нужны отдельный переводчик, словарь сущностей или дополнительная языковая модель: ключи берутся только из доступных документов.
Одного показа ключа недостаточно, поэтому обучение поощряет модель лишь тогда, когда она повторно использовала найденную форму и в итоге дала правильный ответ. Так агент учится не просто собирать варианты имён, а встраивать их в следующую команду.
Как награда сокращает повторные поиски
Обучение только по финальному ответу плохо объясняет модели, где испортилась поисковая цепочка. Агент может несколько раз запускать почти одинаковые команды, не получая новых свидетельств, но штраф приходит лишь после ошибки в конце.
MARS сравнивает команды по общим фрагментам и объединяет близкие варианты. Затем система оценивает долю самостоятельных запросов во всей цепочке. Награду за разнообразие получает только траектория с правильным ответом, поэтому бессмысленная смена формулировок не помогает набрать баллы.
Полная награда объединяет точное совпадение ответа с эталоном, использование найденных в корпусе имён, отсутствие повторов и штраф за слишком длинную цепочку. Эту схему авторы называют оптимизацией поисковой политики с учётом полезности, URPO. Она основана на обучении с подкреплением: модель закрепляет последовательности действий, которые привели к правильному ответу с меньшим числом лишних шагов.
Что результаты меняют в архитектурных планах
На MKQA для знакомых языков MARS получила 40,6% точных совпадений против 37,1% у Grepseek с той же базовой моделью. Точное совпадение означает, что нормализованный ответ полностью совпал с эталоном; разница с лучшим конкурентом статистически значима.
Среднее число поисковых команд оказалось на 39% ниже, чем у Grepseek. Доля повторных запросов составила 4,9% против 16,4%. Это важно для архитектуры без индекса: она экономит на предварительной обработке коллекции, но оплачивает поиск во время каждого запроса, поэтому длина цепочки прямо влияет на задержку и расход токенов.
Работу проверяли на Qwen3.5-4B и Qwen3.5-9B. Для MKQA использовали по 1000 тренировочных вопросов на язык и оценивали перенос между 13 языками, включая языки вне обучения; MLQA охватывал 7 языков. Методы сравнивали с обычными и агентными вариантами поиска, а совместимость с одноязычным сценарием дополнительно проверяли на HotpotQA.
MARS меняет планы команд, которые владеют корпусом, часто его обновляют и могут выполнять точные команды по исходным документам. Им стоит считать не только качество поиска, но и полную стоимость контура: подготовку индекса, его обновление, обучение агента и онлайн-взаимодействия с корпусом.
Заменять существующий RAG только по этим результатам рано. Эксперименты относятся к вопросно-ответным задачам и двум размерам одной линейки моделей, а сам прямой поиск остаётся чувствительным к написанию сущностей. Если корпус редко показывает альтернативные имена, механизм привязки получает меньше полезных ключей; в такой системе сочетание точных команд и смыслового поиска может оказаться практичнее полного отказа от поискового модуля.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
