Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Языковую модель научили самой собирать процедуру поиска под каждый вопрос: выбирать лексический или семантический поиск, объединять выдачу и возвращать только нужные документы. Работа KAIST AI и Meta Superintelligence Labs показывает, что модель Qwen3-4B с таким интерфейсом обошла все сравниваемые системы на Qwen3-8B; хотя препринт не рецензирован и числа получили сами авторы. Для продуктовой команды это превращает поиск из жёсткого конвейера в управляемую моделью программу, но добавляет песочницу и отдельный контур обучения.
Поиск становится короткой исполняемой программой
В обычной системе с дополнением ответов найденными данными инженер заранее выбирает поисковый движок, число кандидатов, правила повторной сортировки и объём документов, который попадёт в контекст. Агент может решить, когда искать и как сформулировать запрос, но не меняет саму процедуру.
Обучение программируемому поиску (Retrieval Program Learning, RPL) отдаёт это решение модели. Вместо одного вызова поиска она пишет короткую программу, которую песочница выполняет против заданного набора функций.
В него входят лексический и семантический поиск, объединение ранжированных списков, удаление дублей и повторная сортировка. Программа также может использовать переменные, условия, циклы и обычные операции над наборами данных.
Ключевое различие проходит между найденными документами и контекстом LLM. Программа может получить широкую выдачу, сохранить её в локальном состоянии, объединить результаты разных запросов и передать модели только то, что явно вывела. Поэтому объём поиска больше не обязан совпадать с объёмом текста, за который приходится платить вычислениями на каждом следующем шаге.
Например, модель может сделать два дополняющих запроса, собрать результаты разных поисковых методов, убрать повторы, заново отсортировать документы и вернуть несколько лучших. Для задач по всему корпусу она может обработать документы внутри программы и вывести уже агрегированный список идентификаторов, не помещая исходные тексты в контекст.
Мутация находит цепочки, которые пропускает обучение
Более свободный интерфейс расширяет пространство не только полезных программ, но и ошибок. Обучение с подкреплением (RL) обычно получает награду за правильный итоговый ответ и почти не узнаёт, какое промежуточное решение испортило поиск. Сложную цепочку из нескольких согласованных операций модель может ни разу случайно не собрать.
RPL дополняет обучение мутацией программ. Система берёт неудачную программу из свежих попыток, сохраняет её поисковые запросы и локально меняет структуру: заменяет поисковый метод, расширяет выдачу, объединяет списки или добавляет повторную сортировку.
Изменения задаёт типизированная грамматика, поэтому она не генерирует произвольный код. Каждый вариант исполняется, после чего проверяющий компонент определяет, нашла ли программа достаточно свидетельств. Подходящие варианты встраиваются в исходную последовательность действий, а модель заново продолжает решение.
Если поиск сработал, но итоговый ответ остался неверным, структуру программы всё равно используют для обучения, а сам ответ скрывают. Это позволяет отдельно закрепить удачный способ искать, не обучая модель ошибочному выводу. После короткого дообучения на проверенных вариантах система возвращается к RL и продолжает улучшать запросы и ответы.
Мутация затрагивает только последний поисковый ход. Изменение более ранней программы потребовало бы заново проиграть все последующие действия, которые могли зависеть от прежней выдачи.
Когда такой поиск стоит закладывать в архитектуру
Метод проверяли на версиях Qwen3 разного размера, обученных на Natural Questions и HotpotQA. Оценка охватила семь наборов открытых вопросов, включая задачи с несколькими переходами между фактами, а также GlobalQA, где нужно считать, сортировать и сопоставлять данные по корпусу.
На открытых вопросах средняя доля ответов, которые строго совпали с эталоном, выросла максимум на 11,5% у меньшей модели и на 9% у большей. На GlobalQA средний F1 ответа — общая оценка точности и полноты — оказался на 40,6% выше, чем у Search-R1. Благодаря меньшему контексту и числу поисковых ходов скорость шага обучения была до 5,8 раза выше.
Работа меняет архитектурный план для систем, где ответ требует нескольких поисков или обработки большого корпуса. Вместо разрастания фиксированного конвейера можно дать модели узкий набор безопасных функций и разрешить собирать из них процедуру под конкретную задачу.
Первый практический шаг не требует сразу воспроизводить весь цикл обучения. Семантический и лексический поиск, объединение результатов, удаление дублей и повторную сортировку можно закрыть ограниченным API, а созданный моделью код выполнять в изолированной среде. Локальное состояние при этом остаётся внутри программы, и только явный результат попадает в контекст.
Мутационный контур нужен там, где команда располагает автоматической проверкой ответа или найденных документов. Без такого сигнала нельзя отбирать улучшенные программы тем же способом. Для обычного поиска по внутренней базе разумной первой проверкой остаётся сравнение программируемого интерфейса с фиксированным конвейером по качеству ответа, объёму контекста и времени выполнения.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
