Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
ИИ-агента научили надёжнее переносить накопленный навык на новые задачи того же типа. В препринте Nanjing University и Alibaba Group, который не проходил рецензирование и приводит числа из замеров самих авторов, обучение через практику с наставником обошло дистилляцию трасс примерно на 4 процентных пункта. Такой результат предлагает пересмотреть не базовую модель, а процесс, в котором команда собирает и обновляет пакеты навыков.
Почему удачной трассы недостаточно для нового навыка
Пакет навыка хранит инструкции, вспомогательные сценарии и справочные материалы, которые агент использует в следующих сеансах без изменения весов модели. Обычно такой пакет можно собрать из трассы — записи действий, рассуждений и результатов инструментов при решении задачи. Дистилляция трасс превращает эту запись в более короткую повторяемую процедуру.
Проблема в том, что успешная трасса показывает только один пройденный путь. Она не объясняет, при каких входных данных шаг перестанет работать, какие проверки обязательны и какую часть решения нельзя переносить буквально. Агент может записать случайно удачное действие как общее правило, потому что во время исходного запуска ему не пришлось проверять альтернативу.
Socratic Skill Learning, или SSL, оставляет исследование модели-ученику. Она одна управляет средой, запускает проверки и редактирует пакет навыка. Модель-наставник читает текущую работу, предлагает проверку, указывает на предположение или молчит, если вмешательство не требуется. Ученик может проверить совет, изменить его или отвергнуть на основании результата.
Основное сравнение провели на 22 семействах задач и 155 отложенных случаях из шести областей, включая программирование, обработку данных, финансы и офисную автоматизацию. Для каждого семейства агент практиковался на одной опорной задаче, а замороженный пакет затем получали новые сеансы модели. Подход также сравнили на парах моделей семейства Qwen, DeepSeek и Kimi.
Совет во время работы переносится лучше готового ответа
Главная метрика, полезность пакета, показывает долю пройденных закрытых проверок и даёт каждому семейству задач одинаковый вес. В основном сравнении вариант SSL, который выбирал момент консультации по нерешённым вопросам, получил 80,5% против 72,3% у агента без пакета навыка.
Разница сохранилась и при более строгой проверке, где решение засчитывали только после прохождения всех тестов. Доля полностью решённых задач выросла с 32,5% до 50,82%. Оба варианта SSL также опередили прямое написание пакета экспертом и консультацию после того, как ученик закончил работу.
Разбор процесса показывает, зачем нужен диалог до завершения исследования. В задаче с финансовым отчётом наставник предложил искать противоречия через вычисление одних показателей из других. Первая универсальная арифметическая проверка дала ложные срабатывания, после чего ученик заменил её бухгалтерскими связями и обратными вычислениями. В пакет попала не исходная подсказка, а проверенная и уточнённая процедура.
Регулярные консультации оказались избыточными ближе к концу работы, когда основные вопросы уже были закрыты. Вариант Issue-Guided SSL сохранял список нерешённых вопросов и вызывал наставника только при появлении, изменении или повторном открытии проблемы. Он потратил на 61,7% меньше токенов наставника, чем проверка через фиксированные интервалы, при сопоставимом качестве переноса.
Менять стоит контур обучения, а не стек моделей
Работа не даёт причины отказываться от уже выбранной LLM или переходить к дообучению весов. Она касается отдельного слоя системы: того, как агент превращает опыт выполнения задач в повторно используемые инструкции и инструменты. Если продукт уже хранит такие пакеты, наибольший эффект обещает изменение процесса их подготовки.
Практический контур следует строить так, чтобы агент, который будет применять навык, сам проверял и записывал процедуру. Наставнику лучше оставить чтение текущего пакета и истории инструментов, но не передавать ему управление средой. Тогда совет проходит через возможности и ограничения целевой модели, а не превращается в инструкцию, которую более слабый агент не умеет исполнить.
Вместо консультаций по таймеру системе полезно хранить вопрос, критерий его закрытия, собранные доказательства и связанную редакцию пакета. Новый результат может закрыть вопрос без ещё одного обращения к наставнику, а противоречие при контрольном запуске — открыть его снова. Такой журнал также показывает, на что именно ушли дорогие токены более сильной модели.
Проверка охватывает перенос внутри заранее описанных семейств: меняются входные данные и условия, но сохраняется общая цель. Поэтому разумный следующий шаг для продуктовой команды — сравнить два контура на собственных повторяющихся операциях: дистилляцию завершённых трасс и редактирование пакета во время практики с наставником. Оценивать стоит на новых сеансах агента и на вариантах задач, которые не участвовали в подготовке навыка.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
