Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Синтетические данные для ИИ-агента научились перестраивать по его ошибкам: система не только чаще генерирует трудные сценарии, но и добавляет новые управляемые признаки заданий. Хотя работа University of Southern California и AWS AI не рецензирована и все числа получили сами авторы, EvoSyn поднял среднюю долю успешных задач на 13,3 процентного пункта относительно лучшего метода синтеза в сравнении. Для команд это схема замкнутого цикла, где ошибки агента определяют содержание следующей партии обучающих данных.
Ошибка становится координатой генерации
Обычный синтез для интерактивных агентов решает прежде всего техническую задачу: сценарий должен соответствовать правилам среды, запускаться через доступные инструменты и завершаться проверяемым результатом. Но корректный пример может оказаться бесполезным, если агент уже умеет решать такие задачи.
EvoSyn хранит изменяемое состояние синтеза. В него входят пространство управляемых признаков и распределение бюджета между ними. Начальное пространство строят из схем инструментов, правил предметной области, ограничений состояния, описаний задач и требований автоматической проверки.
Признаком может быть намерение пользователя, требование политики, сочетание инструментов, ожидаемый результат или сложность последовательности действий. Каждый признак должен иметь конечный набор значений и явно влиять на генерацию. Это превращает абстрактное «агент плохо справляется» в указание, какие взаимодействия создавать дальше.
После дообучения Reflector анализирует успех агента на отдельном диагностическом наборе, покрытие уже созданных сценариев и повторяющиеся причины сбоев. Если слабое место описывается существующими признаками, система перераспределяет бюджет в пользу недопредставленных и трудных областей.
Если прежних признаков недостаточно, Reflector расширяет само пространство. Например, ошибки в возврате товара или изменении рейса могут зависеть не от типа задачи, а от вычислений, порядка действий по правилам или нескольких операций, которые меняют состояние. Такой фактор добавляют только тогда, когда он подтверждается наблюдаемыми сбоями, не дублирует прежние признаки и позволяет целенаправленно создавать новые задания.
Как обратная связь превращается в обучающую траекторию
Designer получает пространство признаков и бюджет. Он выбирает направления синтеза: сочетания свойств, на которые следует потратить генерацию в текущем раунде. Этот уровень отделяет стратегию покрытия от создания отдельных примеров.
Planner переводит направление в выполнимый план задания. Он задаёт цель пользователя, нужное состояние среды, применимые правила, ожидаемые вызовы инструментов и конечный результат. Благодаря этому требование вроде «несколько изменений состояния в заданном порядке» становится конкретным сценарием, который можно выполнить и проверить.
Generator создаёт само задание, а модель-учитель выполняет его в среде и записывает успешную траекторию. Verifier проверяет вызовы инструментов, соблюдение правил, согласованность состояний и достижение цели. В обучающий набор попадают только прошедшие проверку пары из задания и траектории.
Затем агента дообучают с учителем на накопленных данных, сохраняя сообщения пользователя, вызовы инструментов, ответы среды и целевые действия. Обновлённого агента снова проверяют, а результаты возвращают Reflector. Цикл меняет одновременно модель, распределение генерации и набор признаков, которыми система описывает полезные сценарии.
Когда EvoSyn меняет план разработки
Метод проверяли на τ2-Bench и CAR-Bench: в задачи входили работа с авиаперевозками, розницей, телекомом и управление через инструменты. В основном сравнении downstream-агентом служил Qwen3-8B, а EvoSyn использовал Claude Opus 4.5 для синтеза. Поэтому результат относится прежде всего к агентам, для которых среда исполняет действия и автоматически проверяет итог.
Прирост связан не только с увеличением объёма корпуса. При одинаковом числе принятых примеров EvoSyn покрыл в 1,32 раза больше разных последовательностей вызовов инструментов на CAR-Bench и в 2,19 раза больше на Airline. Под последовательностью здесь понимается структура решающих действий, а не словесная вариация одного сценария.
Для команды, которая уже собирает трассировки и фильтрует их проверяющей моделью, главный сдвиг находится выше генератора. Нужно хранить явную модель пространства задач, измерять успех по её срезам и разрешать диагностическому компоненту менять как бюджет, так и набор координат. Простого запроса «создай больше примеров по неудачным задачам» недостаточно: категория задания может не совпадать с причиной сбоя.
Такой цикл требует исполняемой среды, проверяемого результата и возможности связать ошибку с наблюдаемой структурой взаимодействия. Если продукт пока оценивает агента только общей долей успеха, первым изменением станет не внедрение нескольких агентов синтеза, а разметка управляемых факторов и диагностических срезов. Без них Reflector не сможет отличить недостаток данных в известной области от слабости, которой ещё нет в описании пространства.
Работа не даёт основания менять базовую модель только ради EvoSyn. Она меняет архитектуру контура дообучения: генератор данных становится не одноразовым конвейером, а системой, которая пересматривает собственное представление о полезных заданиях после каждого цикла обучения.
Источники
Иллюстрация: рисунок из статьи «Know What You Don't Know: Agentic Data Synthesis by Evolving Generation Space for Closed-Loop Learning», Wei Yang, Qing Ping, Youzhi Luo и др., CC BY 4.0
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
