Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Набор учебных задач для малой модели предложили менять по мере того, как она учится рассуждать. В препринте Jiaming Su и коллег, который не прошёл рецензирование и приводит их собственные замеры, BoundaryEvo поднял точность Qwen3.5-4B на IMO-AnswerBench на 12,4 процентного пункта при бюджете в 1 000 примеров. Для команд с ограниченным доступом к большой модели это переносит внимание с разовой очистки датасета на регулярный поиск задач у текущей границы возможностей.
Как находят полезную задачу для текущей модели
Дистилляция здесь означает перенос полных решений от большой модели-учителя к меньшей модели-студенту. Обычная схема заранее собирает набор рассуждений учителя, фильтрует его и затем обучает студента на одних и тех же данных. Но полезность примера меняется: освоенная задача перестаёт чему-либо учить, а слишком сложная не даёт студенту достижимого следующего шага.
BoundaryEvo делит обучение на две стадии. Сначала студент получает 100 длинных решений учителя без дополнительной проверки моделью-оценщиком. Система отбрасывает только технически непригодные ответы, но не пытается заранее определить, какие рассуждения окажутся оптимальными.
Этот стартовый этап нужен потому, что слабая модель плохо показывает собственную границу. Если сразу отбирать только её ошибки, в один набор попадут и доступные для изучения задачи, и примеры, до которых ей ещё далеко. Ранняя строгая фильтрация также может удалить полезные ходы рассуждения лишь потому, что итоговый ответ оказался неверным.
После начальной подготовки студент и фиксированный эксперт GPT-5.1 независимо решают одни и те же кандидатные задачи. Gemini 3.5 Flash оценивает ответы и оставляет случаи, где эксперт справился надёжно, студент ещё не освоил задачу, а условие достаточно ясное и допускает проверяемый ответ.
Эксперт только помогает найти границу, но не становится источником учебного решения. Для выбранных вопросов DeepSeek-V3.2-Speciale заново создаёт несколько траекторий рассуждения, после чего система проверяет итоговые ответы по эталону. В каждом раунде студент обучается на партии из 300 примеров, куда входят как новые задачи, так и ранее выбранные, но ещё не освоенные.
Ключевое отличие от отбора по ошибкам состоит в том, что провал студента сам по себе не считается полезным сигналом. Задача попадает в обучение, только если рядом есть надёжное решение эксперта и проверяемая траектория учителя.
Динамический набор обошёл фиксированное обучение
Основные эксперименты провели на Qwen3.5-4B и проверили результат на 11 тестах по математике и общему рассуждению. Точность означает долю задач, для которых модель дала правильный итоговый ответ. BoundaryEvo обошёл как статические наборы, так и методы, которые добавляют данные вслед за ошибками студента.
На AMO-Bench точность выросла с 26,8% до 46,0%. На IMO-AnswerBench итоговая модель опередила обучение на фиксированном полном наборе на 5,8 процентного пункта. Улучшения также перенеслись на Qwen3.5-2B и Gemma-4-E4B-it, хотя меньшая Qwen раньше достигала насыщения и прибавляла менее стабильно.
Разбор компонентов поддерживает саму конструкцию метода. Если убрать начальную подготовку, итоговые средние результаты снижаются. Если проверять решения уже на первой стадии, модель также учится хуже, чем при прямом переносе разнообразных рассуждений учителя. Отказ от повторного использования прежних задач ослабляет финальную модель: обучение только на свежей границе постепенно стирает часть уже приобретённых навыков.
Когда стоит менять процесс подготовки данных
Работа меняет планы прежде всего там, где команда уже дистиллирует рассуждения и ограничивает число дорогих обращений к учителю. Вместо попытки один раз собрать идеальный датасет имеет смысл заложить цикл: обучить базовую версию, повторно прогнать кандидатов через студента, найти доступные пробелы и обновить учебную партию.
Это не просто другой алгоритм отбора. Конвейеру нужны пул кандидатных задач, проверяемые ответы, отдельный эксперт для оценки границы, анализатор качества и учитель для свежих решений. В статье нет стоимости этих API-вызовов, поэтому по ней нельзя определить, окупает ли экономия учебных примеров усложнение конвейера.
Границы проверки тоже существенны. Метод испытывали на трёх компактных моделях, на задачах по математике и общему рассуждению, а исходные вопросы брали из очищенной части Nemotron-Cascade-2-SFT-Data. Механизм опирается на эталонные ответы, поэтому его нельзя без изменений перенести на продуктовые задачи, где качество результата оценивают субъективно или только после выполнения действия.
Практический вывод — не заменять статический датасет целиком, а проверить динамический отбор как дополнительный контур. Если последовательные раунды продолжают находить задачи, которые эксперт решает, а студент нет, бюджет учительских траекторий можно направлять точнее. Если такой границы не видно или ответы нельзя надёжно проверить, основное преимущество BoundaryEvo исчезает.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
