Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Промежуточные объяснения для обучения компактной модели можно получить у закрытой модели-учителя, даже если её внутренняя цепочка рассуждений недоступна. Команда Beijing Normal University получила лучший результат в 14 из 16 сравнений, однако препринт не рецензирован, а числа получили сами авторы. Для продуктовой команды это превращает обычный API модели в источник подробных обучающих примеров.
Каждый шаг запрашивают отдельно
Stepwise-Querying начинается с краткого решения. Модель-учитель получает исходную задачу и возвращает предполагаемый ответ вместе с упорядоченным списком шагов. Ответ на этом этапе считают предварительным: он может содержать ошибку или пропуск.
Затем для каждого шага создают отдельный запрос. Учителя просят заново вывести нужный результат из условия, проверить ограничения и полноту решения, а при необходимости предложить исправление. Исходная задача, предварительный ответ и список шагов остаются одинаковыми во всех запросах.
Новые объяснения не передают в запросы для следующих шагов. Это снижает риск того, что ранняя ошибка распространится по всей последовательности, и отличает метод от поочерёдного решения подзадач, где каждый следующий ответ зависит от предыдущего.
Полученные фрагменты собирают в одно подробное решение. Противоречивые примеры отбрасывают, исправления переносят в соответствующие места, а итоговый ответ добавляют в конце. После этого компактную модель обучают на парах «исходная задача — подробное решение» обычным обучением на размеченных примерах.
Во время обучения модель-ученик не видит диалог с учителем, предварительный ответ или служебные запросы. Поэтому Stepwise-Querying меняет подготовку данных, но не требует воспроизводить многошаговую схему при каждом обращении к готовой модели.
Как измеряли полезность отдельного объяснения
Обычная итоговая точность не показывает, какой фрагмент обучающего примера помог модели. Для этого в работе введён показатель SEIG: он сравнивает вероятность правильно закончить конкретный шаг после локального объяснения и после одной общей цепочки рассуждений.
Обе версии проверяют при одинаковых условиях. Компактную модель фиксируют без дополнительного обучения, дают ей одну задачу, проверенные предыдущие выводы и описание текущего шага. Из объяснения удаляют прямую формулировку нужного результата, чтобы модель не могла просто скопировать ответ.
Положительный SEIG означает, что отдельное объяснение шага чаще приводит к правильному продолжению. Это диагностический показатель, а не функция, которую оптимизируют при обучении: связь SEIG с итоговым приростом после дообучения ещё нужно проверять отдельно.
Stepwise-Querying показал лучший результат в 14 из 16 сравнений с опубликованными подходами и во всех случаях обошёл обучение на одной общей цепочке рассуждений. При начальном бюджете выборки SEIG оказался положительным в 25 из 32 сочетаний учителя, ученика и набора задач; при бюджете от 24 траекторий — во всех сочетаниях.
Проверка охватывает две модели-учителя, две модели-ученика и четыре набора задач по математике и программированию. Учителями служили DeepSeek-V4-Pro и GLM-5.2; отдельный анализ проводили на GSM8K и MATH-500. Такой масштаб поддерживает вывод для синтетических данных по рассуждениям, но не доказывает тот же эффект для диалогов, поиска по документам или рабочих процессов с внешними инструментами.
Когда команде стоит менять план обучения
Работа меняет план, если команда собиралась обучать компактную модель только на финальных ответах или на одном длинном объяснении от закрытого API. Между генерацией исходного решения и дообучением имеет смысл добавить независимое расширение шагов, проверку ограничений и сборку исправленной траектории.
За это придётся платить дополнительными вызовами учителя: их количество растёт вместе с числом шагов в решении. В работе не считают стоимость API в деньгах, поэтому экономику нужно оценивать на собственном распределении длины задач. Основные расходы возникают при подготовке набора данных, а не при эксплуатации модели-ученика.
Делить каждый шаг ещё мельче заранее не стоит. На GSM8K дополнительное разбиение на подшаги почти повторяло результат обычного пошагового подхода и иногда давало небольшой отрицательный эффект. Для конвейера данных разумнее сначала расширять только содержательные шаги, а глубину увеличивать после отдельной проверки.
Необязательно отбрасывать всю траекторию из-за неверного финального ответа. Примеры с корректными промежуточными выводами улучшали результат после дообучения, тогда как траектории с повреждёнными шагами его снижали. Практический вывод зависит от качества проверки: фильтр должен оценивать локальные выводы, а не только совпадение последней строки с эталоном.
Stepwise-Querying не требует смены модели, способа дообучения или рабочего контура. Он предлагает более дорогой, но точнее управляемый способ собрать синтетические данные, когда учитель доступен только через текстовый API и выдаёт слишком краткие решения.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
