Журнал · Rit.work

Общее обучение удешевляет возврат исключённых навыков

Модель осваивает исключённый навык на малой доле исходных данных, если до этого продолжала учиться на остальном корпусе.

Rit.work
Студия разработки
19 ноября 2026 г.2 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Языковая модель может быстро вернуть навык, для которого из обучения исключили прямой сигнал: остальной корпус заранее создаёт нужную основу. В препринте Mark Marosi и Peter Antal, который не прошёл рецензирование и содержит замеры самих авторов, поздним контрольным точкам шахматных моделей хватило 0,10–0,78% токенов от обучения с нуля. Фильтрация корпуса поэтому задерживает появление способности, но не создаёт устойчивого барьера для её последующего освоения.

Авторы убирали выбранные следующие токены из функции потерь, но оставляли их во входном тексте. Затем они сравнивали модели при одинаковой ошибке на остальных данных, возвращали исключённые цели и измеряли, сколько токенов требовалось для достижения заданного уровня навыка.

Чем меньше прямого сигнала получала модель, тем позже проявлялся навык. Удаление случайных целей той же плотности такого сдвига не давало. После возврата сигнала первый миллион токенов — 0,9% пути от обучения с нуля — перенёс треть вероятности шахматной модели с ходов, игнорирующих шах, на ответы, которые учитывают угрозу королю.

Ускорение зависело от того, что модель уже извлекла из общего корпуса. Контрольное правило подменяло правильные шахматные ответы переставленными метками и при обучении с нуля имело ту же сложность. После общей подготовки оно требовало в 2,4–16 раз больше токенов, чем настоящий навык, поэтому результат нельзя объяснить только быстрым дообучением любой новой зависимости.

Проверки охватили шахматы, Othello, молекулярные строки SMILES, скобочные языки и веб-текст на моделях вплоть до 7 млрд параметров. Среди отдельных задач были безопасность короля, замыкание колец в молекулах, столицы стран и Rust. Работа рассматривает узкие, точно измеримые навыки, но один и тот же эффект повторился как при удалении отдельных целей, так и при фильтрации документов.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу