Журнал · Rit.work

Языковая модель сама переписала веса и стала точнее

Модель на 27B параметров нашла причину собственных ошибок, изменила веса без градиентов и повысила точность на новых задачах.

Rit.work
Студия разработки
18 ноября 2026 г.3 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Языковая модель научилась находить сбой в собственной работе и закреплять исправление прямо в своих весах. В препринте Jiajun Fan и соавторов модель на 27B параметров прибавила 6,6 процентного пункта на 490 новых задачах; работа не рецензирована, а числа получили сами авторы. Для продуктовых команд это пока не замена дообучению, но уже рабочий прототип постоянной адаптации открытой модели.

Модель измеряла сбой, а не угадывала поправку

Модель получила доступ к своим весам, оценённым ответам на тренировочных задачах и скрытым состояниям — внутренним векторам, которые слои передают друг другу. Через Python она могла читать и заменять тензоры весов, запускать изменённую копию и сравнивать её с исходной на одинаковых задачах и с одинаковой случайностью.

Градиенты и оптимизатор заблокировали. Среда также не позволяла загрузить другую модель, выйти в сеть или запустить отдельный процесс. Поэтому каждое новое значение модель должна была вывести из собственных наблюдений и записать явной программой.

Сам редактор во время сессии оставался на исходных весах. Предложенная правка действовала только на копию, которую он запускал для проверки. Такая схема не давала неудачному изменению повредить рассуждение модели до того, как она оценит результат.

Перед отправкой правки среда проверяла её на резервных примерах, которые модель не могла читать. После этого модель либо сохраняла изменение, либо отзывала его. Итоговую точность измеряли уже на отложенных задачах, которые не участвовали ни в поиске направления, ни в выборе версии.

Эксперименты охватили линейку моделей одного семейства вплоть до 27B, текстовые задачи по математике и отдельно повреждённую копию модели. Перенос ремонта проверили на наборах MathVista, MathVerse, MMStar, HallusionBench, POPE и ScreenSpot-v2. Это задаёт границу результата: работа показывает один способ исправлять конкретные сбои, а не универсальное самообучение на произвольных данных.

Правка убрала зацикливание и восстановила повреждённую модель

Крупнейшая версия сравнила скрытые состояния ответов, которые завершались нормально, с ответами, обрывавшимися по лимиту. Затем она ослабила направление, разделявшее эти группы, в выходных матрицах выбранного слоя. Меньшие версии либо не меняли веса, либо добавляли случайный шум и ухудшали себя.

Один исходный ответ повторил одну фразу 549 раз и дошёл до лимита в 16 384 токена. После правки тот же пример завершился ответом. На всём отложенном наборе изменение реже приводило к исчерпанию лимита и прошло заранее заданную статистическую проверку.

В отдельном опыте часть весов заменили сильным шумом, не указав модели место повреждения. Она нашла нужную матрицу и записала собственные значения, не читая исправный оригинал. Это был не побайтовый возврат прежних весов, а функциональный ремонт по наблюдаемым ошибкам.

Правку нашли только на текстовой математике, но она перенеслась на задачи с изображениями. Средняя точность повреждённой копии выросла с 7% до 70% и достигла 83% результата исправной модели. Такой перенос показывает, что изменение восстановило общий механизм, а не только подогнало ответы под тренировочные примеры.

Планы меняются только для команд с открытыми весами

Для продуктов поверх закрытого API работа ничего не меняет: без доступа к весам и скрытым состояниям такой контур построить нельзя. Дополнительный запрос к модели или новый системный промпт не превращаются в постоянную правку параметров.

Командам с открытой моделью имеет смысл выделить экспериментальный контур для узких и воспроизводимых сбоев: зацикливания, преждевременного обрыва или локального повреждения весов. Правка сохраняется после сессии и не добавляет вычислений к каждому следующему ответу, хотя сам поиск требует нескольких часов работы GPU.

Развёрнутую модель не стоит пускать на прямое редактирование самой себя. В работе изменения сначала применялись к копии, проходили парную проверку и только затем заменяли текущую версию. Для производственной системы к этому понадобятся резервный набор, автоматический откат и проверка задач за пределами ошибки, которую исправляли.

Граница между запуском готовой модели и обучением становится менее удобной, но не исчезает. Формально здесь нет градиентов и оптимизатора; практически система всё равно использует размеченные примеры, вычисления и цикл отбора. Поэтому метод разумнее планировать как новый вид обслуживания модели, а не как обучение во время каждого пользовательского запроса.

Работа пока не даёт основания отменять дообучение: результат получен на одном семействе, а меньшие версии не справились. Но она меняет архитектурный выбор для исследовательских систем: доступ к весам, скрытым состояниям и безопасной песочнице может стать полезнее сложной внешней обвязки, если исправление должно пережить отдельную сессию.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу