Журнал · Rit.work

У рассуждающей модели нашли переносимый участок слоёв

Карта сходства активаций помогла найти слои, чьи веса улучшают решение математических задач при переносе между версиями одной модели.

Rit.work
Студия разработки
19 ноября 2026 г.3 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

В языковых моделях нашли связный участок слоёв, перенос которого улучшает математические рассуждения без дополнительного обучения. Работа Seoul National University и Upstage не рецензирована, а числа получены самими авторами; лучший средний прирост точности на трёх наборах задач составил 5,1 процентного пункта. Для разработчиков это пока не новый способ обучения, а способ искать изменения, которые можно переносить между версиями одной модели.

Как карту коры перенесли на слои трансформера

Метод заимствован из исследований развития мозга. Там сигналы функциональной магнитно-резонансной томографии превращают в карту связности областей коры, а затем располагают эти области вдоль главного градиента: близкие координаты означают сходную картину связей с остальным мозгом.

В языковой модели вместо сигналов мозга взяли активации трансформера. Для каждого слоя авторы сохранили представления в нескольких точках вычислений внимания и полносвязного блока, а затем сравнили, насколько похоже эти точки обрабатывают одни и те же токены. Из попарных сравнений построили карту и получили главный градиент внутренней организации модели.

Это не означает, что слои трансформера соответствуют областям мозга. Из нейробиологии перенесена только математическая процедура, которая сжимает большую матрицу сходства до координаты и позволяет увидеть локальные сдвиги.

Проверка охватила шесть пар моделей семейств Ministral, Qwen и Llama размером от 3 до 14 млрд параметров. В каждой паре сравнивали базовую модель и её версию после обучения решению задач с развёрнутым рассуждением. Общая форма градиента почти сохранялась, но на отдельных соседних слоях появлялся выраженный сдвиг.

Для дальнейших опытов участок выбирали по активациям на MATH-87. В разных моделях он занимал от 15 до 35% слоёв. Слои с самым сильным сдвигом не совпали со слоями, где веса изменились больше всего, поэтому простое сравнение параметров не находило тот же участок.

Что произошло после пересадки весов

Авторы скопировали все параметры найденного участка из модели, обученной рассуждать, в соответствующую модель после обычной настройки на инструкции. Остальные веса не меняли и дополнительное обучение не запускали. Точность проверили на MATH-87, AIME 2024 и AIME 2025.

Средний результат вырос на всех трёх наборах. Чем больше пересаженный диапазон перекрывался с найденным участком, тем выше оказывалась точность; замена такого же числа слоёв в других местах в среднем ухудшала ответы. На отдельных сочетаниях модели и набора задач эффект всё же был отрицательным, поэтому участок нельзя считать гарантированным переключателем рассуждений.

Пересадка сохранила 91,9% задач, которые исходная модель уже решала, против 82,2% у замен вне найденного участка. Новых правильных ответов при этом появлялось больше, чем новых ошибок, во всех проверенных моделях. Значит, прирост возникал не только из-за обмена одних решённых задач на другие.

Результат сохранился на большей части MATH-500, которую не использовали для поиска участка: точность выросла у пяти из шести моделей. Ответы после пересадки в среднем становились длиннее, но принудительное продолжение ответов исходной модели не воспроизвело прирост стабильно. Изменения фактических знаний и качества предсказания текста шли в обе стороны, то есть вместе с математикой не переносились все свойства модели-донора.

Почему метод пока не меняет план обучения

Работа показывает, что полезные изменения после обучения распределены по сети неравномерно и их нельзя найти только по величине сдвига весов. Это даёт новый инструмент для анализа контрольных точек и для экспериментов со слиянием моделей: сначала найти функционально изменившийся диапазон, затем проверить его перенос отдельно от остальных параметров.

Однако опыты проводили между совместимыми версиями одной архитектуры. Они не показывают, что найденные слои можно переносить между Qwen, Llama и Ministral или превращать в универсальный модуль рассуждений. Сам диапазон также зависел от текстов, на которых строили карту: математические задачи находили его надёжнее, чем Wikipedia и случайные последовательности слов.

История обучения OLMo 3 7B добавляет практическое предостережение. Пересадка участка из промежуточной контрольной точки дала на MATH-87 прирост 14,6 пункта, а из конечной — 8 пунктов. Финальная версия донора не обязательно содержит лучший переносимый набор весов, даже если сама модель стала точнее.

Похожий переносимый участок удалось найти и в медицинской модели, что даёт основание проверять подход за пределами математики. Но менять из-за этой работы архитектуру или процесс обучения рано. Ближайшее применение — диагностировать собственные родственные контрольные точки и измерять не только общий прирост, но и то, какие ранее правильные ответы ломает пересадка.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу