Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Одна задача дополнительного обучения может улучшать другую, хотя обучение в обратном направлении ухудшает результат. В нерецензированном препринте Juna.ai и University of Cologne, где числа получили сами авторы, выбор задач повысил точность рассуждений до 14 процентных пунктов по сравнению с обучением на всех доступных типах. Значит, смесь данных стоит подбирать отдельно для каждой целевой способности модели.
Авторы построили карту переноса: для каждой пары она показывает, помогает ли исходная задача целевой или мешает ей. Для этого модель обучают на нескольких сбалансированных смесях с фиксированным бюджетом, исключают из них целевую задачу и измеряют точность на ней. Простая линейная модель оценивает вклад каждого источника, после чего в итоговую смесь входят задачи с положительным вкладом.
Направление оказалось существенным. На Qwen3-32B определения повысили точность ответов на многошаговые вопросы на 5,3 процентного пункта, но добавление многошаговых вопросов снизило точность определений на 1,9 пункта. Поэтому сходство задач не заменяет измерение переноса: оно не показывает знак эффекта и считает связь симметричной.
Карта также нашла задачу, которая сводила на нет пользу остальных. После её исключения точность Qwen3-32B на многошаговых вопросах выросла с 22% до 34%, а на методологической критике — с 8% до 16%. Для предварительной оценки хватило 24 пробных запусков: карта сохранила 96% выигрыша полной серии экспериментов.
Метод проверили в 751 запуске на Qwen3 и Mistral размером от 0,6 до 32 млрд параметров. Основные опыты охватывали восемь типов задач из одного корпуса по нейробиологии; отдельный корпус PubMed использовали для проверки переноса между наборами данных. Карта сохранялась между моделями и размерами, но менялась вместе с корпусом, поэтому её нужно заново строить для новых данных. Выбор оптимизирует одну целевую задачу и может ухудшить остальные способности.
Источники
Иллюстрация: рисунок из статьи «A helps B while B hurts A: directed transfer in instruction-tuning mixture», Nima H. Siboni, Vahid Rostami, CC BY 4.0
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
