Журнал · Rit.work

Athanor поручил агентам пост-обучение Qwen3-4B

Четыре агента Claude самостоятельно дообучили базовую Qwen3-4B и сравняли её с официальной instruct-версией — без внешней модели-учителя и советов исследователей.

Rit.work
Студия разработки
16 октября 2026 г.3 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Четыре агента Claude Opus 5.5 самостоятельно превратили базовую Qwen3-4B-Base в универсальную модель, пригодную для задач из разных областей. Хотя препринт не рецензирован и числа получили сами авторы, итоговая модель в среднем сравнялась с официальной Qwen3-4B-Instruct-2507. Результат показывает, что часть экспериментов по пост-обучению уже можно передать агентам, если заранее построить для них контролируемую инфраструктуру.

Athanor отделяет исследование от исполнения

Команда Yufa Zhou создала Athanor — открытую систему, изначально рассчитанную на автономную работу агентов. Пост-обучение здесь означает доработку уже обученной базовой модели: ей добавляют данные, меняют алгоритмы обучения и подбирают параметры, чтобы получить нужное поведение.

Агенты сами читали датасеты и результаты проверок, готовили обучающие данные, писали и изменяли алгоритмы, настраивали параметры и выбирали следующий эксперимент. Люди дали им стартовый код и инженерные инструменты, но не подсказывали исследовательские решения.

Кампания длилась 104 часа. В ней работали четыре экземпляра Claude Opus 5.5, каждому выделили отдельный узел с восемью GPU. Агенты могли использовать результаты и модели друг друга, поэтому это была совместная исследовательская работа, а не четыре изолированных запуска.

Сам Athanor выполнял роль контрольного контура. Он запускал задания, сохранял историю исследований, выдавал очищенные от пересечений данные и поддерживал неизменную процедуру оценки. Отдельный набор задач оставался скрыт от агентов, поэтому они не могли напрямую подгонять решения под итоговую проверку.

Работа шла в изолированной среде без доступа к внешним моделям-учителям. Это важная граница: Claude управляли исследованием, но не могли попросить более сильную модель сгенерировать ответы для обучения Qwen.

Из базовой модели получился конкурент instruct-версии

На наборе из шести задач результат Qwen3-4B-Base вырос с 15,9 до 67,3 балла. На скрытом наборе оценка поднялась с 9,2 до 48,2 балла. Полученная модель чуть превысила официальную Qwen3-4B-Instruct-2507 на обеих средних оценках.

Агенты пришли к этому не через новый единый алгоритм, а через сочетание известных приёмов. Они применяли обучение с учителем на открытых данных с рассуждениями, обучение с подкреплением, объединение весов разных моделей и несколько раундов самодистилляции. При самодистилляции модель учится на результатах, которые ранее помогла получить сама.

Один агент изменил способ, которым система генерировала последовательности ответов для обучения с подкреплением. Затем команда использовала эту находку вместе с моделями других агентов. Абстракт не раскрывает само изменение, поэтому воспроизвести этот шаг по доступному описанию нельзя.

Проверка охватывает одну кампанию, одну базовую модель и два набора задач; поскольку материал сделан по абстракту, а не по полному тексту, состав задач и подробная методика оценки из него не восстанавливаются. Работа доказывает работоспособность конкретного контура пост-обучения, но не измеряет, как он переносится на модели другого размера или другой специализации.

Командам нужен не автономный исследователь, а безопасный контур

Athanor не показывает рекурсивное самоулучшение, при котором ИИ без ограничений создаёт всё более сильные системы. Здесь задача уже задана, вычислительные ресурсы выделены заранее, данные подготовлены, а процедура оценки защищена от изменений. Автономия относится к выбору экспериментов внутри этого контура.

Для команд, которые дообучают собственную LLM, работа меняет архитектуру процесса. Агентам недостаточно дать доступ к GPU и репозиторию: им нужен отдельный слой сервисов, который управляет заданиями, фиксирует оценки и сохраняет каждый эксперимент. Исследовательская среда может меняться, но контрольная часть должна оставаться стабильной.

Скрытая проверка нужна не только для итогового отчёта. Она не даёт агентам принять локальный рост метрики за реальное улучшение модели. Очищенные данные решают соседнюю задачу: снижают риск того, что модель уже видела проверочные примеры во время обучения.

Практический первый шаг — не передавать агентам весь цикл разработки модели, а выделить ограниченную кампанию пост-обучения. Для неё можно зафиксировать базовую модель, разрешённые данные, вычислительный бюджет и критерии оценки, а агентам оставить подготовку данных, изменение кода и выбор следующих запусков.

Планировать замену исследовательской команды на основании этой работы рано. Зато уже имеет смысл проектировать экспериментальную платформу так, чтобы агенты могли работать параллельно, обмениваться моделями и продолжать исследования по сохранённой истории без ручного запуска каждого задания.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу