Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Axion 1.0 объединяет самостоятельное рассуждение, поиск сведений и работу с инструментами без длинной цепочки отдельных процедур обучения. Работа Duke University, ByteDance, University of Maryland и University at Buffalo сравнивает модель с ведущими открытыми и коммерческими системами на шести испытаниях; поскольку препринт не рецензирован, все числа в нём получили сами авторы. Для команды, которая хочет дообучать агента под свои задачи, это полезнее обычного релиза весов: можно менять не только готовую модель, но и способ подготовки данных.
Открыт не артефакт, а способ его получить
Релиз весов позволяет запустить модель, дообучить её на собственных примерах и встроить в приложение. Но он почти ничего не объясняет о том, откуда взялась способность искать информацию, выбирать инструменты и продолжать работу после неудачного шага.
В случае агентной модели этот пробел особенно заметен. Поведение зависит не только от архитектуры и исходной модели, но и от формата заданий, доступных инструментов, правил фильтрации траекторий и способа проверять промежуточные результаты.
Axion 1.0 открывает весь этот слой: построение и генерацию данных, фильтры, проверку ответов, подсказки для моделей и код обучения. Такой набор позволяет воспроизвести сам процесс разработки, проверить спорные решения и заменить отдельные части под другую предметную область.
Это отличается и от публикации готового набора данных. Здесь показано, как получать новые задания из открытых материалов и структурированных источников, усложнять их относительно возможностей исходной модели, собирать успешные траектории и отбрасывать примеры, которые не требуют работы с инструментами.
Три этапа держатся на проверяемых задачах
Сначала модель учат решать самодостаточные задачи по математике, физике, химии, биологии и информатике. Исходные вопросы служат заготовками: генератор добавляет зависимые шаги, параметры, новые диапазоны или разбор нескольких случаев. Если базовая модель справляется, задачу усложняют с учётом найденного ею решения, а не просто делают длиннее.
Эталонный ответ после каждого изменения получают заново. Отдельная модель независимо решает задачу трижды, после чего в обучающий набор попадают только согласованные ответы и корректные траектории. Поиск в интернете на этом этапе закрыт, но разрешён Python.
Затем модель учат добывать недостающие сведения. Программа фильтрует записи в структурированном источнике, выбирает единственный подходящий объект и вычисляет ответ, а языковая модель превращает эту процедуру в естественный вопрос. При сборе траекторий исходную базу скрывают: решателю приходится искать сведения на доступных страницах, сопоставлять их и выполнять расчёты.
После обучения с учителем применяется обучение с подкреплением. Модель сама строит длинные последовательности действий с поиском, просмотром страниц, научными источниками и Python. Полный балл даёт правильный итог, но проверенные промежуточные результаты позволяют поощрять полезное продвижение, даже если агент не завершил задачу.
Из рецепта убраны отдельное промежуточное обучение, оптимизация по предпочтениям и дистилляция на собственных траекториях. Упрощение относится к числу стадий, а не к подготовке данных: основная сложность переехала в генерацию проверяемых задач, сбор взаимодействий и инфраструктуру длинных запусков.
План обучения можно сократить, бюджет — не обязательно
Axion проверяли в вариантах на 35 и 122 миллиарда параметров. Испытания охватывали общее и научное рассуждение, поиск, программирование и длительное взаимодействие с окружением. На нескольких направлениях модель оказалась сопоставима с ведущими коммерческими системами, но работа показывает исследовательские испытания, а не стоимость или надёжность эксплуатации в продукте.
Короткий рецепт также не означает небольшую вычислительную нагрузку. Для крупного варианта только основные движки генерации и узел обучения занимали 56 GPU, не считая отдельного узла, который обслуживал поиск, оценку открытых ответов и сжатие контекста. Команда экономит на количестве экспериментальных стадий, но всё ещё должна поддерживать распределённое обучение и длинные агентные траектории.
Работа меняет планы команд, которые собирались проектировать собственную многоступенчатую схему обучения до проверки более простого варианта. Разумной исходной точкой становятся два последовательных набора данных — для самостоятельного решения и для работы с внешними сведениями — после которых обучение с подкреплением исправляет решения модели на её собственных траекториях.
Для прикладного проекта ценность Axion 1.0 лежит не в обещании заменить готового коммерческого агента. Открытый рецепт даёт контрольную архитектуру эксперимента: можно сохранить проверку ответов и разделение навыков, но заменить предметные источники, инструменты и критерии успеха. Это сокращает риск построить сложную схему, не понимая, какой этап действительно дал результат.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
