Журнал · Rit.work

Piccolo превращает обучение моделей решений в накопительный цикл экспериментов

Piccolo связывает модели, данные и историю экспериментов: агенты находят слабые навыки, меняют обучающую смесь и сохраняют результаты удачных и неудачных запусков.

Rit.work
Студия разработки
19 ноября 2026 г.3 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Модели принятия решений научились улучшать вместе с данными и самим процессом экспериментов, а не только дольше обучать на фиксированной выборке. В препринте Zhenqing Ling и соавторов, который не прошёл рецензирование, все числа получены самими авторами: старшая Piccolo набрала 75,59 балла и заняла первое место в общей таблице Decision Index Vision Full. Для разработки таких систем это переносит главный вопрос с размера модели на устройство цикла, который находит пробелы, перестраивает данные и сохраняет знания из прошлых запусков.

Эксперимент становится частью общей памяти

Piccolo получает состояние, вопрос и набор допустимых вариантов, а возвращает вероятность каждого ответа или действия. Вместо свободной генерации модель читает числовые оценки вариантов непосредственно из языковой части. Такой интерфейс подходит для маршрутизации запросов, проверки действий агента, фильтрации данных и выбора следующего шага в интерактивной среде.

Обучающий пул содержит 663 тысячи текстовых и визуально-текстовых примеров. Каждый пример размечен по предметной области, проверяемому навыку, сложности, функции задания и ценности для обучения. Эти признаки образуют смысловые срезы: по ним можно увидеть, какой навык улучшился, где обучение остановилось и какие группы начали мешать друг другу.

Цикл начинается с предложения эксперимента. Агент выбирает исходную модель, состав данных и допустимые изменения обучения, запускает сравнение, разбирает результаты по срезам и записывает выводы в общую исследовательскую память. Следующий агент может использовать не только лучший контрольный вариант, но и историю происхождения моделей, параметры запуска, изменения весов и причины прошлых неудач.

Люди при этом задают цели, бюджет и приоритеты, проверяют крупные изменения и добавляют новые методы или источники. Агенты автоматизируют подбор смесей, синтез недостающих примеров, диагностику и очередность проверок, но не определяют цель проекта самостоятельно.

Метод проверяли на линейке от 0,8 до 27 млрд параметров, на текстовых и визуальных задачах, проверке действий агентов, обработке данных и играх. Кампания охватила около 600 запусков. Поэтому работа показывает устройство процесса внутри одной модельной семьи и связанных наборов проверок, а не доказывает, что тот же цикл даст такой же выигрыш для любой архитектуры.

Падающая ошибка обучения не гарантирует верного решения

Главная диагностическая находка касается расхождения между функцией ошибки и фактическими ответами. На фиксированной группе задач первый этап исправил на 78 решений больше, чем испортил. На следующем этапе ошибка продолжила снижаться, но баланс развернулся: модель дала на 13 верных ответов меньше.

Если следить только за средней ошибкой, такой запуск выглядит успешным. Piccolo дополнительно сравнивает конкретные ответы до и после обучения, связывает изменения со смысловыми срезами и затем уменьшает долю проблемной группы либо добавляет данные для навыка, который начал проседать.

Продолжение обучения на неизменном пуле тоже не улучшало все способности одновременно. После более чем миллиона предъявленных примеров оценка на текстовых задачах снизилась на 1,29 пункта, а на проверке действий агентов — на 1,69 пункта. Дополнительные вычисления сместили баланс навыков, поэтому цикл должен сравнивать дальнейшее обучение с пересборкой данных, а не считать первый вариант стандартным продолжением.

Неудачные ветви не обязательно удалять. В одном эксперименте продолженное обучение ухудшило итоговую оценку, но отдельные направления изменения параметров из этой ветви пригодились при последующем объединении моделей. Для этого система хранит родительский вариант, изменение весов и реакцию отдельных навыков, а не только финальный балл.

Что менять в плане разработки

Работа не предлагает заменить разработчиков автономной лабораторией. Она предлагает инфраструктуру для накопительного обучения: версионируемый пул данных, устойчивые идентификаторы примеров, смысловые срезы, общие правила сравнения, отдельные проверочные наборы и журнал происхождения каждого варианта модели.

Такой контур имеет смысл, когда модель регулярно выбирает из ограниченного набора действий и ошибки можно вернуть в обучающий процесс. Типичные случаи — маршрутизация рабочих процессов, допуск инструментов для агента, оценка качества документов и выбор операций над данными. Для редких экспериментов с неясной метрикой стоимость разметки срезов и поддержки памяти может оказаться выше пользы.

Выбор базовой модели тоже нельзя отделять от состава данных. Одинаковая смесь давала разным поколениям моделей разные сильные стороны, а более новая основа не всегда выигрывала на визуальных задачах. Поэтому смену модели стоит проверять вместе с режимом обучения, а не переносить старую смесь как неизменную настройку.

Практический порядок работ следует из устройства Piccolo. Сначала команда фиксирует набор допустимых решений и проверки, которые отражают рабочие ошибки. Затем размечает данные по навыкам, сравнивает изменения на нескольких направлениях сразу и сохраняет даже проигравшие ветви. Автоматизация становится полезной после этого: она ускоряет поиск следующего эксперимента, но не исправляет слабую проверку или неразличимые данные.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу