Журнал · Rit.work

TCDA подбирает дешёвый график генерации для диффузионных LLM

PayPal предложила калибровать график удаления шума под конкретную задачу и выбирать ускоренный вариант только после проверки качества и защитных метрик.

Rit.work
Студия разработки
20 ноября 2026 г.4 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Для одной и той же диффузионной языковой модели нельзя заранее выбрать самый дешёвый график удаления шума: безопасный вариант зависит от задачи и способа генерации. В препринте PayPal, который не проходил рецензирование, числа получили сами авторы: метод TCDA сократил число обращений к модели до восьми раз и при нехватке доказательств вернулся к полному графику. Для продукта это меняет порядок оптимизации: ускорение надо калибровать на своём потоке запросов, а не включать как общую настройку модели.

Как TCDA проверяет ускоренный график

Диффузионная языковая модель начинает с шума или замаскированных токенов и постепенно превращает их в текст. Каждый шаг вызывает денойзер — сеть, которая уточняет промежуточное состояние. Чем меньше таких обращений, тем дешевле генерация, но простое сокращение графика может испортить ответ.

TCDA не предлагает новый способ генерации. Это слой выбора между уже доступными вариантами: ранним декодированием промежуточного состояния, продолжением на более редкой сетке шагов, равномерно сокращённым графиком и адаптивными методами, которые фиксируют токены по мере роста уверенности.

Сначала команда запускает полный график и все варианты на одной калибровочной выборке. Для каждого примера используют общий исходный шум, поэтому сравнение показывает эффект графика, а не случайную разницу между запусками.

Затем задают допустимую потерю по основной метрике задачи. Для суммаризации это может быть сходство с эталонным текстом, для перевода — качество перевода, для математических задач — доля точных ответов. Вместе с ней проверяют защитные метрики: длину ответа, пустые результаты, повторы, разнообразие пар токенов и энтропию декодера.

Защитные метрики нужны не формально. В генерации без условия зацикленный текст мог выглядеть лучше по основной автоматической метрике, хотя фактически модель повторяла одни и те же фрагменты.

TCDA строит односторонние границы по повторным выборкам из калибровочных данных. Кандидат проходит проверку, только если его ожидаемое качество укладывается в заданный допуск и одновременно соблюдены все защитные пороги. Из прошедших вариантов метод выбирает самый дешёвый, а если не прошёл ни один — оставляет полный график. При принятых предпосылках предельная вероятность выбрать неподходящий вариант не превышает заданный уровень, в экспериментах — 5%.

Один ранний выход помогает на XSum и ломает WMT14

На ELF-B раннее декодирование сократило число обращений к денойзеру в 3,4 раза на XSum. Для WMT14 тот же приём резко ухудшил перевод, зато продолжение с сохранением состояния и более редкими шагами дало двукратное сокращение.

У LLaDA-8B-Instruct ранняя фиксация оставшихся токенов подходила переводу, но проваливала математические задачи. На GSM8K безопасным оказался Fast-dLLM: он уменьшил число проходов в 4,1 раза. На OpenWebText выигрыш был скромнее — 1,33 раза, причём выбранный тип графика менялся вместе с размером ELF.

Во всех проверенных конфигурациях доля ложных сертификаций осталась ниже 2%. Это не означает, что любой короткий график безопасен: результат показывает, что правило отказывается от ускорения, когда калибровочная выборка не подтверждает его.

Причину различий лучше объясняет момент, когда декодированные токены перестают меняться. Остаточная ошибка во внутреннем непрерывном состоянии оказалась менее полезным сигналом: состояние ещё могло заметно двигаться, хотя итоговый текст уже установился. Поэтому оптимизировать только точность численного прохождения траектории недостаточно.

Отдельная практическая деталь касается воспроизводимости. Эталонная реализация ELF случайно выбирала временную сетку при каждом запуске, из-за чего сравнивались не только графики, но и разные наборы шагов. Для калибровки исследователи заменили её детерминированной сеткой квантилей.

Командам нужен профиль генерации для каждой нагрузки

Работа меняет планы команд, которые разворачивают диффузионные или потоковые языковые модели. Единый график для всего API стоит заменить набором профилей по задаче, контрольной точке модели и способу генерации. Профиль должен хранить библиотеку кандидатов, допуск качества, защитные пороги и полный график для отката.

Калибровку стоит включить в выпуск модели рядом с оценкой качества. Сначала кандидаты сравнивают попарно на типичных запросах, затем фиксируют выбранную временную сетку и проверяют решение на новых случайных начальных состояниях. После запуска часть запросов можно параллельно прогонять по полному графику: если разница растёт, профиль пересчитывают.

Проверка охватила две семьи моделей и семь публичных наборов для суммаризации, перевода, математики и генерации без условия. Везде использовали автоматические метрики; человеческих оценок не было, а средние защитные показатели могут пропустить редкие сбои отдельных ответов. Гарантия также действует только для заданной библиотеки кандидатов и предполагает, что калибровочные и рабочие запросы приходят из сопоставимых распределений.

Калибровка требует заранее прогнать каждый кандидат, поэтому она оправдана для стабильной нагрузки, а не для единичного запуска. В показанных сценариях эти расходы окупались после нескольких тысяч запросов. Для обычных авторегрессионных LLM результаты напрямую не задают новый режим генерации: работа проверяет именно модели, которые строят текст через последовательное удаление шума.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу