Журнал · Rit.work

dLoop уточняет токены до фиксации в диффузионной модели

dLoop повторно обрабатывает скрытые представления внутри шага генерации и улучшает баланс точности и параллельной выдачи токенов в LLaDA.

Rit.work
Студия разработки
20 ноября 2026 г.3 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Диффузионную языковую модель научили дополнительно обдумывать незаполненные позиции до того, как она зафиксирует токены. dLoop показал лучшую или равную лучшей точность на всех проверенных задачах, хотя препринт не рецензирован и числа получили сами авторы. Подход добавляет новый способ ускорять такие модели: не заставлять их раньше принимать решение, а улучшать внутреннее состояние перед ним.

Повторный проход не двигает генерацию вперёд

Диффузионная языковая модель генерирует текст не строго слева направо. Она начинает с масок на месте будущих токенов, несколько раз предсказывает содержимое разных позиций и на каждом шаге фиксирует те варианты, которым достаточно доверяет.

Проблема возникает, когда за один проход модель не успевает собрать контекст для уверенного решения. Декодер может отложить токен или зафиксировать его, но не способен улучшить скрытое представление, на котором основан выбор. Осторожная стратегия требует больше шагов, а агрессивная превращает незрелые предсказания в контекст для последующей генерации.

dLoop оставляет последовательность с масками без изменений и повторно пропускает её скрытое состояние через общий промежуточный блок. Новый токен во время этого цикла не появляется, а шаг удаления масок не меняется. Модель продолжает обмениваться информацией между незаполненными позициями и только затем передаёт результат выходным слоям.

Для этого LLaDA разделили на входную часть, повторяемый блок и выходную часть. В цикл вошли шесть средних слоёв из 32, причём каждый повтор использует те же параметры. Поэтому глубина вычислений растёт, но отдельную копию слоёв для каждого цикла хранить не требуется.

Повторяемый блок получает предыдущее скрытое состояние и заново подмешивает неизменный результат входной части. Коэффициенты переноса ограничены так, чтобы состояние не усиливалось бесконтрольно с каждым циклом. Модель дообучают с разным числом повторов на обычной задаче восстановления замаскированных токенов.

После циклов декодер рассматривает движущееся окно незаполненных позиций. Он фиксирует варианты, которые прошли порог уверенности, а правило минимального продвижения не позволяет генерации остановиться. Таким образом, dLoop меняет само предсказание до фиксации, а не только расписание, по которому декодер открывает токены.

Точность выросла без максимальной параллельности

dLoop проверяли на LLaDA в задачах GSM8K и MATH по математике, а также MBPP и HumanEval по генерации кода. Сравнением служили исходная LLaDA и методы Fast-dLLM, dParallel и d3LLM. Границы эксперимента поэтому узкие: одна базовая модель, задачи рассуждения и кода.

Основная метрика скорости — число готовых токенов на один эквивалентный полный проход модели. Она учитывает дополнительные вычисления повторяемого блока: частичный цикл пересчитывается в долю полного прохода. Это точнее сырого подсчёта шагов удаления масок, который сделал бы внутренние циклы бесплатными.

На GSM8K dLoop получил точность 76,3% при 6,76 токена на эквивалентный проход. У d3LLM точность составила 72,9%, зато параллельность достигла 9,06 токена. Результат показывает компромисс: dLoop не выдаёт больше всего токенов за проход, но меньше теряет качество.

dLoop превзошёл Fast-dLLM одновременно по точности и параллельности на каждом тесте. Он также оказался точнее d3LLM во всех задачах, но уступил ему по числу токенов на проход. Среди сравнений не нашлось метода, который обошёл бы dLoop сразу по обеим метрикам.

Контрольные вмешательства связывают эффект именно с незаполненными позициями. Когда их обновления после дополнительного цикла заменяли прежними состояниями, ведущий кандидат токена менялся в 47,8% случаев. Откат изменений в уже готовом контексте влиял слабее: повторный проход работает прежде всего как общее скрытое рабочее пространство для ещё не принятых решений.

Для внедрения нужен новый вариант модели, а не настройка декодера

dLoop меняет планы команд, которые уже строят генерацию на диффузионной модели. К порогу уверенности и расписанию фиксации можно добавить ещё одну регулируемую величину — сколько вычислений модель выполняет до решения. Это позволяет тратить больше ресурсов на нестабильные траектории, не создавая промежуточные токены.

Однако подход нельзя подключить как внешний декодер к неизменному API. Нужно выделить повторяемый блок внутри модели, добавить смешивание состояний и дообучить архитектуру на нескольких глубинах цикла. Для закрытой модели без доступа к слоям этот путь неприменим.

Командам с собственной LLaDA-подобной моделью имеет смысл сравнить dLoop с оптимизацией порога уверенности и кеширования. Проверка должна измерять не только токены на проход, но и задержку на целевом GPU: использованная в работе метрика учитывает объём слоёв, однако не отражает обмен памятью, пакетную обработку и особенности среды исполнения.

Для обычного авторегрессионного продукта работа сама по себе не даёт причины менять архитектуру. Она показывает более узкий вывод: если диффузионная генерация уже выбрана ради параллельной выдачи, дополнительное вычисление до фиксации может оказаться выгоднее, чем ещё более агрессивное открытие неустойчивых токенов.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу