Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Диффузионную модель научили отбрасывать нежелательные варианты, не вымывая вместе с ними похожие полезные. В нерецензированном препринте MIT все числа получены самими авторами: при генерации изображений метод увеличил разрыв между соответствием нужному и запрещённому описанию по CLIP на 6,6% против ближайшего соперника. Для продуктовой команды это не новая базовая модель, а способ управлять готовой моделью без дообучения — ценой работы с двумя эталонными распределениями и дополнительных вычислений.
Граница проходит по отношению двух плотностей
Обычное отрицательное управление отталкивает результат от нежелательного распределения. Если оно пересекается с полезным, модель теряет и допустимые варианты: например, запрет одного визуального признака может ослабить другой признак, который встречается вместе с ним.
Авторы начинают не с поправки к направлению генерации, а с явного целевого распределения. Оно сохраняет область, где нужное распределение вероятнее нежелательного с заданным запасом. Поэтому решение зависит не от абсолютной вероятности запретного признака, а от отношения двух вероятностей.
Жёсткая граница для практической генерации заменена плавным шлюзом. Он почти не меняет области, характерные для нужного распределения, и постепенно уменьшает вес областей, где растёт поддержка нежелательного. Отдельные параметры задают резкость границы и силу подавления.
Такой выбор цели меняет смысл отрицательного описания. Оно больше не означает «двигаться в противоположную сторону при каждом шаге». Вместо этого модель сохраняет варианты, для которых положительное условие остаётся более убедительным, даже если отрицательное распределение тоже считает их вероятными.
Частицы перестают вырождаться на пути
Чтобы получать выборки из целевого распределения, работа использует последовательный метод Монте-Карло (SMC). Он ведёт набор частиц по диффузионной траектории, пересчитывает их веса и при необходимости размножает частицы с высоким весом. Проблема возникает, когда почти весь вес быстро достаётся нескольким траекториям: разнообразие исчезает, а результат становится нестабильным.
Новый вариант согласует прямое и обратное перемещение частицы так, чтобы убрать главный случайный член из изменения веса. На каждом выбранном шаге алгоритм проверяет несколько коэффициентов управления на одном и том же шуме. Затем он выбирает коэффициент с наибольшим эффективным размером выборки — показателем того, сколько частиц действительно влияет на результат.
Проверка вариантов не требует отдельно считать полную матрицу производных для каждого коэффициента. Алгоритм повторно использует произведение Якобиана на вектор для двух полей: нужного и нежелательного распределений. Это не устраняет расходы SMC, но сокращает работу при локальном подборе предложения.
Метод проверяли на синтетической смеси из 40 компонентов, задачах CIFAR-10, генерации изображений со Stable Diffusion и проектировании белкового связующего для peptide–MHC. В сравнения вошли отрицательное управление, прямой SMC и методы, которые корректируют дрейф или веса частиц.
На изображениях оптимизация предложения сохранила качество там, где прямой SMC визуально разрушал результат. В белковой задаче медианная разность структурной уверенности между нужной и нежелательной мишенью выросла на 14,8% против BoltzGen. При этом положительную разность получили 84,4% вариантов, тогда как фиксированное управление достигло 93,8%: метод улучшил типичный результат, но не долю всех удачных кандидатов.
Когда метод стоит включить в план
Работа меняет планы команд, у которых отрицательное управление уже удаляет полезные варианты вместе с запрещёнными. Вместо настройки силы отталкивания можно задать явное правило: сохранять область, где нужное условие превосходит нежелательное. Это особенно уместно, когда различие локально, а основная структура двух классов совпадает.
Метод нельзя считать заменой отрицательного описания в любом готовом API. Реализация требует доступа к градиентам логарифма плотности для двух условий, произведениям Якобиана на вектор и стохастическому процессу генерации. API, который возвращает только готовый результат, такого контроля не даёт.
В план вычислений также придётся заложить несколько частиц, пересчёт весов и два эталонных поля вместо одного. Поэтому схема подходит прежде всего для пакетной генерации, научного проектирования и других задач, где специфичность важнее минимальной задержки.
Границы проверки пока узкие: для изображений в работе нет крупного общепринятого теста на специфичность, а белковый опыт охватывает одну пару мишеней. Его метрика отражает уверенность структурной модели, а не измеренную в лаборатории силу связывания. Практический следующий шаг — пилот на собственных пересекающихся условиях с отдельным контролем качества полезных вариантов, доли запрещённых результатов и эффективного размера выборки.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
