Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Пропущенные области целевого распределения можно искать отдельной быстрой проверкой после обучения нейросэмплера, не имея эталонных выборок. В препринте Jian Xu из RIKEN, который не прошёл рецензирование и содержит числа, полученные самим автором, проверка оценила недостающую массу с ошибкой до 0,001 при затратах в 2,7% бюджета обучения. Такой аудит можно запускать перед тем, как использовать обученный сэмплер в расчётах.
Нейросэмплер генерирует точки из заданного распределения по его функции энергии. Обычные показатели оценивают только те области, куда модель уже попадает: в одном опыте эффективный размер выборки достиг 0,99 при максимуме 1, хотя сэмплер пропустил 87% целевой массы. Хороший показатель здесь означает лишь, что модель точно воспроизводит найденную часть распределения.
Проверка использует функцию энергии, её градиент и матрицу вторых производных. Она ищет области высокой вероятности из множества стартовых точек, оценивает их локальную массу по кривизне и сравнивает результат с долей образцов сэмплера в каждой области. Так метод замечает и полностью потерянные области, и неверное распределение веса между найденными областями.
Метод проверили на смесях Gaussian, Many-Well и повёрнутом анизотропном Many-Well, где точный ответ известен. Настроенный последовательный метод Монте-Карло с отжигом тратил 70–280% бюджета обучения и давал менее точную оценку. Проверка также сработала для сэмплера без вычислимой плотности, где нельзя посчитать эффективный размер выборки.
Встроенная диагностика отслеживает, перестаёт ли поиск находить новые области при росте числа запусков. Она может пометить результат как ненадёжный, но не подтвердить его полноту: область с малой вероятностью притяжения останется незаметной и для оценки, и для самой диагностики. На физическом ландшафте LJ-13 поиск был устойчив лишь при низкой температуре, когда распределение уже фактически состояло из одной основной области; в многомодовом режиме результат сильно менялся между запусками. Поэтому метод подходит для непрерывных задач с доступными производными и достижимыми локальными максимумами, а не служит гарантией отсутствия коллапса.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
