Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Модель научилась точнее предсказывать последствия вмешательства, даже если эксперимент с нужной переменной провести нельзя. В работе Yuche Gao и соавторов, где числа получили сами авторы, а препринт не прошёл рецензирование, CIDER-FM снизила среднеквадратичную ошибку на реальных измерениях на 24,7% относительно TabPFN при одинаковом объёме входных данных. Это позволяет использовать уже проведённые эксперименты с другими переменными вместо того, чтобы опираться только на наблюдения.
CIDER-FM принимает несколько таблиц из одной причинной системы: обычные наблюдения и результаты контролируемых вмешательств. Для каждой строки модель видит, какую переменную изменили и какое значение ей назначили, а затем предсказывает распределение результата для нового вмешательства. Ей не нужен заранее заданный причинный граф.
Архитектура сопоставляет данные по трём осям: переменным, строкам внутри одного режима и разным экспериментальным режимам. Модель предварительно обучают на синтетических причинных системах, после чего она решает новую задачу за один проход без дополнительного обучения. Суррогатные эксперименты помогают отбросить причинные объяснения, которые одинаково хорошо соответствуют наблюдениям, но дают разные прогнозы после вмешательства.
На установке light tunnel из Causal Chambers модель оценивала, как настройка красного источника влияет на измеренную интенсивность света. Симулятор выбрал сочетание наблюдений и вмешательств в зелёный канал, после чего тот же план применили к реальным измерениям без повторного подбора. Относительно версии CIDER-FM только с наблюдениями выигрыш оказался небольшим, а качество предсказанного распределения практически совпало.
Метод проверяли на синтетических линейных и нелинейных системах, а также на одной физической установке. Графы включали не более 10 переменных; в каждом экспериментальном режиме меняли одну переменную и предполагали, что остальные причинные механизмы не меняются. Поэтому результат пока относится к небольшим системам с согласованными условиями экспериментов, а не к произвольным производственным данным.
Источники
Иллюстрация: рисунок из статьи «CIDER-FM: Foundation Models for Causal Inference from Diverse Experimental Regimes», Yuche Gao, Arik Reuter, Siyuan Guo и др., CC BY 4.0
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
