Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Графы из разных предметных областей научились приводить к общей системе координат без повторного подбора соответствий для каждого нового графа. В препринте Xiaodong He, Xincheng Wang и Zhao Kang этот подход ускорил обработку новых графов замороженной моделью в 44,2–85,1 раза, хотя работа не рецензирована и все числа получили сами авторы. Вычислительная нагрузка смещается из каждого запуска модели в общее предобучение.
Как общий атлас связывает графы разного размера
Графы из разных доменов трудно сравнивать напрямую. У них различаются число узлов, плотность связей и смысл признаков: один набор может описывать молекулы, другой — публикации или социальные связи. Единой нумерации узлов и общего пространства признаков у них нет.
SCGFM-ART строит конечный набор обучаемых структурных основ и называет его реляционным атласом. Каждая основа содержит роли, заданные отношениями между ними. Новый граф модель описывает через его расхождения с этими основами, поэтому результат имеет одинаковую размерность независимо от исходного числа узлов.
Преобразование проходит в несколько шагов:
Графовый энкодер получает структуру графа и использует нормализованную степень узлов как исходный признак. Он не опирается на предметный смысл атрибутов, который меняется между наборами данных.
Модуль ART сопоставляет представления узлов с ролями каждой основы. Он выдаёт матрицу соответствий, а нормализация Sinkhorn приводит её к допустимому плану переноса: масса узлов и ролей сохраняется.
Из одного плана модель получает две части представления. Расхождение с основами задаёт глобальные координаты графа, а соответствия «узел — роль» переносят исходные признаки в общее пространство ролей.
Глобальная часть показывает, где граф находится относительно атласа. Локальная сохраняет более мелкие различия внутри структуры и позволяет свести признаки разной размерности к одному интерфейсу. В опытах перестановки связей меняли локальные соответствия заметнее, чем глобальные координаты: две части представления фиксируют разные уровни структуры.
Где исчезает повторная оптимизация
Предыдущая SCGFM сравнивала каждый новый граф с каждой основой через отдельную оптимизацию Gromov–Wasserstein. Такой расчёт ищет соответствия по внутренним отношениям между узлами и повторяется при каждом применении модели.
ART распределяет эту задачу на предобучение. Общие энкодеры и обученный модуль сразу предсказывают планы переноса для нового графа. Внешний итеративный поиск Gromov–Wasserstein исчезает, хотя проекция Sinkhorn внутри предсказателя остаётся.
Энергия соответствия вычисляется матричными операциями. Для разреженного графа реализация обходит рёбра и не создаёт плотную матрицу всех пар узлов. Поэтому стоимость применения растёт вместе с размером разреженного входа, а не из-за повторного решения отдельной задачи выравнивания.
Метод проверяли на 14 задачах междоменной классификации графов и узлов. Среднее место SCGFM-ART среди сравниваемых методов составило 2,29 на уровне графов и 1,14 на уровне узлов; здесь меньшее место означает более стабильный результат относительно остальных методов.
Замеры скорости относятся к замороженному переносу на COLLAB и подграфах Reddit PPR, а главным сравнением служит SCGFM с её поэкземплярной оптимизацией. Поэтому результат показывает эффект замены конкретного механизма выравнивания, а не универсальное ускорение любой графовой модели.
Когда результат меняет архитектурный план
Работа меняет планы команд, которым нужно многократно применять один структурный энкодер к графам из разных доменов. Если модель замораживают, а поверх общего представления обучают небольшую головку для новой задачи, повторная оптимизация на каждом входе становится постоянной эксплуатационной платой. ART переносит её в общий этап обучения.
Обмен не бесплатный. На COLLAB SCGFM-ART во время предобучения обрабатывала примерно в 5,7 раза меньше графов в секунду, чем SCGFM, а пик занятой памяти был в 4,7 раза выше. Модель хранит планы переноса и промежуточные вычисления сразу для всего атласа.
Практический выбор зависит от соотношения однократного предобучения и последующих запусков. При большом потоке целевых графов дополнительная память на обучении покупает более дешёвое применение; при редких запусках или частом полном переобучении выигрыш может не окупить усложнение.
SCGFM-ART также задаёт полезную границу для собственной реализации: не обязательно отказываться от геометрического выравнивания ради скорости. Можно сохранить общий атлас и интерпретируемые соответствия между узлами и ролями, но заменить повторный поиск обученным предсказателем. Проверять такой вариант стоит на собственных размерах графов, плотности рёбер и числе основ, поскольку именно они определяют память предобучения и итоговую задержку.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
