Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Систему ответов по графу знаний научили не отбрасывать полезную ветвь только потому, что в начале она выглядит слабой. На сложном наборе CWQ главный заявленный выигрыш FoG по доле правильных первых ответов составил 16,58%, хотя препринт не рецензирован и все числа получили сами авторы. Подход переносит значительную часть поиска с LLM на отдельную модель, которая оценивает связи графа с учётом дальнего контекста.
Почему ближайшей связи недостаточно
Системы ответов по базе знаний обычно начинают с сущностей из вопроса и обходят граф шаг за шагом. На каждом шаге они оставляют несколько наиболее подходящих связей, иначе число кандидатов быстро становится слишком большим.
Такой поиск ошибается, когда важность ветви видна только в конце цепочки. Для вопроса о песне исполнителя, получившей определённую награду, все песни рядом с узлом исполнителя сначала выглядят одинаково. Если система сразу выберет не ту песню, сведения о награде уже не помогут: нужная ветвь исчезла из пространства поиска.
Из-за этого ошибка становится необратимой. LLM продолжает рассуждать по найденным фактам, но сами факты ведут не туда. В результате модель может составить связный ответ без достаточного подтверждения в графе.
FoG меняет критерий отбора. Вместо вопроса «насколько эта связь похожа на формулировку запроса сейчас» система оценивает, может ли открытая ею ветвь привести к нужному доказательству дальше.
Как дальний контекст возвращается к началу пути
Сначала FoG разбивает исходный вопрос на подзадачи и расширяет граф от найденных сущностей. Каждую тройку — исходную сущность, отношение и связанную сущность — кодирует Qwen3-Embedding-4B. Этот кодировщик во время обучения не меняется.
Затем отдельная обученная модель оценивает связи и строит компактный подграф кандидатов. Поиск ограничен тремя переходами: этого хватает для условий эксперимента, но не доказывает, что тот же способ сохранит преимущество на существенно более длинных цепочках.
Главное отличие начинается после расширения. FoG передаёт сведения от дальних узлов обратно к сущностям возле начала поиска, а затем повторно оценивает ранние связи. Ветка, которая выглядела невыразительно сама по себе, получает высокий вес, если дальше обнаружились сущности, соответствующие другим условиям вопроса.
Отобранные факты попадают в подграф памяти. LLM читает исходный вопрос, накопленные доказательства и новую порцию кандидатов, после чего обновляет память, предлагает предварительный ответ и формирует следующие подзадачи. Отклонённая на одном раунде связь может вернуться, если новый запрос снова приведёт поиск в её область.
Проверку провели на WebQSP и CWQ, которые построены на Freebase и требуют собрать ответ из нескольких связей. Метрика Hit@1 показывает долю вопросов, где первым стоит правильный ответ. При удалении обратной передачи от дальних узлов результат на CWQ по этой метрике падал на 11,78 процентного пункта — сильнее, чем при удалении начального расширения графа.
FoG также реже обращался к языковой модели: в среднем 2,8 раза на вопрос CWQ против 22,6 у ToG. Общий объём токенов оказался примерно вдвое меньше. Вычисления не исчезли, а перешли на сторону графа: системе всё равно нужны кодирование троек, оценка связей и передача сообщений между узлами.
Когда FoG меняет архитектурный план
Работа относится прежде всего к продуктам, где ответ должен опираться на структурированную базу: каталоги, реестры, корпоративные справочники и другие графы с явными отношениями. Если вопрос требует пройти несколько неоднозначных развилок, жадное сокращение кандидатов на каждом шаге становится архитектурным риском, а не только вопросом выбора LLM.
Практический вывод — не поручать языковой модели весь обход графа. FoG оставляет за LLM декомпозицию вопроса, обновление памяти и финальный ответ, а массовую проверку связей отдаёт более узкому компоненту. Это сокращает число дорогих вызовов, но добавляет обучаемый оценщик и требует размеченных правильных путей для его обучения.
Подход не выглядит прямой заменой обычному поиску по документам: он предполагает граф знаний, исходные сущности и отношения между ними. Для простых запросов с одним переходом дополнительная передача дальнего контекста тоже может не окупить сложность контура.
Границы результата задают два исследовательских набора и один граф Freebase. Работа измеряет правильность найденных ответов, а не выдуманные ответы как отдельный класс ошибок; медицинские, юридические и другие предметные графы в проверку не входили. Поэтому FoG даёт основание пересмотреть устройство многошагового поиска, но не гарантирует тот же выигрыш после переноса на корпоративную схему данных.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
