Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
У модуля общего рабочего пространства теперь можно проверить, использует ли он переданное сообщение для вычисления или лишь пересылает готовый ответ. В нерецензированном препринте, где все числа получили сами авторы, Diaoxuan He и Linqian Wu показывают: в AFGW подмена сообщения привела к ответу, который предсказывает совместное вычисление, в 97% случаев. Для модульных LLM это способ проверять реальную роль компонента, а не судить о ней по точности и отключению блока.
Обычные проверки не различают два механизма. Если после отключения канала модель ошибается, это доказывает только зависимость от канала: источник мог передать промежуточный факт, а мог сразу вычислить ответ. Авторы заменяют сообщение данными из другого входа и подбирают примеры так, чтобы игнорирование, пересылка и объединение со своей памятью дали три разных ответа.
В одном примере исходный ответ — «комната», ответ для входа-донора — «кухня», а результат объединения донорского сообщения с памятью получателя — «больница». AFGW выбирал последний вариант; без вмешательства он возникал лишь в 0,4% случаев. На специально собранных эталонных сетях тест без ошибок отличил архитектуру с пересылкой от архитектуры с совместным вычислением.
Дополнительное вмешательство показало, как сообщение меняет результат. Оно перенаправляет запрос получателя к собственной памяти: возврат исходного запроса отменял эффект подмены, а установка только нового запроса воспроизводила его. Оба опыта сработали в 2047 из 2048 случаев.
Основной механизм проверяли на небольшой AFGW, обученной отвечать по синтетическим мирам с объектами, владельцами и местами. Границы проверки расширили вариантами канала, несколькими получателями, дополнительным маршрутом связи и известным внутренним интерфейсом Qwen2.5-1.5B-Instruct. Для производственной системы вывод практический: если агенты, эксперты или модули поиска обмениваются сообщениями, одной точности и проверки с отключённым блоком недостаточно — нужна подмена содержания с заранее различимыми исходами.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.



