Журнал · Rit.work

Точность не раскрывает роль общего рабочего пространства

Причинный тест отличает модуль, который объединяет полученное сообщение со своей памятью, от модуля, который лишь пересылает готовый ответ.

Rit.work
Студия разработки
20 ноября 2026 г.2 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

У модуля общего рабочего пространства теперь можно проверить, использует ли он переданное сообщение для вычисления или лишь пересылает готовый ответ. В нерецензированном препринте, где все числа получили сами авторы, Diaoxuan He и Linqian Wu показывают: в AFGW подмена сообщения привела к ответу, который предсказывает совместное вычисление, в 97% случаев. Для модульных LLM это способ проверять реальную роль компонента, а не судить о ней по точности и отключению блока.

Обычные проверки не различают два механизма. Если после отключения канала модель ошибается, это доказывает только зависимость от канала: источник мог передать промежуточный факт, а мог сразу вычислить ответ. Авторы заменяют сообщение данными из другого входа и подбирают примеры так, чтобы игнорирование, пересылка и объединение со своей памятью дали три разных ответа.

В одном примере исходный ответ — «комната», ответ для входа-донора — «кухня», а результат объединения донорского сообщения с памятью получателя — «больница». AFGW выбирал последний вариант; без вмешательства он возникал лишь в 0,4% случаев. На специально собранных эталонных сетях тест без ошибок отличил архитектуру с пересылкой от архитектуры с совместным вычислением.

Дополнительное вмешательство показало, как сообщение меняет результат. Оно перенаправляет запрос получателя к собственной памяти: возврат исходного запроса отменял эффект подмены, а установка только нового запроса воспроизводила его. Оба опыта сработали в 2047 из 2048 случаев.

Основной механизм проверяли на небольшой AFGW, обученной отвечать по синтетическим мирам с объектами, владельцами и местами. Границы проверки расширили вариантами канала, несколькими получателями, дополнительным маршрутом связи и известным внутренним интерфейсом Qwen2.5-1.5B-Instruct. Для производственной системы вывод практический: если агенты, эксперты или модули поиска обмениваются сообщениями, одной точности и проверки с отключённым блоком недостаточно — нужна подмена содержания с заранее различимыми исходами.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу