Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Сбой в мультиагентной системе теперь можно искать не только в отдельном агенте, но и в сообщениях и зависимостях между агентами, а затем исправлять именно источник. TRACE-MAS повысил точность локализации первопричины на 60,2%; работа представлена как нерецензированный препринт, и все числа в ней получили сами авторы. Для разработки таких систем это схема локального ремонта вместо отключения агента целиком.
TRACE-MAS представляет запуск системы как граф событий: агент меняет внутреннее состояние, отправляет сообщение, получает подзадачу или завершает её. На журналах исправных запусков система учится распознавать нормальные переходы, а затем отмечает отклонения в состояниях, сообщениях и ходе задачи.
Самое заметное отклонение не обязательно указывает на источник: повреждённое сообщение может пройти через несколько исправных агентов и вызвать более сильную ошибку дальше по цепочке. TRACE-MAS по очереди восстанавливает кандидатов до ожидаемого состояния и без новых вызовов LLM оценивает, какое изменение убирает больше последующих отклонений. После этого система выбирает исправление состояния, сообщения или зависимости, учитывает ущерб для задачи и стоимость правки, а повторно запускает только затронутые ветви.
В контролируемом сравнении ремонт источника повысил долю восстановленных задач на 30 процентных пунктов относительно исправления самого аномального события и потребовал на 50% меньше вмешательств. Такой результат поддерживает практическую идею TRACE-MAS: защита должна различать место, где ошибка появилась, и место, где она стала заметна.
Проверка охватывала пять наборов задач на рассуждение, поиск информации и работу с инструментами, включая GSM8K, CSQA, HotPotQA, PoisonRAG и InjecAgent. Атаки трёх типов меняли состояния агентов, сообщения и зависимости задач; методы сравнивали при одинаковых базовых LLM, шаблонах системы и разбиении данных. Эти условия показывают результат для заранее заданных схем взаимодействия и контролируемых повреждений.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.



