Журнал · Rit.work

ATI выносит доверие между ИИ-агентами за пределы модели

ATI проверяет личность, конфигурацию и полномочия агентов из разных организаций через внешний контур, не меняя модели и фреймворки.

Rit.work
Студия разработки
18 ноября 2026 г.3 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Автономных агентов из разных организаций научились проверять до того, как они получат данные или вызовут инструмент. Viet K. Nguyen и Mohammad I. Husain предложили ATI: в их нерецензированном препринте числа получены самими авторами, а доля остановленных атак выросла почти вдвое — с 43% до 84%. Для межорганизационных систем это переносит контроль доступа из инструкций модели в отдельный проверяемый слой.

Пять проверок стоят вне модели

ATI рассматривает каждого агента как самостоятельного участника системы, наравне с пользователем, устройством или сервисом. У агента есть криптографический идентификатор, ключ и сертификат, а каждый запрос он подписывает. Принимающая сторона сначала проверяет подпись и соответствие сертификата отправителю.

Организации выпускают сертификаты через собственные центры сертификации и напрямую признают центры партнёров. Общего корневого центра нет: каждый участник отвечает только за своё пространство имён, а принимающая организация проверяет издателя, срок действия и отзыв сертификата. Такая схема опирается на инфраструктуру открытых ключей (PKI), но переносит её с серверов и пользователей на агентов.

Подтверждение конфигурации идёт дальше обычной аутентификации. ATI сверяет запущенную модель, список разрешённых инструментов и хеш системной инструкции с одобренной конфигурацией. Поэтому агент с действительным ключом не пройдёт проверку, если кто-то заменил модель, подключил изменённый инструмент или переписал системную инструкцию.

После допуска запроса отдельные правила контролируют действия. Прототип блокирует неразрешённую запись в систему другой организации, повтор уже выполненной операции и массовое чтение данных. Разрешённые действия попадают в подписанный журнал, где записи связаны хешами: изменение старой записи нарушит последующую цепочку.

Все проверки выполняет внешний контрольный слой перед агентом и его инструментами. Он не требует менять LLM или внутренние типы фреймворка, поэтому одинаковая политика может работать в неоднородной среде.

Архитектуру собрали в симуляции федерации из восьми организаций и подключили к шести агентным фреймворкам. Защитные свойства проверяли на двух организациях, четырнадцати сценариях атак и пяти моделях; результаты определяла панель моделей-оценщиков. Это испытание прототипа в контролируемой среде, а не работа независимо управляемой производственной федерации.

Детерминированные проверки почти удвоили сдерживание атак

При включении всех контуров ATI остановила 84% атак против 43% без неё. На один запрос проверки добавили около 174 микросекунд, то есть задержка осталась меньше миллисекунды.

Защита не ухудшила выполнение обычных заданий: успешность составила 92% с ATI и 91% без неё. Это важное различие между внешним контролем и попыткой сделать модель осторожнее через системную инструкцию: правила отсекают запрос до запуска модели и не зависят от того, сочтёт ли сама модель действие подозрительным.

Контуры дополняют друг друга. Идентификация отсекала анонимные обращения, доверие — недействительные и просроченные сертификаты, подтверждение конфигурации — подмену модели, инструмента и системной инструкции. Политики останавливали повторные операции и запрещённые действия с чужими данными.

ATI не закрывает атаки, которые выглядят как разрешённая работа. Скрытая инструкция во входных данных остаётся проблемой, а сговор авторизованных агентов может не отличаться от нормального обмена. Журнал помогает расследовать такой эпизод, но сам по себе его не блокирует.

План меняется для систем, которые выходят за один периметр

Если агенты работают только внутри одной организации и все компоненты считаются доверенными, ATI не требует немедленно менять стек. Архитектура становится существенной, когда внешний агент может читать данные, запускать инструмент или передавать задачу внутреннему агенту. Обычного API-ключа тогда недостаточно: он подтверждает доступ, но не показывает, какая модель, инструкция и конфигурация стоят за запросом.

В архитектурный план стоит добавить независимый контрольный слой на входе и перед вызовами инструментов. Модель при этом не должна решать, действителен ли сертификат или разрешена ли операция: такие решения лучше свести к криптографической проверке и явным правилам. Это также уменьшает зависимость защиты от выбора LLM, поскольку одинаковые атаки разные модели принимают и отклоняют по-разному.

Прототип не доказывает целостность узла, на котором работает агент. Монитор находится в том же процессе и доверяет сведениям хоста, поэтому злоумышленник с полным контролем машины сможет подделать измерения; для более сильной гарантии потребуется аппаратное подтверждение среды. При внедрении также придётся спроектировать распространение отзывов сертификатов, защиту ключей и доступ к журналам, которые могут раскрывать связи между организациями.

ATI поэтому полезнее как схема границ ответственности, чем как готовый стандарт. Она показывает, что выбор фреймворка и модели можно отделить от доверия между организациями: агенты меняются, а идентификация, подтверждение конфигурации, правила доступа и аудит остаются во внешнем контуре.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу