Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Действия мобильного ИИ-агента научились останавливать до того, как они меняют данные, настройки или экран смартфона. Система MATE из работы KAIST подняла блокировку рискованных заданий с GPT-4o с 29,7% до 97%; препринт не прошёл рецензирование, а числа получили сами авторы. Защиту можно добавить поверх выбранной модели, не переобучая её.
Как предложение модели становится проверяемым действием
Обычный мобильный агент получает команду, смотрит на текущий экран и предлагает следующий шаг: нажать кнопку, ввести текст, прокрутить список или открыть приложение. После этого Android исполняет команду, и отменить результат бывает трудно: агент уже отправил сообщение, ввёл реквизиты или подтвердил покупку.
MATE вставляет дополнительный слой между предложением модели и Android. Он превращает каждый шаг в структурированную запись, где вместе хранятся исходная команда, целевое приложение, состояние экрана, тип действия и его параметры. Поэтому проверка видит не абстрактное нажатие по координатам, а его смысл в текущем контексте.
Runtime Guardrail проверяет эту запись по смысловым и формальным правилам. Смысловые правила распознают попытки обойти ограничения, запрещённые темы, финансовые переводы и ввод учётных данных. Формальные правила сверяют пакет приложения, координаты, допустимую область экрана и структуру команды.
Результат проверки — разрешить действие, запретить его или запросить подтверждение пользователя. Запрет имеет приоритет: если команда или цель нарушает правило, исполнение прекращается. Чувствительные, но допустимые операции — например, покупка или отправка сообщения — переходят к подтверждению до того, как смартфон выполнит шаг.
Этот порядок отделяет безопасность от рассуждений модели. Модель по-прежнему выбирает действие и может ошибиться, но ошибка ещё не равна изменению состояния устройства. Пользователь также может вмешаться через компактное плавающее окно при входе в аккаунт или подтверждении операции.
Проверенные маршруты сокращают повторное планирование
Вторая часть MATE отвечает за повторяющиеся задачи. Обычный агент заново анализирует каждый экран даже тогда, когда пользователь регулярно проходит один и тот же путь: открывает поиск, добавляет товар, создаёт заметку или вводит пункт назначения.
Predefined Task Routing заранее строит маршруты по дереву интерфейса установленного приложения и сохраняет их на устройстве. При новом запросе система ищет маршрут по ключу из приложения и формулировки команды. Совпавшая последовательность исполняется без пошаговых обращений к модели, после чего MATE проверяет достигнутый экран.
Если маршрут не найден, устарел или привёл не туда, управление возвращается обычному агенту. Это отличает подход от слепого воспроизведения записанной последовательности: сохранённый путь ускоряет знакомую задачу, но не становится единственным способом её выполнить.
В повторных запусках на AndroidWorld число вызовов LLM сократилось в 6,1 раза — с 1711 до 280, а доля успешно выполненных задач достигла 95,7%. За усиленную проверку приходится платить ошибочными блокировками: на безопасных заданиях с GPT-4o их доля составила 4,1%.
MATE меняет слой исполнения, а не выбор модели
Командам, которые строят мобильного агента, работа предлагает не новую базовую модель, а архитектурную границу. Предложение модели нельзя сразу передавать операционной системе: сначала его стоит привести к единой схеме, проверить по правилам продукта и только затем исполнить либо показать пользователю.
Практическое внедрение потребует описать допустимые действия, выделить операции с подтверждением и сохранить контекст, достаточный для проверки. Для повторяющихся сценариев понадобится локальное хранилище маршрутов, проверка итогового экрана и обязательный возврат к обычному планированию при несовпадении.
Проверку безопасности проводили на 156 рискованных заданиях MobileSafetyBench, а маршруты строили для 19 приложений и оценивали на AndroidWorld. Эксперименты охватывают известные приложения и повторяющиеся сценарии одного пользователя; при заметном изменении интерфейса, сложных жестах, переходах между приложениями и новых задачах система полагается на повторное исследование или базового агента.
Поэтому MATE не заменяет тестирование модели и не образует полноценную границу безопасности. Работа показывает более узкий инженерный принцип: риск нужно контролировать в точке, где текстовое решение превращается в физическое действие на личном устройстве. Такой слой можно развивать независимо от модели и менять его правила без нового обучения.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.



