Журнал · Rit.work

MATE проверяет действие мобильного агента до исполнения

MATE отделяет решение мобильного агента от его эффекта на смартфоне, блокирует опасные действия и повторно использует проверенные маршруты.

Rit.work
Студия разработки
20 ноября 2026 г.3 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Действия мобильного ИИ-агента научились останавливать до того, как они меняют данные, настройки или экран смартфона. Система MATE из работы KAIST подняла блокировку рискованных заданий с GPT-4o с 29,7% до 97%; препринт не прошёл рецензирование, а числа получили сами авторы. Защиту можно добавить поверх выбранной модели, не переобучая её.

Как предложение модели становится проверяемым действием

Обычный мобильный агент получает команду, смотрит на текущий экран и предлагает следующий шаг: нажать кнопку, ввести текст, прокрутить список или открыть приложение. После этого Android исполняет команду, и отменить результат бывает трудно: агент уже отправил сообщение, ввёл реквизиты или подтвердил покупку.

MATE вставляет дополнительный слой между предложением модели и Android. Он превращает каждый шаг в структурированную запись, где вместе хранятся исходная команда, целевое приложение, состояние экрана, тип действия и его параметры. Поэтому проверка видит не абстрактное нажатие по координатам, а его смысл в текущем контексте.

Runtime Guardrail проверяет эту запись по смысловым и формальным правилам. Смысловые правила распознают попытки обойти ограничения, запрещённые темы, финансовые переводы и ввод учётных данных. Формальные правила сверяют пакет приложения, координаты, допустимую область экрана и структуру команды.

Результат проверки — разрешить действие, запретить его или запросить подтверждение пользователя. Запрет имеет приоритет: если команда или цель нарушает правило, исполнение прекращается. Чувствительные, но допустимые операции — например, покупка или отправка сообщения — переходят к подтверждению до того, как смартфон выполнит шаг.

Этот порядок отделяет безопасность от рассуждений модели. Модель по-прежнему выбирает действие и может ошибиться, но ошибка ещё не равна изменению состояния устройства. Пользователь также может вмешаться через компактное плавающее окно при входе в аккаунт или подтверждении операции.

Проверенные маршруты сокращают повторное планирование

Вторая часть MATE отвечает за повторяющиеся задачи. Обычный агент заново анализирует каждый экран даже тогда, когда пользователь регулярно проходит один и тот же путь: открывает поиск, добавляет товар, создаёт заметку или вводит пункт назначения.

Predefined Task Routing заранее строит маршруты по дереву интерфейса установленного приложения и сохраняет их на устройстве. При новом запросе система ищет маршрут по ключу из приложения и формулировки команды. Совпавшая последовательность исполняется без пошаговых обращений к модели, после чего MATE проверяет достигнутый экран.

Если маршрут не найден, устарел или привёл не туда, управление возвращается обычному агенту. Это отличает подход от слепого воспроизведения записанной последовательности: сохранённый путь ускоряет знакомую задачу, но не становится единственным способом её выполнить.

В повторных запусках на AndroidWorld число вызовов LLM сократилось в 6,1 раза — с 1711 до 280, а доля успешно выполненных задач достигла 95,7%. За усиленную проверку приходится платить ошибочными блокировками: на безопасных заданиях с GPT-4o их доля составила 4,1%.

MATE меняет слой исполнения, а не выбор модели

Командам, которые строят мобильного агента, работа предлагает не новую базовую модель, а архитектурную границу. Предложение модели нельзя сразу передавать операционной системе: сначала его стоит привести к единой схеме, проверить по правилам продукта и только затем исполнить либо показать пользователю.

Практическое внедрение потребует описать допустимые действия, выделить операции с подтверждением и сохранить контекст, достаточный для проверки. Для повторяющихся сценариев понадобится локальное хранилище маршрутов, проверка итогового экрана и обязательный возврат к обычному планированию при несовпадении.

Проверку безопасности проводили на 156 рискованных заданиях MobileSafetyBench, а маршруты строили для 19 приложений и оценивали на AndroidWorld. Эксперименты охватывают известные приложения и повторяющиеся сценарии одного пользователя; при заметном изменении интерфейса, сложных жестах, переходах между приложениями и новых задачах система полагается на повторное исследование или базового агента.

Поэтому MATE не заменяет тестирование модели и не образует полноценную границу безопасности. Работа показывает более узкий инженерный принцип: риск нужно контролировать в точке, где текстовое решение превращается в физическое действие на личном устройстве. Такой слой можно развивать независимо от модели и менять его правила без нового обучения.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу