Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Большую языковую модель научились персонализировать прямо на смартфоне, не отправляя пользовательские записи на сервер. В нерецензированном препринте, где все числа получили сами авторы, Liyan Tan и коллеги подняли успешность телефонного агента с 6–23% до 89–100%. Подход позволяет строить продукт вокруг одной локальной модели и набора небольших специалистов вместо отдельной модели для каждой задачи.
Почему обычное дообучение не помещается на телефоне
При обучении с обратным распространением ошибки система хранит промежуточные активации, градиенты и состояние оптимизатора. На смартфоне базовая модель уже занимает большую часть памяти, доступной приложению, поэтому такой запас часто отсутствует.
MobileSpec использует только прямые проходы. Система создаёт несколько случайно изменённых вариантов модели, запускает их на задаче и сдвигает параметры в сторону вариантов с лучшим результатом. Градиенты и промежуточные активации ей не нужны.
Награду можно получить без размеченного набора данных. Для действий в приложении автоматическая проверка смотрит, достигнуто ли нужное конечное состояние: отправлено ли сообщение, создан ли опрос, добавлена ли запись. Для персонализации модель оценивают по тому, насколько вероятными она считает прошлые записи пользователя.
Сам по себе прямой проход не решает проблему памяти. Эволюционная стратегия по всем параметрам требует изменять всю модель и держать копию весов с высокой точностью. LoRA хранит меньше параметров, но её пространство изменений рассчитано прежде всего на точный градиент, а не на поиск по случайным возмущениям.
Как FuRA-S выбирает полезные изменения
В основе MobileSpec лежит алгоритм FuRA-S. Он делит матрицы весов на блоки по столбцам и меняет только их сингулярные значения — коэффициенты, которые задают силу отдельных направлений внутри матрицы. Сингулярные векторы, то есть сами направления, напрямую не обучаются.
Такое ограничение выглядит слишком жёстким, но блоки собираются обратно в общую матрицу. Если независимо изменить их масштаб, вклад блоков смещается, а направления всей матрицы поворачиваются. Именно такой характер изменений авторы наблюдают после обучения с подкреплением по проверяемой награде: направления меняются сильнее, чем общий спектр весов.
На каждой итерации FuRA-S создаёт пары противоположных возмущений. Оба варианта проходят одну задачу, после чего алгоритм сравнивает их оценки и сдвигает параметры к лучшему. Направления возмущений восстанавливаются из начальных значений генератора случайных чисел, поэтому хранить их отдельно не требуется.
Для длинных цепочек действий итоговой награды недостаточно: агент может один раз поступить правильно, а затем ошибиться и получить ноль за весь эпизод. MobileSpec группирует похожие экраны у всех вариантов модели и сравнивает действия, выбранные в одном состоянии. Полезный шаг получает положительную оценку, даже если позднее эпизод завершился неудачей. Дополнительные запуски модели и приложения для этого не нужны.
FuRA-S также не переписывает четырёхбитные веса INT4. Поправку математически переносят на вход слоя, а исходное умножение выполняет прежнее INT4-ядро. Общие матрицы преобразования поставляются вместе с базовой моделью, а каждый специалист хранит только собственный вектор поправок.
Когда MobileSpec меняет план продукта
Файл одного специалиста занимает до 5 МБ, поэтому продукт может держать общую локальную модель и переключать адаптеры по задаче или пользователю. В эксперименте с Llama-3.1-8B-Instruct на iPhone 16 Pro обучение заняло 10,4 часа и использовало на пике 3,5 ГБ оперативной памяти: такую работу можно перенести на период простоя устройства.
Подход проверяли на пяти задачах MobileWorld для управления приложениями и шести задачах LaMP для персонализации. FuRA-S сравнивали с поиском по всем параметрам, LoRA при прямом обучении, методами для квантованных весов и персональными LoRA-адаптерами, обученными через обратное распространение ошибки. Эксперименты охватывают Qwen2.5, Qwen3.5 и Llama-3.1, а не только одну архитектуру.
MobileSpec меняет планы там, где задача повторяется, результат можно проверить автоматически, а данные должны оставаться на устройстве. Это могут быть действия в приложении, классификация личных записей или генерация в устойчивом пользовательском стиле. Перед выбором модели команде придётся сначала спроектировать проверку результата: без вычислимой награды алгоритму не на чем учиться.
Метод не превращает телефон в замену серверному обучающему кластеру. Каждый шаг требует прогнать целую популяцию вариантов, а длинная задача умножает затраты на число действий и эпизодов. Специалисты также не передают знания друг другу, поэтому отдельные задачи приходится обучать независимо.
Практический архитектурный выбор выглядит так: одна общая INT4-модель обслуживает продукт, а локальные специалисты добавляются только для узких повторяемых сценариев. Если проверка результата ненадёжна или адаптация должна происходить сразу, серверное обучение либо обычный LoRA-процесс остаются более подходящей отправной точкой.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
