Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Гибридную модель физической системы удалось обучить прямо на ESP32, не запуская численный решатель внутри цикла обучения. Хотя препринт Pranavanath Balamurali и Hrishi Kamireddy не рецензирован, а числа получены самими авторами, на устройстве обучение заняло 61,3 кБ статической памяти вместо 5,9 МБ памяти для промежуточных вычислений у базового метода. Такой подход позволяет перенести адаптацию модели с сервера на контроллер, но требует плотного потока измерений и отдельного контура фильтрации шума.
Решатель заменили производными из потока
Работа посвящена универсальным дифференциальным уравнениям: известную физику системы записывают обычными уравнениями, а небольшой нейросети поручают выучить неучтённые эффекты. Так можно сохранить понятную модель механики и добавить поправку на износ, трение или изменившуюся нагрузку.
Обычно во время обучения модель много раз рассчитывает траекторию через численный решатель. Чтобы изменить веса нейросети, система хранит промежуточные состояния и проводит ошибку назад через все шаги расчёта. Память растёт вместе с длиной траектории, а неудачное обновление весов может сделать сам расчёт неустойчивым.
TinyUDE не строит траекторию внутри функции потерь. Метод оценивает по измерениям состояние, скорость его изменения и ускорение, а затем подгоняет векторное поле — функцию, которая задаёт изменение состояния системы. Для сглаживания применяется фильтр Savitzky–Golay: он приближает короткий участок сигнала полиномом и берёт производные этого полинома.
Первая производная показывает, совпадает ли предсказанное изменение состояния с наблюдаемым. Вторая связывает изменение векторного поля с его направлением. Для обеих частей авторы вывели аналитические градиенты, поэтому прошивке не нужны ни решатель, ни библиотека автоматического дифференцирования, ни лента промежуточных операций.
Точность обеспечила обработка шума
Прямое вычисление производных усиливает шум датчика. Простая подгонка по соседним точкам в экспериментах быстро теряла точность, поэтому основная инженерная часть TinyUDE находится перед обучением, а не в нейросети.
Фильтрующее окно сдвигается по исходному потоку без обычного прореживания. Это даёт больше разных целей для обучения из тех же измерений. Часть примеров попадает в резервуар — случайную выборку фиксированного размера из непрерывного потока, — поэтому модель не запоминает шум нескольких последних окон.
Контроллер сам оценивает уровень шума по ошибке полиномиального приближения и меняет временной масштаб фильтра. Окна, где полином плохо описывает быстрое движение, отбрасываются. Если ускорение нельзя надёжно отделить от шума, вклад второй производной отключается; именно так произошло в опыте на ESP32, и обучение продолжило работать только по первой производной.
На моделях одинарного и хаотического двойного маятника, при шуме от 0 до 5%, средняя относительная ошибка векторного поля составила 0,65 от ошибки базового метода с решателем. При минимальном проверенном шуме базовый метод оставался точнее в 1,8 раза. Физический ESP32 достиг ошибки 0,0020 при 7,24 мс на обновление.
Когда TinyUDE меняет архитектуру продукта
Работа влияет на планы команд, которым нужно не только исполнять, но и дообучать модель динамики на устройстве. Если контроллер получает частые измерения состояния, а неизвестная часть физики помещается в небольшую нейросеть, обучение можно встроить в рабочий цикл без выгрузки полной телеметрии и без численного решателя в прошивке.
Цена переноса — новый конвейер данных. Понадобятся калибровка масштаба сигналов, кольцевой буфер, резервуар примеров, оценка шума и проверка качества каждого фильтрующего окна. Перенести существующую серверную UDE-модель на микроконтроллер простой заменой оптимизатора не получится: TinyUDE меняет саму функцию потерь и способ готовить обучающие цели.
Сравнение проведено на двух симулированных механических системах с гауссовским шумом. Полный запуск на физическом устройстве проверяли на одинарном маятнике при шуме в 1%; двойной маятник на ESP32, задержки датчиков, квантование и энергопотребление в эту аппаратную проверку не входили. Поэтому метод уже даёт основание пересмотреть бюджет памяти для стенда или прототипа, но ещё не подтверждает готовность к произвольной полевой телеметрии.
Для нового продукта TinyUDE разумно рассматривать как отдельную архитектурную ветку рядом с серверным обучением. Ключевая проверка до выбора подхода — можно ли устойчиво оценивать производную из реального сенсорного потока. Если измерения редкие, приходят с переменной задержкой или содержат выбросы другого типа, преимущество отказа от решателя может исчезнуть из-за ошибок обучающих целей.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
