Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Стандартную свёрточную нейросеть удалось запустить на ATmega328P без ОС и тяжёлой среды выполнения. В работе PowerLabs Technologies модель распознавала MNIST с точностью 98,17%, хотя препринт ещё не рецензировали и все числа получили сами авторы. Такой подход позволяет собирать локальное распознавание для ограниченных микроконтроллеров как единый конвейер, а не вручную стыковать несколько инструментов.
Конвейер Deep Microcompression сначала удаляет целые каналы и нейроны, которые меньше влияют на результат. В отличие от удаления отдельных весов, структурное прореживание сохраняет плотное и последовательное расположение данных: микроконтроллеру не нужны библиотеки для разреженных матриц, а время выполнения остаётся предсказуемым. Затем обучение с учётом квантования переводит веса и промежуточные значения в целые числа низкой разрядности и заранее фиксирует коэффициенты пересчёта.
На последнем шаге генератор упаковывает несколько весов в один байт и создаёт независимый заголовочный файл на C. Позиции весов вычисляются при сборке, поэтому устройство извлекает их обычными сдвигами и битовыми масками, без деления, вычисления смещений и декодера с переменной длиной кода. В результате одна цепочка охватывает подготовку модели, формат хранения и код вывода.
У DMC-Ultra весовая часть стала в 55,8 раза меньше исходной, но память промежуточных карт признаков всё ещё не позволяла перенести этот вариант на ATmega328P. Поэтому DMC-Tiny сильнее сокращает ранние слои, где такие карты занимают больше всего места: рабочая область снизилась до 1,27 КБ и модель поместилась в 2 КБ SRAM. На RP2040 итоговый двоичный файл был втрое меньше варианта с TensorFlow Lite при совпадающей точности.
Метод проверяли на LeNet-5 и датасете MNIST в конфигурациях DMC-Ultra и DMC-Tiny. Запуск на ATmega328P показал, что модель помещается в жёсткий бюджет памяти, а RP2040 использовали для сравнения с исходной моделью и TensorFlow Lite. Поэтому работа пока показывает полный стек на одной компактной архитектуре и одной задаче распознавания изображений.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
