Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
TEX-MEX научился связывать форму сигнала с тем, что обычно происходит до или после него, и использовать эту связь для обучения без разметки. Команда University of Illinois Urbana-Champaign и University of Memphis показала в препринте, который не проходил рецензирование и приводит замеры самих авторов, что модель PPG на 560 тысяч параметров обошла гораздо более крупные аналоги на большинстве прикладных задач. Для команд, которые работают с показаниями датчиков, это аргумент сначала улучшать целевую функцию предобучения, а не увеличивать модель.
Как TEX-MEX выбирает похожие окна
Контрастивное обучение строит представление данных через пары примеров: похожие сближает, непохожие раздвигает. Для временных рядов сложно решить, что считать похожим. Два фрагмента могут одинаково выглядеть, но относиться к разным состояниям; соседние по времени фрагменты могут отличаться по форме, хотя описывают один процесс.
Предыдущие методы обычно выбирали один из двух признаков. Структурные методы сравнивали форму волн, например отдельные сердечные сокращения. Временные методы считали связанными соседние эпизоды, например нагрузку и восстановление после неё.
TEX-MEX соединяет эти признаки в одной целевой функции. На каждом шаге модель случайно берёт окна из всего набора данных и кодирует каждое в числовой вектор. Затем она вычисляет косинусное сходство между векторами: чем ближе их направления, тем сильнее модель считает исходные окна связанными.
Отдельный внешний алгоритм сравнения сигналов не нужен. Сходство определяет сам кодировщик, поэтому критерий меняется вместе с моделью. В середине обучения ближайшие соседи уже чаще относились к одному классу, чем соседи, найденные методами REBAR, DTW или по обычному расстоянию между отсчётами.
Оценка не превращается в жёсткую метку «похож» или «не похож». Каждое окно получает положительный и отрицательный вес. Это снижает ущерб от ложных отрицательных примеров, когда два связанных фрагмента случайно попали в разные группы.
Зачем модель сдвигает весь пакет во времени
После оценки формы TEX-MEX сдвигает каждое окно вперёд или назад в пределах его исходной записи. Для всего пакета используют одинаковое случайное смещение, но на следующем шаге выбирают новое. Так обучение охватывает разные временные масштабы, а окна не пересекаются со своими исходными версиями.
Якорное окно притягивается не к похожему фрагменту напрямую, а к его сдвинутой версии. Если два исходных окна похожи, модель учится ожидать рядом с ними сходный контекст. Например, эпизод физической нагрузки можно связать с восстановлением, которое следовало за похожей нагрузкой в другой записи, а не только с продолжением одного конкретного эпизода.
Сдвинутые версии непохожих окон модель отталкивает. При этом один кандидат может частично участвовать в обеих частях целевой функции: его вклад зависит от степени сходства, а не от бинарного решения.
Есть и третий компонент. Исходная версия похожего окна становится дополнительным отрицательным примером по отношению к его сдвинутой версии. Без этого кодировщик мог бы игнорировать время и выдавать почти одинаковые представления для любого участка одной записи, например узнавая человека вместо состояния сигнала.
Градиент через веса сходства останавливают. Целевая функция поэтому не может напрямую подстроить критерий, которым сама формирует обучающие пары. Удаление этого механизма и разделения временных кадров ухудшало результаты в проверке на непрерывном мониторинге глюкозы.
Когда результат меняет планы разработки
Метод проверили на PPG, ECG, EEG, акселерометрии и непрерывном мониторинге глюкозы. В общей проверке использовали замороженные представления и простой линейный классификатор, сохраняя одинаковую архитектуру кодировщика для сравниваемых методов. К середине обучения сходство TEX-MEX определяло общий класс на 4–5 процентных пунктов точнее REBAR.
Отдельную базовую модель обучили на PPG, то есть оптической записи пульсовой волны со смарт-часов. При 560 тысячах параметров она показала лучший результат в 7 из 11 задач и обошла все модели, обученные только на PPG, в 10 из 11. Pulse-PPG, обученная на том же корпусе, примерно в 50 раз крупнее.
Это не универсальная замена архитектуры или данных. Проверка охватывает физиологические сигналы и показания датчиков, где форма эпизода связана с последующим или предыдущим состоянием. На задаче распознавания сна модель уступила лидеру; её предобучающий корпус не включал записи сна.
Практический вывод относится прежде всего к продуктам с большим объёмом неразмеченных последовательностей: носимым устройствам, медицинским датчикам и мониторингу активности. Если у похожих событий повторяется временной контекст, TEX-MEX позволяет извлечь его без ручных меток и без отдельной дорогой функции расстояния.
Перед сменой текущего метода стоит воспроизвести сравнение на собственном корпусе. Качество здесь зависит от того, несут ли случайные временные сдвиги полезный контекст, а пакеты содержат достаточно разнообразных окон для поиска похожих и непохожих примеров. Авторы также обещают открыть код и веса модели PPG, что упростит такую проверку после выпуска.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
