Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Исследователи KAIST представили CoSPOT — систему онлайн-прогнозирования временных рядов на базе LLM; работа опубликована как препринт, не проходивший рецензирования. В эксперименте со сменой распределения замороженные спектральные промпты дали меньшую ошибку, чем замороженные промпты, построенные по временной области. Работа важна командам, которым нужно обновлять прогноз по мере поступления данных, не переобучая большую модель.
Что сделали
Онлайн-прогнозирование временных рядов означает, что модель последовательно получает новые наблюдения, строит прогноз и адаптируется после поступления следующих данных. В отличие от пакетного обучения, распределение здесь может меняться уже после запуска: появляются новые циклы, тренды и сочетания известных режимов.
Авторы считают, что системы с буфером памяти плохо подходят для длительной работы. Такой буфер хранит представления ранее встречавшихся режимов и извлекает похожие примеры для очередного прогноза. Если новый режим не похож на сохранённые или число вариантов растёт, качество извлечения может снижаться.
В CoSPOT вместо запоминания целых режимов используется их частотное представление. Входной ряд раскладывается на базовые частоты с помощью дискретного преобразования Фурье. Каждой частоте соответствует обучаемый спектральный промпт, а промпт конкретного входа собирается из них с весами, зависящими от амплитуд частотных компонентов.
Замысел состоит в том, чтобы представить новый режим как новую комбинацию уже изученных основ. Банк спектральных промптов обучается заранее и вместе с LLM остаётся замороженным во время онлайн-фазы. Поэтому системе не требуется обновлять параметры большой языковой модели при каждом поступлении данных.
Кроме спектрального промпта, LLM получает представление ряда от специализированной модели временных рядов и текстовое описание недавней динамики. Для локальной частотной информации авторы применяют дискретное вейвлет-преобразование, которое разделяет сигнал по частотам с учётом положения во времени. Выход LLM поступает в проекционный слой, формирующий числовой прогноз. Таким образом, LLM служит замороженным слоем представлений, а адаптация вынесена в значительно меньшую прогнозную часть системы.
Что показали
Авторы проверяли CoSPOT в обычном онлайн-режиме, при удлинённой онлайн-фазе и при переносе между ETTh1 и ETTh2. Последний сценарий имитирует смену распределения: начальное обучение проходит на одном наборе, а последовательные обновления — на другом наборе из той же предметной области.
Показателен внутренний эксперимент, где частотные промпты сравнивались с промптами по временной области. Второй вариант выбирал промпт по ближайшему прототипу в пространстве представлений, то есть зависел от сходства нового входа с ранее выделенными группами.
На ETTh2 при горизонте прогноза 48 шагов замороженный частотный вариант получил среднеквадратичную ошибку 1,245 против 1,924 у замороженного варианта по временной области. Среднеквадратичная ошибка, или MSE, сильнее штрафует крупные отклонения; меньшее значение означает более точный прогноз. Совокупное время онлайн-фазы в этом сравнении составило 837 против 958 секунд.
По интерпретации авторов, частотная композиция лучше переносит смену режимов, потому что не требует найти один похожий прототип. Отдельные проверки компонентов также показывают, что обновление промптов во время онлайн-фазы улучшает точность, но увеличивает вычислительные затраты. CoSPOT выбирает замороженный банк как компромисс между адаптацией и стоимостью обновлений.
Ограничения
Расширенный онлайн-сценарий авторы получили переразбиением конечного исторического набора: 10% данных оставили для обучения, 5% — для проверки и 85% — для онлайн-фазы. Это позволяет исследовать длительную последовательность на известных наборах, но не показывает работу системы в многомесячном производственном потоке с пропусками, задержками источников и изменением состава признаков.
Наиболее явная проверка переноса выполнена между ETTh1 и ETTh2 — рядами из одной предметной области. Работа поэтому не показывает, сохранится ли преимущество при переносе между несвязанными типами данных, например от энергетики к продажам или оборудованию с другой частотной структурой.
Авторы сравнивают качество с системами онлайн-прогнозирования и разбирают вклад компонентов, но приведённое сравнение по времени не отвечает на вопрос об экономике эксплуатации при одинаковых ограничениях на GPU, задержку и пропускную способность. Метрики MSE и средняя абсолютная ошибка также не показывают влияние прогнозов на прикладной результат: запас, простой оборудования или стоимость ошибки конкретного типа.
Что это значит
Работа не даёт оснований заменять действующий прогнозный контур на LLM только ради онлайн-адаптации. Она предлагает архитектурный вариант для случаев, где обычная модель регулярно теряет качество после появления новых циклических режимов, а полное переобучение слишком медленно или дорого.
Для таких команд планы может изменить не выбор конкретной LLM, а разделение системы на замороженное представление и небольшую адаптируемую часть. Спектральный банк можно проверить на собственном историческом потоке с искусственно сдвинутой границей обучения, сравнив его с текущей моделью при одинаковом бюджете обновлений.
Практический следующий шаг — опытный контур на собственных данных, а не немедленная смена стека. В нём нужно измерять ошибку после смены режима, время одного обновления, задержку прогноза и стоимость вычислений. Если ряды не имеют устойчивой частотной структуры либо система работает при жёстком ограничении на задержку, представленная работа пока не показывает, что добавление LLM окупит усложнение архитектуры.
Источники
Иллюстрация: рисунок из статьи «Compositional Spectral Prompts for LLM-based Online Time Series Forecasting», Seungyoon Choi, Hyunchul Kim, Jae-Gil Lee и др., CC BY 4.0
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
