Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Систему прогнозирования, которая сама меняет будущие данные, научились стабилизировать почти минимальным числом развёртываний моделей. Метод требует порядка d·log(1/ε) развёртываний — экспоненциально меньше прежнего подхода; работа MIT EECS и NYU не рецензирована, а оценки получили сами авторы. Это позволяет сократить число рискованных обновлений в рабочей среде, если данные можно собирать быстрее, чем выпускать новые версии.
Такая обратная связь возникает, когда кредитный скоринг меняет решения клиентов, медицинский прогноз — действия врачей, а рекомендации — предпочтения пользователей. Модель считают устойчивой, если после обучения на данных, которые она сама вызвала, получается та же модель. Иначе последовательное переобучение может запустить цикл, в котором каждое обновление снова сдвигает данные.
Алгоритм поочерёдно развёртывает модели, собирает отклики среды и оценивает направление изменения ошибки. Затем он отсекает часть пространства параметров. После этого без новых развёртываний вычисляет веса для смеси: при каждом прогнозе система выбирает одну из найденных моделей с заданной вероятностью.
Смесь содержит примерно столько же моделей, сколько потребовалось развёртываний. Нижняя граница совпадает с этим результатом с точностью до множителя, зависящего от логарифма размерности, поэтому в общем случае заметно сократить число запусков уже нельзя. Экономия развёртываний требует порядка d/ε² наблюдений, а при сильно выпуклой функции ошибки — порядка d/ε.
Результат теоретический: его доказали для выпуклого компактного пространства параметров и выпуклой функции ошибки. Связь между прогнозом и будущими данными может быть произвольной и даже скачкообразной. Чтобы заменить случайную смесь одной моделью, нужны более жёсткие условия: функция ошибки должна быть хорошо обусловлена, а близкие модели — слабо и плавно менять распределение данных; тогда устойчивой становится модель с усреднёнными параметрами.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
