Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Обученную модель научились избавлять от влияния выбранных данных без полного переобучения. В работе Purdue University, которая не прошла рецензирование и содержит замеры самих авторов, Unmerge улучшил сводную оценку качества разучивания до 24% относительно метода с сопоставимым временем работы. Такой подход может сократить стоимость удаления класса, понятия или поведения из уже работающей модели.
Машинное разучивание должно заставить модель вести себя так, будто удалённые данные не участвовали в обучении. Unmerge представляет исходное обучение как изменение весов и выделяет внутри него отдельный «вектор забывания». Затем алгоритм вычитает этот вектор, стараясь сохранить изменения, связанные с остальными данными.
Для каждого слоя метод собирает направления активаций, характерные для удаляемых и сохраняемых примеров. Он оставляет несколько главных направлений и решает выпуклую квадратичную задачу: убрать сигнал забываемых данных, не задеть общие с сохраняемыми данными признаки и ограничить размер правки. Для этого нужен один прямой проход по данным; градиенты по обучающим примерам на этапе разучивания не вычисляются.
На ResNet-50 с CIFAR-100 и Tiny ImageNet Unmerge также опередил более тяжёлые базовые методы до 18%, хотя те работали примерно впятеро дольше. Метрика Tug-of-War одновременно учитывает качество забывания, точность на сохранённых данных и точность на тестовой выборке. Атаки, определяющие участие примера в обучении, находили забытые данные не чаще, чем в модели, заново обученной без них.
Основные опыты удаляли целые классы изображений; метод дополнительно проверили на ViT-S/16 и предварительно перенесли на Llama-3.2-3B. Граница подхода проходит между понятиями и отдельными случайными записями: если у удаляемых примеров нет собственного направления в активациях, вычитать нечего. Поэтому Unmerge подходит для удаления класса или поведения, но результаты не подтверждают надёжное разучивание произвольных пользовательских записей.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
