Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Для табличных данных предложили выпускать дифференциально приватную синтетику, которая сохраняет общую структуру распределения без экспоненциального роста требований к выборке с числом признаков. Хотя препринт команды Williams College, Claremont McKenna College и New York University не рецензирован и числа получили сами авторы, у SPLICE ошибка убывает обратно пропорционально квадратному корню из размера выборки и не зависит от размерности данных. Это делает метод кандидатом для систем, где синтетика должна поддерживать не один заранее известный отчёт, а разные модели и виды анализа.
Как проекции заменяют полный многомерный разбор
Дифференциальная приватность ограничивает влияние одной записи на результат алгоритма. Если удалить или заменить строку исходной таблицы, вероятность получить конкретный результат должна измениться лишь в пределах заданного бюджета приватности. Поэтому синтетические данные можно передавать следующим командам без повторного доступа к исходным строкам.
Практические методы часто измеряют маргинальные распределения по небольшим группам столбцов, добавляют к ним шум и подбирают синтетическую таблицу с похожими значениями. Такой подход хорошо сохраняет именно измеренные зависимости, но взаимодействия между многими признаками остаются побочным результатом. Если же напрямую контролировать обычное расстояние Вассерштейна между многомерными распределениями, требуемый объём данных растёт экспоненциально с размерностью.
SPLICE ослабляет цель. Метод берёт случайное направление в пространстве признаков, проецирует на него каждую строку и получает одномерное распределение. Затем он повторяет процедуру для нескольких направлений. Расстояние между исходными и синтетическими данными считают как среднее расстояние Вассерштейна по таким проекциям; эта мера называется срезанным расстоянием Вассерштейна.
В каждой проекции SPLICE измеряет моменты полиномов Чебышёва. Они описывают форму распределения устойчивее, чем обычные степени значений. К измерениям добавляют гауссов шум, величина которого учитывает бюджет приватности и чувствительность момента к замене одной строки.
Чтобы получить ошибку порядка α, достаточно сопоставить примерно 1/α моментов вдоль порядка d/α² случайных направлений с точностью до логарифмических множителей. Число направлений растёт полиномиально, а не экспоненциально по числу признаков d. После этого алгоритм подбирает распределение, моменты которого близки к зашумлённым измерениям.
Что показала практическая версия SPLICE
Теоретический результат предполагает данные внутри единичного шара и распределение, которое достаточно точно решает задачу сопоставления моментов. Для реализации авторы выбрали смесь компонент: внутри каждой категориальные признаки независимы, а непрерывные описывает совместное гауссово распределение с компактной ковариационной матрицей. Смесь возвращает зависимости между категориальными столбцами, а параметры подбирает градиентный спуск.
Метод проверили на 209 табличных наборах из TALENT. Синтетические данные использовали для обучения моделей, которые затем тестировали на реальных строках, а также сравнивали распределения, маргиналы и восстановленную причинную структуру.
SPLICE показал лучший средний ранг на задачах регрессии при каждом проверенном бюджете приватности. На классификации он остался среди лидеров, но работал слабее на таблицах с большой долей категориальных признаков: проекция в непрерывное пространство не сохраняет естественным образом категории без порядка.
При ε ≥ 1 SPLICE лучше остальных методов сохранял маргиналы по парам и тройкам признаков, хотя не измерял их напрямую. Это согласуется с устройством алгоритма: случайная проекция смешивает несколько столбцов и позволяет моментам захватывать связи более высокого порядка.
В контролируемом замере размер таблиц менялся на три порядка, а время генерации оставалось в диапазоне 30–120 секунд. Все 16 800 запусков SPLICE завершились без сбоев. Это не доказывает постоянную стоимость на произвольных таблицах, но показывает, что практическая реализация не повторяет экспоненциальное поведение теоретических методов для полного расстояния Вассерштейна.
Меняет ли SPLICE планы продуктовых команд
Если продукту нужны приватные данные для одного фиксированного отчёта, проверенный метод на маргиналах остаётся более прямым выбором: он оптимизирует именно известные запросы. SPLICE становится интереснее, когда синтетику будут повторно использовать для регрессии, исследования взаимосвязей и других задач, которые нельзя перечислить заранее.
Теоретическая гарантия относится к срезанному, а не полному расстоянию Вассерштейна. Близость одномерных проекций даёт содержательную глобальную проверку, но не означает, что совпадёт любая многомерная статистика. Поэтому при внедрении всё равно нужны проверки на целевых задачах продукта и отдельных редких сегментах.
Практическая версия также задаёт конкретный класс распределений, которого нет в общей теореме. Если реальные данные плохо описываются смесью категориально-гауссовых компонент, оптимизация может не восстановить нужную структуру даже при качественных приватных измерениях. Для команды SPLICE меняет скорее архитектурный выбор: вместо выпуска набора приватных агрегатов можно один раз измерить случайные проекции и обучить на них повторно используемый генератор.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
