Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Проверить результат ИИ, полученный из закрытых данных, и при этом ничего не раскрыть о них в общем случае нельзя, если вычисление обращается к внешнему источнику. Alessandro Chiesa, Ziyi Guan и Burcu Yildiz показали, что ограничение сохраняется, даже когда проверка может длиться дольше исходного вычисления; препринт не рецензирован, а приведённые в нём числа и результаты получены самими авторами. Приватная проверка становится возможной, если внешний источник подписывает каждый ответ.
Работа разбирает вычисления, где правильность зависит не только от программы: система может спрашивать человека, учитывать физический эксперимент или обращаться к вебу. Такой внешний источник называют оракулом. Проверяющий должен убедиться в корректности вывода, но узнать о закрытых данных лишь то, что следует из самого вывода, — это свойство доказательства с нулевым разглашением (zero-knowledge proof).
В модели случайного оракула, где всем участникам доступна идеализированная случайная функция, универсального протокола для всех таких вычислений не существует. Дополнительное время не помогает: доказывающая и проверяющая стороны могут работать дольше исходного вычисления. Запрет распространяется и на дебаты, в которых две стороны спорят о правильности результата перед проверяющим.
Условие меняется, когда оракул ставит криптографическую подпись под каждым ответом. Тогда любое вычисление с таким внешним источником можно проверить без раскрытия исходных данных, используя устойчивые к коллизиям хеш-функции. Подходу не нужен честный оппонент, как в дебатах, и не требуется, чтобы само вычисление сохраняло результат при небольших изменениях.
Это теоретический результат для общего класса вычислений, а не проверка конкретных моделей или прикладных систем. Поскольку заметка сделана по абстракту, а не по полному тексту, детали доказательств по нему восстановить нельзя. Для проектирования систем вывод практический: если результат зависит от человека, эксперимента или веб-источника, приватную проверку следует строить вокруг подписанных ответов, а не только вокруг журнала рассуждений модели.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
