Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Для передовых ИИ-систем предложили отдельно ограничивать допустимые возможности модели и круг тех, кто может ими пользоваться. Chai K. Toh и Vasu Raj Jain описали модель MAIAM; препринт не рецензирован, а выводы и числа получены самими авторами. Ключевой довод — защитную настройку открытой модели можно снять за несколько сотен долларов, поэтому публикация весов лишает разработчика рычагов контроля после выпуска.
MAIAM делит доступ на три уровня. ИИ для обучения доступен широко, но его возможности намеренно ограничены. ИИ для исследований требует регистрации, проверки личности и контроля использования, который усиливается вместе с возможностями. Полномасштабные передовые системы доступны только через структурированный, записываемый и подотчётный процесс.
Уровень предлагают выбирать по возможностям модели, самостоятельности действий, последствиям в конкретной области и условиям безопасного использования. Эта схема разделяет две границы: первая задаёт возможности, которые система не должна превышать, вторая определяет, кто и на каких условиях получит доступ к тому, что осталось ниже предела. Авторы отводят управление уровнями регулирующим органам, а не только разработчикам.
Работу следует читать как проект регулирования, а не как эксперимент: поскольку доступен только абстракт, из него нельзя восстановить методику, масштаб проверки или использованные модели и бенчмарки. Для продуктовой архитектуры рамка меняет сам выбор между API и открытыми весами: способ поставки модели становится лишь частью решения, рядом с проверкой пользователей, журналированием действий и разными пределами возможностей для разных сценариев.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
