Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Конкуренция между компаниями заставляет их вкладывать в безопасность LLM больше, чем было бы выгодно отрасли в целом, тогда как поставщик модели может недоинвестировать. В препринте, который не прошёл рецензирование, Nikita Tsoy из INSAIT и Sofia University приводит собственные расчёты для рынка с одним поставщиком и несколькими клиентами. Для разработчиков платформ это означает, что распределение ответственности и схема оплаты могут влиять на безопасность не меньше технических методов.
Автор описал рынок, где поставщик обучает базовую модель, а конкурирующие компании используют её в своих продуктах. Ошибки LLM приносят клиентам штрафы и репутационные потери, поэтому обе стороны могут собирать данные и дополнительно обучать модель. Поставщик сначала выбирает объём вложений, затем согласует плату за доступ, после чего клиенты решают, сколько вложить самостоятельно.
Компании инвестируют активнее, когда более безопасная модель помогает снизить издержки и получить преимущество перед конкурентами. Поставщик тоже выигрывает: за улучшенную модель можно брать больше. Но он получает лишь часть созданной выгоды, поэтому вкладывает меньше уровня, который максимизировал бы общую прибыль отрасли. Клиенты готовы совместно оплатить дополнительные меры, однако двусторонние переговоры о тарифах не позволяют автоматически собрать такую компенсацию.
Схема оплаты меняет этот баланс. Подписочная плата приносит поставщику больше прибыли и стимулирует его сильнее вкладываться в безопасность, чем оплата за токены. Минимальные требования к модели, аудит и штрафы также повышают совокупные вложения, но строгие нормы сокращают прибыль: клиенты могут отказаться от LLM, а поставщик — уйти с рынка. Субсидии сохраняют прибыль участников, однако требуют бюджетного финансирования.
Расчёты охватывают рынок с одним поставщиком и как минимум двумя симметричными компаниями. Модель рассматривает частые ошибки с ограниченным ущербом — например, токсичные ответы или неквалифицированные советы, — а не катастрофические риски. Регулятор обеспечивает требования без ошибок, рынок остаётся стабильным, а риск снижается по мере роста обучающих данных. Поэтому работа задаёт рамку для проектирования тарифов и ответственности, но не измеряет эффект на реальных внедрениях.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
