Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
LLM-агенты меняли цены, хотя состояние рынка оставалось прежним: хватало иначе записать число, переставить конкурентов или добавить оценочный комментарий. В нерецензированном препринте, где все числа получили сами авторы, сильнее всего решения сдвигали фразы вроде «спрос ослабевает». Значит, поставщик рыночных данных может влиять на автоматическое ценообразование без прямой команды поднять или снизить цену.
Dohun Lee и Hyunwoo Park назвали такую атаку внедрением рыночного сигнала. Они меняли только вход целевого агента: показывали цену в центах вместо десятичной записи, переставляли строки с компаниями или добавляли качественную характеристику рынка. Остальные агенты видели уже изменившуюся цену и реагировали на неё в следующих раундах, поэтому эффект распространялся на прибыль компаний и выгоду покупателей.
Комментарии влияли сильнее форматирования и порядка записей, а модели большего размера не всегда сопротивлялись лучше. Внутренние состояния модели позволяли отличить обычный запуск от атакованного: площадь под ROC-кривой составляла от 0,93 до 1,00, где единица означает идеальное разделение. Но такой классификатор распознаёт знакомое изменение входа, а не определяет, вредно ли принятое ценовое решение.
Приведение входа к единому виду полностью убрало проверенные атаки с комментариями: обработчик удалял строки с рыночным сигналом и нормализовал часть числовых записей. Второй подход ограничивал допустимый диапазон цены и её изменение до 15%, а затем принудительно исправлял выход модели. Он ослабил часть атак, но специально подобранные под защиту формулировки всё ещё заметно искажали результат.
Проверка охватила 12 моделей в симметричных моделируемых рынках с фиксированным спросом; один запуск длился 300 раундов. Открытые модели тестировали в рынках с двумя и тремя продавцами, закрытые — только с двумя. В реальной системе комментарий может содержать полезные сведения, поэтому его безусловное удаление подходит лишь тогда, когда доверенные числовые параметры уже описывают спрос.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
