Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Зрительно-языковые модели с поисковым дополнением часто отвечают правильно не потому, что распознали изображение, а потому, что получили верную подсказку в документе. Basavaraj R M и Harshal Chandel показали, что чистая точность выше 92% при неблагоприятных условиях может упасть до 41%, хотя препринт не рецензирован и все числа получили сами авторы. Для продуктов, которые соединяют изображения с найденным текстом, обычного теста точности теперь недостаточно: нужно отдельно проверять, как модель разрешает конфликт источников.
Как отделили зрение от доверия к тексту
В основе работы лежит GIB-200K — набор вопросов по изображениям из COCO и Visual Genome. Вопросы касаются объектов, цветов и пространственных отношений, а ответ выбирается из закрытого словаря. Поэтому результат можно проверить автоматически, без модели-оценщика.
Для каждого примера подготовили правильный документ и близкие по смыслу, но фактически неверные варианты. Например, в правильной подписи меняли животное на похожую категорию, цвет — на соседний по восприятию, а пространственное отношение — на противоположное. Изображения размывали, обрезали и соединяли с документами, которые прямо им противоречили.
Главная часть методики сравнивает четыре режима: только изображение, только документ, оба источника и отсутствие обоих. Модель отвечает на один и тот же вопрос, а исследователи измеряют, насколько каждый источник меняет шансы двух конкурирующих ответов.
Эталоном служит идеальный наблюдатель. Если изображение и текст дают независимые свидетельства, такой наблюдатель складывает их с учётом надёжности. Слабое изображение может проиграть ясному документу, но чёткое изображение не должно уступать одной голословной фразе.
Отношение весов текста и изображения показывает направление перекоса. Значение выше единицы означает, что модель переоценивает текст относительно собственных зрительных свидетельств; ниже единицы — что она чрезмерно полагается на изображение. Чтобы ошибки измерения не занижали веса, ответы проверяли с двумя порядками вариантов и использовали их как повторные замеры.
Отдельная проверка меняет источники местами: на одной картинке изображён объект A, а документ называет B, на парной — наоборот. Если модель в обоих случаях выбирает один концепт, дело не в доверии к тексту или изображению, а в её встроенном предпочтении этого ответа.
Основные результаты получены на фиксированной выборке из 2000 заданий и четырёх открытых моделей. Три крупные модели запускали с квантованными весами без сравнения с полной точностью, поэтому выводы надёжнее описывают различия между условиями внутри одной модели, чем абсолютный рейтинг всех VLM.
Одинаковая точность скрывает разные перекосы
Обе версии LLaVA переоценивали найденный текст: отношение его веса к весу изображения составило 1,23 и 1,32. Такая модель продолжает следовать документу даже тогда, когда её собственное зрительное свидетельство говорит обратное.
InternVL3 показала противоположный перекос с отношением 0,68. Она чаще сохраняла ответ по изображению, хотя в условиях сильного размытия правильнее было бы положиться на документ. Qwen2-VL оказалась ближе всего к равновесию с отношением 0,94, но тоже не совпала с эталонным способом объединять свидетельства.
Даже ответы, правильные на чистом входе, часто не выдерживали простой подмены документа. В худшем случае модель отказывалась от верного ответа в пользу ложного текста в 71% таких примеров. Значит, чистая точность может измерять качество подсказки рядом с изображением, а не способность модели видеть.
Парные конфликты показали ещё одну причину ошибок: часть кажущегося следования тексту объяснялась предпочтением конкретного концепта. Одиночный тест с ложным документом смешивает эти случаи и может привести к неверному выводу о том, какой источник контролирует ответ.
Что менять в проверке продуктов с VLM
Работа не требует немедленно менять модель или архитектуру поиска. Она меняет план приёмочных испытаний: точность на правильных изображениях и документах больше нельзя считать достаточным подтверждением того, что система опирается на нужный источник.
В тестовый набор стоит включить один и тот же вопрос в нескольких режимах: с изображением без документов, с документом без полезного изображения и с обоими источниками. Если совместный ответ противоречит более сильному свидетельству из раздельных прогонов, проблема возникает на этапе объединения, а не распознавания или поиска.
Конфликтные примеры нужно создавать парами, меняя местами правильный и ложный концепты. Это отделяет доверие к модальности от встроенного предпочтения модели. Без такой пары команда рискует лечить поисковую систему, хотя повторяющаяся ошибка заложена в самой VLM.
Сравнение ответа с документами и без них можно использовать как сигнал мониторинга. Если ответы расходятся при качественном изображении, система может запросить проверку, отказаться от ответа или показать оператору конфликт. Автоматически переходить на ответ только по изображению нельзя: при сильном размытии такой режим заменяет полезный текст свидетельством, которое модель почти не различает.
Практический вывод — хранить результаты раздельных прогонов и тип возникшего конфликта, а не только итоговый ответ. Тогда команда увидит, ошибся ли поиск, не распознала ли модель изображение, переоценила ли документ или выбрала привычный концепт независимо от источника. Именно это различие определяет, нужно ли менять поиск, модель, правила отказа или набор проверок.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.



