Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Качество ответов по большим коллекциям документов можно поднять без замены базовой модели. В препринте Metask Lab, который не прошёл рецензирование и содержит замеры самих авторов, KnowForge прибавил 7,1 пункта F1 к однопроходной схеме на том же индексе и модели; F1 показывает совпадение слов в ответе с эталоном. Для продуктовой команды это аргумент не в пользу ещё одной общей инструкции агенту, а в пользу жёстко разделённого конвейера.
Поиск не получает инструментов для чтения
Обычная RAG-система сначала находит фрагменты в базе знаний, а затем передаёт их модели для ответа. Агентный вариант повторяет поиск, открывает документы и решает, когда остановиться. Если все инструменты доступны одной модели, она может снова и снова искать новые материалы, не проверяя уже найденные таблицы и изображения.
KnowForge разделяет этот цикл на отдельные задания. Сначала документы переводятся в Markdown, а страницы после OCR разбиваются на текст, изображения, таблицы и примеры. Для изображений и таблиц модель составляет текстовые описания, чтобы их можно было найти обычным запросом.
Из текстовых фрагментов система выделяет короткие самостоятельные утверждения и связывает близкие по смыслу. Поиск объединяет BM25, который сопоставляет слова запроса с документом, и векторный индекс, который ищет смысловую близость. Графовые связи позволяют добавить соседние утверждения, но в итоговых замерах этот слой почти не повлиял на качество.
Первый агент, Locator, умеет только искать, просматривать оглавления и перечислять доступные таблицы. После его остановки обязательный программный шаг проверяет, найдены ли документы для всей цепочки вопроса. Если не хватает связующего документа, система формирует дополнительный запрос вместо того, чтобы надеяться на инициативу агента.
Все результаты поиска сливаются в набор объёмом до 30 тысяч токенов. Текст, изображения, таблицы и примеры получают отдельные квоты: иначе текстовые совпадения вытесняют менее буквальные, но нужные результаты из таблиц и диаграмм.
Второй агент, Deep Reader, получает этот набор и умеет только читать: раскрывать контекст фрагмента, открывать изображение или разбирать таблицу. Вернуться к поиску он не может. Затем отдельная модель собирает ответ из найденных материалов и заметок читателя, а проверяющий шаг приводит его к формату конкретной задачи.
Разделение ролей сработало лучше общего цикла
На полном M3DocVQA KnowForge опередил опубликованную систему M3DocRAG на 11,0 пункта F1. На текстовом MultiHop-RAG точность достигла 73,5 и превысила лучший опубликованный результат среди сравниваемых RAG- и GraphRAG-систем. На MMLongBench-Doc, где нужно читать длинные отчёты с диаграммами, конвейер добавил базовой модели 12,2 пункта.
Контрольное сравнение объясняет, откуда взялась разница. Единый агент со всеми инструментами в 74% вопросов ни разу не открыл инструмент чтения и уступил разделённой схеме 1,9 пункта F1. Дополнительные инструкции не исправили поведение: новый поисковый результат даёт модели немедленную обратную связь, поэтому она предпочитает продолжать поиск.
Deep Reader сильнее всего помог на документах с визуальными материалами и не дал прибавки на чисто текстовом MultiHop-RAG. Это отделяет пользу специализированного чтения от пользы повторного поиска: таблицы и изображения требуют отдельного этапа, а текстовым корпусам важнее найти все связанные статьи.
Разделение инструментов меняет архитектуру, но не отменяет выбор модели
Проверка охватывает M3DocVQA с 2 441 вопросом по 3 368 PDF, длинные одиночные документы MMLongBench-Doc и новостной корпус MultiHop-RAG. Основные полные запуски сделаны на Qwen3.6-35B-A3B, а результат дополнительно проверен на DeepSeek-V4-Flash. Поэтому вывод относится и к поиску по общей коллекции, и к чтению одного большого документа, но пока опирается на ограниченный набор моделей и корпусов.
Модель должна соблюдать многошаговый протокол и вовремя завершать каждый этап. Qwen2-VL-7B и Qwen3-VL-8B на сокращённой выборке находили больше нужных документов, но не превращали их в более точные ответы и не превзошли собственный однопроходный режим. Простое добавление агентов к небольшой модели поэтому может увеличить расход вычислений без роста качества.
Для новой RAG-системы работа предлагает три практических решения: ограничивать инструменты на уровне API, а не только инструкцией; запускать проверку связующих документов обязательным шагом; хранить результаты разных типов в отдельных квотах. При развитии существующего продукта полезно сначала измерить, сколько запросов заканчивается без чтения найденных таблиц и изображений. Если агент уже стабильно открывает материалы, полная перестройка конвейера может не окупиться.
Задержка зависит прежде всего от числа вызовов модели, а не от размера коллекции. Медианная задержка на использованной конфигурации составила 27 секунд, поэтому схема больше подходит исследовательскому помощнику и сложному внутреннему поиску, чем интерфейсу с мгновенными ответами. Авторы выложили запросы к моделям, программу запуска и доступ к индексам, что позволяет проверить архитектуру со своей моделью до переноса в продукт.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
