Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Система научилась после каждого шага рассуждения решать, достаточно ли внутренних знаний LLM или пора обратиться к внешней базе. В препринте исследователей Harbin Institute of Technology, который не прошёл рецензирование и приводит замеры самих авторов, PUlSE сократила число поисковых запросов на 72% при сопоставимой точности с поиском после каждого шага. Такой подход может снизить нагрузку на базу знаний, но требует доступа к внутренним состояниям модели.
Ошибочный шаг выдаёт нестабильная траектория между слоями
Обычный адаптивный поиск опирается на выход модели: вероятность выбранных токенов, энтропию или перплексию. Эти показатели измеряют уверенность формулировки, но модель может уверенно воспроизвести неверный медицинский факт. При переходе на другие данные такие сигналы в экспериментах заметно хуже отделяли правильные шаги от ошибочных.
PUlSE смотрит не на итоговый текст, а на скрытые состояния — числовые представления, которые модель строит внутри каждого слоя. Для одного шага система усредняет состояния всех его токенов и получает последовательность векторов от ранних слоёв к поздним.
У ошибочных шагов эта траектория сильнее меняла направление и длину в средних и поздних слоях. Различие сохранялось, когда шаги уравняли по длине и числу переносов строки: повышенную нестабильность нельзя было объяснить только сложностью рассуждения.
Из траектории извлекают две последовательности признаков. Первая показывает угол поворота между соседними слоями, вторая — расстояние, на которое сдвинулось представление. Компактный классификатор объединяет их и после завершения шага оценивает вероятность фактической ошибки.
Если оценка превышает порог, система выделяет важные слова из подозрительного шага, ищет подходящие фрагменты алгоритмом BM25 и генерирует шаг заново. Предыдущие шаги остаются в контексте. Полученные сведения можно поставить перед исходным вопросом либо непосредственно перед исправляемым шагом; лучший вариант зависел от набора задач и модели.
Точный момент поиска оказался важнее его частоты
Метод проверили на четырёх медицинских наборах вопросов. В качестве строгого ориентира использовали IRCoT, который обращается к базе после каждого шага, а также адаптивные методы по выходной уверенности и скрытым состояниям.
PUlSE использовала на 72% меньше поисковых запросов, чем сплошной пошаговый поиск, и сохранила сопоставимую итоговую точность. Результат не был одинаковым на всех наборах: на JAMA вариант с добавлением найденных сведений перед вопросом обошёл IRCoT на 4,96 процентного пункта, а в остальных сравнениях мог уступать ему на 2–4 пункта. При этом оба варианта PUlSE всегда превосходили рассуждение без внешней базы.
Простое уменьшение числа запросов такого эффекта не давало. DRAGIN и SeaKR иногда ухудшали ответы относительно режима без поиска: нерелевантный фрагмент сбивал дальнейшее рассуждение. На JAMA преимущество PUlSE перед IRCoT и другим классификатором скрытых состояний оказалось статистически значимым.
Классификатор обучали на медицинских вопросах, но без дополнительной настройки перенесли на раздел права MMLU-Pro. Там PUlSE дала более высокую точность, чем IRCoT, примерно при вдвое меньшем числе обращений к базе. Это один новый домен, поэтому результат показывает переносимость сигнала, но ещё не доказывает её для произвольных задач.
Для закрытых API планы не меняются
PUlSE требует скрытые состояния промежуточных слоёв. Через обычный API закрытой модели их получить нельзя, поэтому метод подходит для Qwen2.5-7B-Instruct, Llama3.1-8B-Instruct и других моделей, которые команда запускает и изменяет самостоятельно.
Второе условие — явные границы шагов. В экспериментах каждый фрагмент рассуждения начинался с метки Step. Для свободного текста сначала понадобится надёжно делить ответ на смысловые части, иначе классификатор будет оценивать другие единицы, чем видел при обучении.
Сигнал не заменяет качественную базу знаний и поиск по ней. В дополнительном опыте с публичным корпусом MedRAG Textbook все методы с поиском проиграли варианту без него на JAMA. PUlSE выбирает момент обращения, но не исправляет нерелевантные документы или неудачное ранжирование.
Для команды с собственной моделью работа оправдывает прототип: добавить сбор скрытых состояний, размеченный набор правильных и ошибочных шагов и сравнить адаптивный режим со сплошным поиском на своей базе. Менять архитектуру продукта вокруг PUlSE пока рано: проверка охватывает две модели близкого масштаба, а итоговые задержка и стоимость в работе не рассчитаны.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
