Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Небольшие языковые модели научили реже повторять ошибки при работе с API, не меняя их параметры. Систему FRESH разработали Jiaxing Li, Lei Song, Rui Dong и Youyong Kong; хотя работа не прошла рецензирование и все числа получили сами авторы, на τ-Bench Airline точность действий, меняющих состояние, выросла до 54,4% против 15,9% у H-EPM. Такой подход позволяет усиливать существующего агента внешней памятью вместо повторного обучения модели.
FRESH превращает историю запусков в граф с узлами разных типов: задачи, вызовы инструментов, наблюдения, ошибки, условия выполнения и способы исправления. Неудачный вызов хранится не как пример для копирования, а вместе с причиной сбоя и шагом, который следовало выполнить раньше. Отдельный модуль ищет подходящий фрагмент графа и составляет для агента краткие инструкции: что сделать, чего избегать, что проверить и как исправить ошибку.
Перед операцией с побочным эффектом система сверяет предложенное действие с текущими данными и правилами. Она может разрешить вызов, изменить его, заблокировать или передать задачу оператору. Это снижает риск, что агент воспроизведёт успешную старую последовательность в ситуации, где не выполнены её исходные условия.
Самый заметный выигрыш пришёлся на операции записи в Airline. На AppWorld Test-N разница оказалась скромнее: доля выполненных задач составила 26,8% против 25,0% у лучшего из остальных вариантов. На Airline средняя стоимость запуска была на 11% выше, чем у агента без памяти, поэтому повышение надёжности требует дополнительных вычислений.
Метод проверяли на доменах Airline и Retail из τ-Bench, а также на разделах Test-N и Test-C из AppWorld с несколькими открытыми моделями малого и среднего размера. FRESH сравнивали с агентом без памяти, текстовыми подсказками, поиском по векторам и другими системами памяти. Во время тестов модель, граф и модуль поиска не обновлялись. Для внедрения понадобится накопить успешные и ошибочные траектории, связать их с обратной связью среды и отдельно обучить поиск по графу.
Источники
Иллюстрация: рисунок из статьи «Learning from Failures: Heterogeneous Graph Memory for Small Language Model Tool-Using Agents», Jiaxing Li, Lei Song, Rui Dong и др., CC BY 4.0
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
