Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Агента научили сохранять пригодные результаты вызовов инструментов, когда пользователь меняет задачу на ходу, вместо полного перезапуска. В препринте Georgia Institute of Technology, который не прошёл рецензирование и приводит замеры самого автора, подход сократил стоимость на 43% по сравнению с перезапуском при 100% корректности. Для архитектуры агента это переносит решение с LLM по каждому шагу на одну классификацию изменения и обычный код.
План представляют как иерархию связанных подзадач и для каждого результата записывают, от каких условий он зависит. Модель один раз определяет, что сделал пользователь: добавил условие, убрал его или заменил другим. Затем детерминированный слой проходит по зависимостям и решает, какие результаты сохранить, какие дёшево исправить, а какие пересчитать; точный планировщик достраивает оставшуюся часть с минимальной стоимостью.
Например, агент уже нашёл отели, отфильтровал их по району и рейтингу. Просьба добавить отзывы сохраняет готовую цепочку, отказ от дорогих вариантов требует изменить последующие шаги, а перенос поиска к аэропорту делает фильтр по району и все зависящие от него результаты устаревшими. Если спрашивать модель о каждом узле отдельно, она может не увидеть эту связь.
На CostBench поузловая проверка с gpt-4o вернула лишь 44% доступной экономии. Одна классификация дала весь эффект на шаблонных изменениях и 90% — на перефразированных; ошибки в неоднозначных фразах приводили к лишнему пересчёту, а не к использованию устаревших данных. На синтетических графах структурная схема достигла минимальной возможной стоимости со всеми проверенными моделями, тогда как решения по отдельным узлам зависели от модели и иногда сохраняли неверные результаты.
Метод проверяли на 1 080 задачах CostBench, 1 110 сценариях STT-Arena и 188 синтетических графах с gpt-4o, gpt-4o-mini и gemini-2.5-flash. Гарантии относятся к иерархическим планам, где агент записывает зависимости и может точно перепланировать остаток; вызовы в процессе выполнения и инструменты с необратимыми побочными эффектами эта схема не покрывает.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
