Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Readie ускоряет запуск изолированных сред, в которых ИИ-агенты исполняют сгенерированный код. В пока не рецензированном препринте, где числа получили сами авторы, Arjun Sivaraman и соавторы сократили полный цикл выполнения запросов агента в 1,3 раза. Набор общих заготовок может заменить отдельные образы для функций и один образ со множеством пакетов.
Вместо универсального образа Readie заранее создаёт несколько снимков памяти — сохранённых состояний Python с уже импортированными библиотеками. Каждый снимок содержит только часть пакетов, поэтому остаётся небольшим и быстро восстанавливается. Вместе снимки покрывают разные сочетания зависимостей, которые встречаются в коде агентов.
Система подбирает содержимое снимков по прошлым сценариям и учитывает размер библиотек, время их импорта и общий лимит хранилища. При поступлении кода маршрутизатор определяет нужные модули, выбирает снимок с наименьшим ожидаемым временем запуска и клонирует из него контейнер gVisor. Недостающие библиотеки среда загружает с диска, после чего уничтожается или остаётся прогретой для той же сессии.
При лимите хранилища 15 ГБ Readie запускала песочницу в 6,3 раза быстрее единого образа с общими пакетами и втрое быстрее отдельных снимков для запросов с кешированием. В тестах с агентами начальная подготовка среды ускорилась в 9,1 раза. Разрыв между запуском и полным временем показывает практическую границу метода: он сильнее влияет на короткие вызовы, где подготовка занимает заметную долю запроса.
Систему проверяли примерно на 15 тысячах публичных и созданных LLM сценариев, прежде всего для Python и задач анализа данных, машинного обучения, компьютерного зрения и обработки языка. В сравнение вошли общий образ, отдельные снимки для запросов и среды из нескольких бенчмарков агентов. Поэтому результаты описывают выполнение Python-кода с заранее доступным корневым образом, а не произвольные языки и окружения.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.



