Журнал · Rit.work

Локальная модель взяла рутину, Claude и Codex оставили сложный код

Опыт Grayhat Developers показывает, как разделить задачи между локальными моделями и коммерческими агентами и какие издержки появляются при самостоятельном размещении.

Rit.work
Студия разработки
6 ноября 2026 г.2 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Небольшая студия не стала целиком заменять коммерческие модели локальными: она отдала им внутренний контекст и рутинную координацию, а сложное программирование оставила Claude и Codex. В препринте, который не прошёл рецензирование и содержит собственные замеры авторов, Grayhat Developers оценила сокращение нагрузки на коммерческие модели в 27–36%. Для похожего продукта это аргумент в пользу маршрутизации задач, а не одной универсальной модели.

Локальная модель ищет сведения в Outline и Plane, сводит их в файлы для агентов программирования и превращает результаты их работы в задачи. Она также взаимодействует с ERPNext. Claude и Codex продолжают менять код на уровне репозитория и решать задачи, которым нужны большой контекст и более сильная модель.

До перехода коммерческие инструменты обходились компании примерно в 325 долларов в месяц. Локальная модель могла взять на себя около 90% работы с документацией, задачами и передачей контекста; её эксплуатацию оценили в 10–30 долларов в месяц. Но разницу нельзя считать чистой экономией: самостоятельное размещение потребовало оборудования, электричества, настройки сети, мониторинга, резервного питания и времени инженеров.

Первая версия на LobeHub не прижилась, хотя технически работала. Сотрудникам приходилось самим настраивать подключения к внутренним системам и разбираться с доступом. После перехода на централизованно настроенный LibreChat обратная связь стала лучше: скрыть инфраструктуру от пользователя оказалось не менее важно, чем выбрать модель.

Схему проверяли в одной компании с командой менее 40 человек и на её повседневных проектах. Kimi и DeepSeek пробовали как замену коммерческим агентам, а Gemma использовали для внутреннего слоя; единого набора контрольных задач и формальной исходной линии не было. Поэтому работа описывает архитектурный шаблон и реальные издержки внедрения, но не гарантирует такую же экономию другой команде.

Источники

Иллюстрация: рисунок из статьи «Create Your Own Work Stack: Deploying Self-hosted AI and Tooling in a Tech Startup», Saad Ahmed Bazaz, Talha Amjad, Abdurrehman Subhani и др., CC BY 4.0

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу