Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Runpod и Moonshot AI открыли два варианта запуска Kimi K3: управляемый API и самостоятельное развёртывание на сервере с восемью NVIDIA B300. Первый сокращает работу с инфраструктурой, второй даёт команде контроль над окружением, но требует крупной конфигурации GPU.
Управляемая конечная точка подходит для прототипов, нерегулярных запросов и продуктов, где команда не хочет обслуживать сервер модели. Runpod отвечает за запуск инфраструктуры, а приложение обращается к Kimi K3 через API.
Самостоятельное развёртывание рассчитано на постоянную или изолированную нагрузку, ради которой оправдан отдельный сервер. Команда получает собственный экземпляр модели, но должна управлять его доступностью и загрузкой восьми ускорителей.
Kimi K3 вышла в июле и, по данным Runpod, стала одной из самых быстрорастущих моделей на публичных конечных точках платформы. В посте не указаны цены, поэтому сравнить экономику двух вариантов пока нельзя.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
