Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Z.ai за две недели прошла путь от первого запуска GLM-5.3-Flash на отечественных ускорителях до обслуживания на них всего производственного трафика. За время переноса сквозная пропускная способность выросла в 3,2 раза, а значительную часть работы выполнил Infra Agent на базе GLM-5.3.
Сквозная пропускная способность показывает, сколько запросов система обрабатывает за единицу времени по всей цепочке — от приёма запроса до выдачи ответа. Рост метрики означает, что команда не просто добилась совместимости модели с новым оборудованием, но и ускорила производственный контур.
Перевод всего трафика подтверждает, что результат вышел за пределы лабораторного запуска. Однако из поста нельзя определить исходную задержку, стоимость обработки, конфигурацию ускорителей, точку сравнения для роста в 3,2 раза и конкретные задачи Infra Agent, поэтому повторить перенос или заранее рассчитать его экономику по этим данным не получится.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
