Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.
Команда NVIDIA Sol представила Sol-H3 — открытый стек ускоренного запуска MiniMax-H3. На системе с восемью NVIDIA B300 он генерирует пятисекундный ролик за 1,653 секунды, то есть примерно втрое быстрее его воспроизведения; стек можно проверить через Reactor API без закупки такой конфигурации.
Результат получен для видео 1344×768 с частотой 24 кадра в секунду и стереозвуком. Зависимость от числа ускорителей существенна: на одной NVIDIA B300 тот же ролик генерируется за 13,745 секунды — уже медленнее воспроизведения.
Sol-H3 делает четыре прохода модели вместо 49 у базового профиля MiniMax-H3 и ускоряет вычисления внимания и декодирование видео. Замер включает кодирование текста, генерацию и декодирование, но исключает загрузку модели, предварительную компиляцию и запись итогового MP4. Поэтому 1,653 секунды — время работы подготовленного вычислительного контура, а не полная задержка внешнего API.
Код выпущен по лицензии Apache 2.0. Reactor API позволяет сначала проверить скорость и совместимость стека, а затем решать, оправдана ли собственная система с несколькими B300.
Источники
Похоже на вашу задачу?
Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.
