Журнал · Rit.work

Beam: 23,4 млрд активных параметров при 501,3 млрд общих

Beam сочетает выборочную активацию параметров, контекст на миллион токенов и квантованные веса, чтобы упростить развёртывание крупной открытой модели.

Rit.work
Студия разработки
20 ноября 2026 г.2 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Вышла Beam — модель с открытыми весами для кода, рассуждений и задач с инструментами. Reflection Team сообщает, что ей требуется в 3–4 раза меньше вычислений при генерации, чем многим моделям того же класса, но работа не рецензирована, а числа получили сами авторы. Для собственного развёртывания это обещает меньшую нагрузку без перехода к небольшой модели.

Beam построена как разреженная смесь экспертов: из 501,3 млрд параметров для каждого токена работают 23,4 млрд. Маршрутизатор выбирает нужные группы параметров, поэтому вычислительная нагрузка зависит от активной части модели. Полный набор весов при этом остаётся большим — при планировании инфраструктуры нужно отдельно считать вычисления и память.

Контекст Beam вмещает миллион токенов. После предварительного обучения модель дополнительно обучали с подкреплением: за четыре недели она выполнила более 100 млн пробных решений на 10,5 тыс. GPU NVIDIA GB300. По мере роста затрат на этот этап результаты продолжали улучшаться без заметного выхода на плато.

Для обслуживания подготовили веса в BF16, FP8 и NVFP4: форматы с меньшей точностью сокращают расход памяти. Отдельная модель DFlash 2 заранее предлагает следующие токены, а Beam проверяет их; такой подход ускоряет генерацию. Веса и вспомогательную модель выпустили под Apache 2.0.

Beam проверяли на задачах программирования, рассуждения, длинного контекста, вызова инструментов и безопасности. В отчёте её сопоставляют с GLM-5.2, а на LongBench-v2 она приближается к Qwen 3.8-Max. Заявленное сокращение вычислений описывает генерацию токенов, а не полную стоимость API или собственного кластера.

Источники

Иллюстрация: рисунок из статьи «Beam Model Technical Report», Reflection Team, Adam Abdulhamid, Osama Abuelsorour и др., CC BY-SA 4.0

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу