Серверная система NVIDIA DGX B300

Серверная система NVIDIA DGX B300 рассчитана на компании, университеты и исследовательские центры, которым нужна одна платформа и для обучения больших языковых моделей, и для их промышленного инференса. Внутри восемь ускорителей Blackwell Ultra SXM и 2,1 ТБ памяти GPU. Система занимает 10U и подходит для стойки MGX или традиционной корпоративной стойки.

8 GPU и 2,1 ТБ памяти в одном корпусе

Восемь ускорителей Blackwell Ultra SXM дают 2,1 ТБ памяти GPU, поэтому крупные модели помещаются на меньшем числе устройств. Производитель называет пример: DeepSeek-R1 (671B, MoE) работает на меньшем числе GPU, а накладные расходы на тензорный параллелизм снижаются.

Для FP4 заявлено 144 PFLOPS инференса, для FP8 — 72 PFLOPS (разреженные вычисления). Для плотных вычислений значение вдвое ниже, это стоит помнить при сравнении с другими платформами. Относительно DGX B200 производитель обещает прирост плотной производительности FP4 в 1,5 раза и внимания (attention) в 2 раза.

Связность NVLink и сеть до 800 Гбит/с

Два коммутатора NVLink Switch объединяют ускорители с совокупной пропускной способностью 14,4 ТБ/с, а восемь адаптеров ConnectX-8 дают до 800 Гбит/с на порт по InfiniBand или Ethernet. Два DPU BlueField-3 обеспечивают до 400 Гбит/с. Для обучения это важнее, чем число ускорителей: GPU постоянно обмениваются градиентами, и медленная сеть оставляет дорогие чипы без работы.

Для хранения предусмотрены два накопителя NVMe M.2 по 1,9 ТБ под систему и восемь NVMe E1.S по 3,84 ТБ под данные. Процессоры — Intel Xeon 6776P.

Сценарии: от корпоративного инференса до AI-фабрики

Первый сценарий: банк или промышленная компания разворачивает собственную LLM с агентами и рассуждающими моделями на своей площадке. Данные остаются внутри периметра, а одна система закрывает дообучение и ответы пользователям. Второй сценарий: научный или образовательный центр собирает кластер. DGX B300 можно развернуть как отдельный узел или как часть DGX SuperPOD и DGX BasePOD; такой путь выбрала компания Lilly для задач геномики и молекулярного дизайна.

Для вуза это ещё и учебная база: на такой платформе студенты и исследователи работают с теми же инструментами, что и в индустрии. Это близко к направлению Vizzion — оснащению образования ИИ-оборудованием и умной электроникой.

Программный стек и обслуживание

В комплект входят NVIDIA AI Enterprise, DGX OS и Mission Control на базе Run:ai для оркестрации. Поддерживаются Red Hat Enterprise Linux, Rocky и Ubuntu. Три года поддержки ПО и оборудования входят в стандартную комплектацию.

Ограничение: потребление около 14 кВт

Система потребляет около 14 кВт, поэтому до закупки нужно проверить мощность стойки, охлаждение и электропитание помещения. Домашний офис или обычная серверная комнатка не подойдут: потребуется подготовленный ЦОД или колокейшн. Производитель предлагает варианты питания AC и DC, которые облегчают интеграцию, но не отменяют расчёта нагрузки на инфраструктуру. Если задачи ограничиваются пилотом RAG или инференсом небольших моделей, 8-GPU система окажется избыточной, и разумнее начать с рабочей станции.