Серверная платформа NVIDIA HGX

Серверная платформа NVIDIA HGX — это базовая плата с восемью GPU SXM, на которой OEM-производители собирают ИИ-серверы для ЦОД, университетов и исследовательских центров. Платформа объединяет GPU NVIDIA, процессоры Vera, интерконнект NVLink, сетевую часть NVIDIA и оптимизированное ПО для ИИ и HPC. Она подходит тем, кто обучает крупные модели, запускает инференс для многих пользователей или считает научные задачи на собственной площадке.

Одна плата, три поколения GPU: Rubin, Blackwell и Blackwell Ultra

HGX выпускается как единая плата с восемью GPU SXM архитектур Rubin, Blackwell или Blackwell Ultra. Поколение подбирают под задачу и бюджет, не меняя общую логику сервера.

Rubin-плату можно взять с процессором NVIDIA Vera (HGX Vera Rubin NVL8) или с x86-платформой. В линейке Blackwell на сайте производителя указаны HGX B200 и HGX B300, которые уже поставляются. Процессор и память в x86-вариантах определяет конкретный OEM-сервер, поэтому комплектацию стоит уточнять у поставщика.

HGX Rubin NVL8 даёт до 10x токенов в инференсе против HGX B200

По проекционным данным NVIDIA, HGX Rubin NVL8 обеспечивает до десятикратной пропускной способности «фабрики токенов» относительно HGX B200. Это важно для агентных ИИ-систем и reasoning-моделей, где один запрос порождает длинные цепочки генерации.

Цифры привязаны к конкретным условиям теста и могут измениться. Скорость растёт за счёт вычислений в формате NVFP4, пропускной способности памяти HBM4 и шины NVLink шестого поколения. Для провайдера ИИ-сервиса это означает больше пользователей на то же оборудование и меньшую стоимость токена.

Обучение MoE-моделей на HGX Rubin NVL8 требует в 4 раза меньше GPU

NVIDIA заявляет, что HGX Rubin NVL8 обучает модели следующего поколения с четырёхкратной экономией GPU по сравнению с HGX B200. Причины: больше NVFP4-вычислений для обучения, больше быстрой памяти HBM и шире NVLink.

Для лаборатории это выглядит так: та же задача решается меньшим парком ускорителей или за тот же бюджет обучается больше моделей. Приятный бонус — проще охлаждение и меньше места в стойках.

Сценарии: корпоративный ИИ-контур и университетский кластер

HGX подходит и для частного ИИ внутри компании, и для общего вычислительного ресурса вуза.

  • Банк или промышленная компания держит собственные LLM и ассистентов на своей площадке, не отправляя данные во внешнее облако.
  • Университет или научный центр собирает кластер для студентов и исследователей: одни учатся на тех же инструментах, что используют в индустрии, другие считают задачи HPC. Такой профиль близок задачам Vizzion по оснащению образования ИИ-оборудованием.

Сеть NVIDIA масштабирует HGX от одного сервера до тысяч GPU

Чтобы ускорители не простаивали, платформа опирается на сетевой стек NVIDIA: NVLink внутри узла, Quantum InfiniBand и Spectrum-X Ethernet между узлами, а также Spectrum-XGS для связи нескольких ЦОД. Инфраструктурные задачи берут на себя DPU BlueField и DOCA.

Практичный пример масштаба: NVIDIA и Noetra Corp. запускают в Японии ИИ-фабрику на Vera Rubin с 27 500 GPU Rubin и 13 750 процессорами Vera для национального проекта по физическому ИИ.

Ограничение: HGX — компонент сервера, а не готовая стойка

HGX не работает «из коробки» как отдельное изделие: это плата, и итоговые CPU, память, питание и охлаждение определяет сервер партнёра. Если нужна цельная система с управлением и поддержкой, ближе будут DGX или готовые кластерные решения.

Ещё один нюанс: проекционные показатели NVIDIA зависят от модели, длины контекста и формата вычислений. Перед закупкой разумно проверить их на собственной нагрузке и сверить совместимость со стойками ЦОД и сетью.


CPU 8 видеокарт NVIDIA Rubin SXM с односокетным процессором Vera
Количество ядер процессора 88 собственных ядер NVIDIA Olympus | до 1.5 ТБ LPDDR5X
Модель NVIDIA HGX
Оперативная память 2 ТБ HBM4 | 130 ТБ/с

Написать отзыв

Внимание: HTML не поддерживается! Используйте обычный текст!
    Плохо      Хорошо

Продаётся ли платформа отдельно? | HGX — это эталонная платформа NVIDIA, а не готовый сервер. Она представляет собой базовую плату с 4 или 8 ускорителями SXM, соединёнными через NVLink и NVSwitch. Готовые серверы на её основе выпускают Supermicro, Dell, ASUS, Gigabyte, Lenovo и другие. Отдельно плату обычно не покупают: берут серверную систему целиком. Процессоры, память, накопители и сетевые адаптеры зависят от конкретной модели сервера.

В платформе H200 установлено 8 GPU по 141 ГБ HBM3e, то есть около 1,1 ТБ на узел, а NVLink даёт 900 ГБ/с на GPU. У B200 память составляет 180 ГБ на GPU (1,44 ТБ на узел), а NVLink 5-го поколения даёт 1,8 ТБ/с на GPU. У B300 память составляет 288 ГБ на GPU (около 2,3 ТБ на узел), а сетевая полоса выше: 1,6 ТБ/с против 0,8 ТБ/с у B200. Для инференса и крупных LLM лучше брать новые поколения. Если бюджет ограничен или нужна доступность в РФ, H200 остаётся рабочим вариантом. Выбирайте исходя из размера моделей, объёма памяти и наличия поставки.

Платформа рассчитана на обучение больших нейросетей и LLM, высоконагруженный инференс и научные расчёты (HPC). Все 8 GPU работают как единый вычислительный модуль благодаря NVSwitch. Стоимость сопоставима со спорткаром или выше, поэтому для небольших задач, таких как обучение в вузе или инференс небольших моделей, экономичнее PCIe-решения или 4-GPU конфигурации. HGX оправдан при постоянной высокой загрузке и обучении моделей, не помещающихся в память одного GPU.

Один ускоритель B200 потребляет до 1000 Вт, а 8 GPU в сумме требуют нескольких киловатт на узел. Серверы выпускаются в корпусах 8U/10U с воздушным охлаждением, а также в 4U с жидкостным охлаждением. Перед покупкой нужно проверить мощность линии, ёмкость PDU, теплоотвод серверной и нагрузку на стойку. Для жидкостного охлаждения потребуется подготовленная инфраструктура. Подробные цифры уточняйте в документации конкретного производителя сервера.

Обычно устанавливаются два серверных процессора: AMD EPYC 9005 (до 256 ядер и 512 потоков в сумме) или Intel Xeon, в зависимости от модели. CPU занимаются подготовкой данных, загрузкой датасетов и управлением системой. Слабый CPU или недостаток оперативной памяти и каналов PCIe могут ограничить загрузку GPU. Поэтому при выборе сервера смотрите не только на GPU, но и на число ядер, объём и скорость RAM, а также NVMe-накопители.

Да, серверы объединяются в кластеры. Внутри узла GPU связаны через NVLink, а между узлами нужна высокоскоростная сеть InfiniBand или Ethernet. Типичная схема — по одному сетевому адаптеру на каждый GPU (NVIDIA ConnectX-7 или BlueField-3, 400 Гбит/с). Стоимость сетевых коммутаторов и кабелей нужно закладывать в бюджет отдельно, так как она сопоставима со стоимостью части серверов.

Российские поставщики указывают гарантию на серверы, как правило, от 1 года и до 5 лет в зависимости от продавца и модели. Условия, сроки поставки и происхождение оборудования сильно различаются, поэтому перед оплатой уточните: поставщика, сроки, подтверждение оригинальности ускорителей, порядок замены узлов и наличие сервисного центра. Также проверьте совместимость драйверов и ПО (CUDA) с выбранным поколением GPU.

Остались вопросы?

Наши специалисты с радостью вам ответят и помогут в выборе подходящих для вас решений, продуктов и оборудования

Вы смотрели

Очки дополненной реальности Rokid Color

Артикул: 101-00201

Очки дополненной реальности Rokid Color

Предзаказ

Цена по запросу

Очки дополненной реальности Rokid Glasses 2

Артикул: 101-00197

Очки дополненной реальности Rokid Glasses 2

Предзаказ

Цена по запросу

Аттракцион VR Skyship FuninVR

Артикул: 108-00042

Аттракцион VR Skyship FuninVR

Предзаказ

Цена по запросу

Аттракцион VR Dual Ride FuninVR

Артикул: 108-00040

Аттракцион VR Dual Ride FuninVR

Предзаказ

Цена по запросу

Аттракцион VR Cinema FuninVR

Артикул: 108-00046

Аттракцион VR Cinema FuninVR

Предзаказ

Цена по запросу

Аттракцион VR Battleship FuninVR

Артикул: 108-00045

Аттракцион VR Battleship FuninVR

Предзаказ

Цена по запросу

Аттракцион VR Skydive FuninVR

Артикул: 108-00041

Аттракцион VR Skydive FuninVR

Предзаказ

Цена по запросу

 Умные бинокулярные AR-очки UTECH UTRACK C3000E

Артикул: 101-00195

Умные бинокулярные AR-очки UTECH UTRACK C3000E

Предзаказ

Цена по запросу

Категории каталога

Во время посещения сайта вы соглашаетесь с тем, что мы обрабатываем ваши персональные данные с использованием метрических программ и даете согласие на использование файлов «cookie». Подробнее