Сетевая платформа NVIDIA Spectrum-X Ethernet для ИИ
Сетевая платформа NVIDIA Spectrum-X — это Ethernet для ИИ-инфраструктуры. Она объединяет коммутаторы Spectrum-X и сетевые ускорители SuperNIC, чтобы GPU-серверы обменивались данными быстро и предсказуемо. Платформа рассчитана на операторов облаков и крупные компании, которые обучают модели и запускают распределённый инференс. По данным NVIDIA, она повышает производительность ИИ-сети в 1,6 раза по сравнению с обычным Ethernet. При этом остаётся стандартный Ethernet, а не закрытая сеть.
Что входит в платформу Spectrum-X
В платформе два тесно связанных компонента: коммутаторы Spectrum-X (линейки SN5000 и SN6000) и SuperNIC. SuperNIC даёт RoCE-подключение между GPU-серверами, а коммутатор и сетевая карта работают в паре.
- SuperNIC существуют в трёх поколениях: BlueField-3 для систем на Hopper, ConnectX-8 для Blackwell и ConnectX-9 для Vera Rubin.
- Адаптивная маршрутизация перераспределяет трафик на лету, и поэтому сеть не «стоит в пробке» на одном маршруте.
- Телеметрическое управление перегрузками изолирует арендаторов друг от друга.
Изоляция арендаторов в мультиарендном ИИ-облаке
Spectrum-X использует управление перегрузками на основе телеметрии, поэтому задачи одного клиента не замедляют задачи соседнего. Для провайдера это значит, что производительность каждого арендатора остаётся стабильной даже при множестве параллельных ИИ-задач.
Аналогия: обычный Ethernet похож на городскую дорогу с общим потоком, а Spectrum-X — на дорогу с выделенными полосами и умным светофором.
Масштабирование от кластера до нескольких ЦОД
Два уровня топологии leaf/spine позволяют дорасти до сотен тысяч GPU. С технологией Multiplane сеть масштабируется до 128 тысяч GPU в двух уровнях, это в 64 раза больше, чем в одноплоскостной сети. Для связи нескольких площадок, в том числе удалённых на сотни километров, есть Spectrum-XGS. По данным NVIDIA, он даёт прирост NCCL в 1,9 раза в межЦОДовых сценариях.
Открытый стек и наблюдаемость
Платформа работает со стандартным Ethernet и открытыми сетевыми ОС SONiC и Cumulus, поэтому вы не привязаны к одной операционной системе. Система NVIDIA Minerva собирает телеметрию с GPU, коммутаторов, SuperNIC и ИИ-задач. Среда DSX Air позволяет заранее смоделировать сеть и проверить её до закупки оборудования.
Для кого и в каких сценариях
- Облачный провайдер, который сдаёт GPU-мощности разным клиентам, получает изоляцию и предсказуемость.
- Крупная компания с собственной ИИ-фабрикой ускоряет обучение больших моделей и инференс.
- Интегратор, например в сфере образования и науки, может использовать платформу как основу сети для университетского ИИ-кластера. Здесь нужна именно сеть между GPU-серверами, а не оснащение классов.
Платформа также применяется для хранилищ и north-south-трафика, включая доступ к KV-кэшу при инференсе.
Ограничения при небольших проектах
Spectrum-X создана для масштаба. Для небольшого кластера из нескольких серверов она, скорее всего, избыточна, а обычный Ethernet обойдётся дешевле. Платформа раскрывается в связке с GPU NVIDIA, поэтому состав сервера и сети лучше планировать вместе. Перед закупкой стоит сверить поколение SuperNIC с поколением GPU и проверить совместимость с серверами партнёров.
| Интерфейс памяти | 128 портов x 400G |
| Максимальная производительность ядра RT | 51.2 Тбит/с |
| Пропускная способность памяти | 400 Гбит/с |
Официальные поставки и поддержка NVIDIA в России ограничены санкциями и экспортным контролем. Наличие, сроки, происхождение оборудования, лицензии и условия гарантии необходимо подтверждать у поставщика до оплаты. Уточните: оригинальное ли оборудование, кто несёт гарантийные обязательства, возможен ли доступ к обновлениям ПО и документации. Надёжных публичных данных о ценах нет, так как стоимость зависит от конфигурации (число портов, оптика, лицензии) и рассчитывается индивидуально под проект.
Коммутаторы работают под управлением Cumulus Linux или NVIDIA DOCA OS и интегрируются со стеком NVIDIA (в том числе Kubernetes-оператор для сетей). Настройка RoCE (PFC, ECN, адаптивная маршрутизация) выполняется заранее подготовленными профилями, однако развёртывание требует специалистов по сетям ЦОД. Для ИИ-нагрузок критична точная настройка без потерь пакетов. Поэтому рекомендуем закладывать в проект услуги пусконаладки и обучение инженеров.
По данным NVIDIA, один коммутатор обеспечивает 256 портов по 200 Гбит/с. Двухуровневая топология leaf-spine масштабируется до 16 000 портов. Режим Spectrum-X Multiplane позволяет доводить плоскую двухуровневую сеть до сотен тысяч GPU. Он поддерживается на ConnectX-8, при этом часть режимов (hwplb) пока находится в статусе технического превью. Для типичных образовательных и корпоративных ИИ-лабораторий хватает небольшой конфигурации из нескольких коммутаторов.
латформа работает с BlueField-3 SuperNIC (системы поколения Hopper, до 400 Гбит/с), ConnectX-8 (800 Гбит/с, PCIe Gen6, для Blackwell) и ConnectX-9 (1,6 Тбит/с на GPU, для Vera Rubin). По документации NVIDIA, однопортовые конфигурации поддерживаются для H100/H200/B200 и GB200, а многоплоскостные (Multiplane) режимы - для B300/GB300 с ConnectX-8. Перед покупкой сверьте поколение GPU-серверов, слоты PCIe и форм-фактор адаптеров. Например, BlueField-3 B3140H выпускается в формате HHHL с потреблением менее 75 Вт.
Оба варианта предназначены для ИИ-кластеров. InfiniBand (Quantum) традиционно даёт минимальные задержки и зрелую экосистему для HPC. Spectrum-X использует стандартный Ethernet с расширениями RoCE, поэтому проще интегрируется в существующие ЦОД, поддерживает мультиарендность и знакомые инструменты администрирования. Он также подходит, если нужна единая сеть для вычислений, хранения и управления. Для выбора ориентируйтесь на масштаб кластера, квалификацию команды и требования к совместимости. Дополнительно стоит запросить у поставщика проверенные эталонные архитектуры.
NVIDIA заявляет рост производительности ИИ-коммуникаций примерно в 1,6 раза по сравнению с обычным Ethernet. Достигается это адаптивной маршрутизацией (до 95% эффективной пропускной способности в крупных кластерах), контролем перегрузок и изоляцией трафика между арендаторами. Эти цифры получены самим производителем на его тестах. Для небольших кластеров и инференса разница может быть заметно меньше. Выбор стоит делать по расчёту на реальной нагрузке: она должна быть сетевой, например обучение больших моделей на множестве GPU.
Spectrum-X — это сквозное Ethernet-решение для ИИ-сетей. В него входят коммутаторы Spectrum (например, SN5600 на ASIC Spectrum-4, 51,2 Тбит/с, 64 порта 800GbE), SuperNIC-адаптеры (BlueField-3, ConnectX-8), кабели и оптика LinkX, а также ПО. Полный выигрыш в производительности (маршрутизация, управление перегрузками) достигается только при совместной работе коммутатора и SuperNIC. Если поставить коммутатор с обычными сетевыми картами, часть функций будет недоступна. Кроме того, для раскрытия функций Spectrum-4 и BlueField-3 требуется лицензия Spectrum-X, поэтому её нужно уточнять в спецификации поставки.
Остались вопросы?
Наши специалисты с радостью вам ответят и помогут в выборе подходящих для вас решений, продуктов и оборудования