Сервер для ИИ Huawei Ascend Atlas 650E на 8 NPU Ascend 950DT
Сервер для работы с ИИ Ascend Atlas 650E — 14U-стойка для организаций, которым нужно запускать большие модели у себя, а не в чужом облаке. Внутри 8 NPU Ascend 950DT и 2 процессора Kunpeng 950. Машина рассчитана на низкоточный инференс и обычный воздушный машинный зал. Подходит банкам, госструктурам, клиникам и интеграторам, которые строят частные ИИ-платформы.
Что даёт 12,48 PFLOPS в формате mxFP4
Пиковая теоретическая мощность сервера — 12,48 PFLOPS в mxFP4, 6,43 PFLOPS в mxFP8/FP8/HiF8 и 3,40 PFLOPS в FP16/BF16. Простыми словами: чем ниже разрядность чисел, тем больше операций помещается в такт, и тем быстрее отвечает квантованная модель.
Сервер поддерживает форматы HiF8, mxFP8 и mxFP4, поэтому большую языковую модель можно сжать и получить выигрыш в скорости. Цена за это — возможная потеря точности. Для критичных задач качество модели после квантования стоит проверить на своих данных до запуска в работу.
Память: 768 ГБ HBM и до 4,0 ТБ/с
Каждый из 8 ускорителей несёт 96 ГБ HBM, итого 768 ГБ памяти на борту, а пропускная способность достигает 4,0 ТБ/с. Для генерации текста это важнее сырых терафлопсов: модель постоянно читает веса из памяти, и скорость чтения решает, как быстро пойдут токены.
Системная память — 24 слота DDR до 6400 MT/s, модули по 96 или 64 ГБ. Локально можно поставить 8 накопителей NVMe 2,5" и 2 SATA с RAID-контроллером. Хватит места под веса, векторные базы и логи.
Два сервера соединяются в 16 NPU по Full-mesh
Через фирменную шину Lingqu два Atlas 650E объединяются в один кластер из 16 NPU по схеме full-mesh. Пропускная способность между NPU в двухсерверной конфигурации — 13,4 ТБ/с. Это помогает, когда модель не помещается в один сервер.
Наружу каждый NPU отдаёт по 400 Гбит/с в одну сторону через UBoE или RoCE. Есть до 5 слотов PCIe 5.0 для дополнительных плат.
Сценарии: частный ИИ в банке и в клинике
Банк разворачивает на сервере модель для финансового риск-контроля и ассистента клиентской поддержки. Данные клиентов не покидают периметр, а запросы обслуживаются на месте. Клиника или госорган запускает модерацию контента и офисного помощника на том же оборудовании. Из заявленных вендором сфер применения также названы агенты, ИИ для программирования и интеллектуальный сервис.
Для вузов и учебных центров это основа для практикума: студенты работают с реальной инфраструктурой, а не с учебной песочницей. Проект Vizzion как интегратор образовательных технологий может оснастить такой класс стендом, рабочими местами и сопутствующими AR/VR-решениями.
Ограничения при размещении: 14,5 кВт и 35 °C
Максимальная потребляемая мощность сервера — 14,5 кВт, а рабочая температура в помещении — от 5 до 35 °C. Шесть блоков питания по 3,0 кВт работают по схеме , а 30 вентиляторных модулей поддерживают резервирование . Обычный офисный шкаф не годится. Нужны выделенная линия питания, серверная стойка и охлаждение зала.
Размеры корпуса — 618,8 мм в высоту, 447 мм в ширину и 920 мм в глубину. Перед заказом проверьте глубину стойки и нагрузку на электрощит. Программный стек строится вокруг экосистемы Ascend, поэтому проверьте совместимость нужных вам фреймворков и моделей.
Ключевые параметры Atlas 650E
| Форм-фактор | 14U, стойка |
|---|---|
| Процессоры | 8 × Ascend 950DT, 2 × Kunpeng 950 |
| Память HBM | 8 × 96 ГБ, до 4,0 ТБ/с |
| Вычисления | 12,48 PFLOPS mxFP4; 6,43 PFLOPS mxFP8/FP8/HiF8; 3,40 PFLOPS FP16/BF16 |
| Система и диски | 24 слота, до 6400 MT/s; 8 × NVMe и 2 × SATA |
| Сеть | 400 Гбит/с на NPU, UBoE или RoCE |
| Питание | 6 × 3,0 кВт, ; до 14,5 кВт |
| Охлаждение | воздушное, 30 вентиляторных модулей |
| Интерфейсы | 5 хPCIe 5.0 |
| CPU | 2 × Kunpeng 950 |
| NPU | 8 × Ascend 950DT |
| Форм-фактор |
14U стойка |
| Системная память |
8 × 96 ГБ до 4.0 ТБ/с 24 слота DDR до 6400 MT/s |
| Локальное хранилище | 8 x 2.5 NVMe + 2 x 2.5 SATA (с RAID-картой) |
| Рабочая температура | от 5 ℃ до 35 ℃ |
| Модель | Ascend Atlas 650E |
| Габаритные размеры (В*Ш*Г) | 618.8 х 447 х 920 мм |
| Питание |
6 × 3.0 кВт 14.5 кВт |
Для обычного класса это избыточно: сервер дорогой, шумный, потребляет до 14,5 кВт и требует стойки. Он оправдан для вуза или центра обработки данных, где один узел обслуживает много пользователей через общий доступ к LLM-инференсу, исследования и проекты с локальными данными. Производитель называет целевыми отраслями интернет, финансы, образование и науку, а также госсектор и здравоохранение. Для небольших задач дешевле облачный доступ или менее мощные решения.
Продукт анонсирован на HUAWEI CONNECT 2026, поэтому реальных отзывов пользователей и независимых бенчмарков почти нет. Поставка, цена и сервис зависят от региона, поэтому до заказа уточните у поставщика комплектацию, сроки, условия гарантии и локальную техподдержку. Также проверьте экспортные и санкционные ограничения и наличие документации (она есть на сайте поддержки Huawei). Для рискованных проектов лучше запросить тестовый стенд или пилот.
Нет, CUDA не поддерживается. Платформа работает на стеке Huawei Ascend (CANN) и в ориентированных на него версиях популярных фреймворков. Модели и код придётся адаптировать и проверять совместимость нужных версий. Заранее уточните готовность вашей модели и инференс-движка, а также доступность драйверов и документации на нужном языке.
В сервере 8 NPU Ascend 950DT и 2 CPU Kunpeng 950. Производитель заявляет до 12,4 PFLOPS в формате mxFP4, около 6,4 PFLOPS в mxFP8/FP8/HiF8 и около 3,4 PFLOPS в FP16/BF16. Это суммарные значения на все 8 NPU, а не на один чип. На один NPU приходится около 1,56 PFLOPS mxFP4. Цифры взяты из данных производителя, независимых тестов пока мало.
На каждом NPU стоит 96 ГБ HBM, всего 768 ГБ на сервер. Пропускная способность памяти заявлена до 4,0 ТБ/с. Системная память — 24 слота DDR5 до 6400 МТ/с. Сервер ориентирован на инференс больших моделей, а не на обучение. Конкретную модель проверяйте по её размеру, формату квантования (HiF8, mxFP8, mxFP4) и объёму KV-кэша.
Да. Два узла можно объединить в 16-NPU full-mesh по протоколу UnifiedBus (LingQu) без коммутатора. Внутри одного узла связь составляет 8 × 784 ГБ/с (двунаправленная), в двухузловой схеме заявлено до 13,4 ТБ/с. Для внешней сети используется UBoE: 400 Гбит/с на каждый NPU напрямую с процессоров. Эта схема нужна для запуска крупных моделей с распределением по картам.
Сервер занимает 14U, размеры 618,8 × 447 × 920 мм (В×Ш×Г). Он питается от 220 В AC через 6 горячезаменяемых блоков по 3,0 кВт с резервированием . Максимальное потребление составляет 14,5 кВт, поэтому нужна подготовленная линия питания, а обычная офисная розетка не подойдёт. Охлаждение воздушное: 30 вентиляторов с резервированием . Рабочая температура от 5 до 35 °C. Жидкостное охлаждение не требуется, но нужен серверный зал.
Остались вопросы?
Наши специалисты с радостью вам ответят и помогут в выборе подходящих для вас решений, продуктов и оборудования
-236x170.jpg)
-236x170.png)
