Сервер для ИИ Huawei Ascend Atlas 800 (3000) Server
Сервер для работы с ИИ Ascend Atlas 800 (3000) Server — это 2U-сервер для инференса, то есть для запуска уже обученных нейросетей на стороне организации. Он рассчитан на команды, которым нужны распознавание изображений, видеоаналитика и локальный запуск моделей без облака: интеграторы, вузы и учебные центры, ИТ-отделы предприятий. В основе — два процессора Kunpeng 920 и до 8 ускорителей Atlas 300I/V Pro в одном корпусе.
Что даёт связка Kunpeng 920 и ускорителей Ascend
Вычисления по ИИ выполняют PCIe-карты, а два процессора Kunpeng 920 берут на себя остальное: подготовку данных, работу ОС и сервисов. Такое разделение удобно: нужно больше мощности под нейросети — добавляете карты, а не меняете сервер. Заявленная производителем пиковая мощность — до 1120 TOPS в INT8. Эта единица измеряет операции с 8-битными целыми числами, на которых обычно работает квантованный инференс.
Память под процессорами — 32 слота DDR4 с частотой до 3200 MT/s. Для задач, где в оперативной памяти держат большие очереди кадров или несколько моделей одновременно, запас слотов оказывается практичным.
Видеоаналитика: до 1024 каналов 1080P
Сервер способен анализировать в реальном времени до 1024 видеопотоков 1080P при 30 кадрах в секунду. Это ориентир для систем «умного города», безопасности, контроля на производстве. Одна карта Atlas 300I/V Pro потребляет всего 72 Вт, поэтому плотная конфигурация не превращается в печку.
Сценарии для образования и интеграторов
- Учебная ИИ-лаборатория вуза или колледжа: студенты запускают распознавание образов и классификацию на реальном серверном железе, а не в облачной песочнице.
- Проект по видеоаналитике для заказчика: интегратор разворачивает центральный узел, к которому подключаются камеры объекта.
- Корпоративный инференс: внутренние модели обрабатывают данные, которые нельзя отдавать вовне.
Для проектов Vizzion сервер удобно сочетать с интерактивными классами и VR/AR-средой: тяжёлые вычисления остаются в стойке, а рабочие места получают результат по сети.
Хранение и надёжность в стойке
Конфигурации хранения гибкие: от 12 дисков 3,5″ до 25 дисков 2,5″, есть вариант с 8 SAS/SATA и 12 NVMe. Поддерживаются массивы RAID 0, 1, 10, 5, 50, 6, 60. Блоков питания два, горячей замены, по схеме (на выбор 900 Вт или 2000 Вт). Четыре вентиляторных модуля тоже заменяются на ходу и имеют резерв . Отказ одного блока питания или вентилятора не остановит работу.
Ограничения: инференс, а не обучение больших моделей
Это сервер для запуска моделей, а не для тяжёлого обучения: за мощностью обучения смотрите в сторону серверов Atlas 800T. Есть и нюанс совместимости: карту Atlas 300I Duo нельзя смешивать с другими картами в одном сервере, а при её установке допускается до 4 карт, а не 8. Для крупных языковых моделей стоит заранее проверить объём памяти выбранных ускорителей.
Диапазон рабочих температур — от 5 до 40 °C, формат — стоечный 2U, поэтому серверу нужна нормальная серверная или стойка с вентиляцией, а не обычный офис.
Характеристики сервера
| Параметр | Значение |
|---|---|
| Форм-фактор | 2U, стоечный AI-сервер |
| Процессоры | 2 × Kunpeng 920 |
| Оперативная память | 32 слота DDR4, до 3200 MT/s |
| ИИ-ускорители | до 8 карт Atlas 300I/V Pro (до 4 карт Atlas 300I Duo) |
| Вычислительная мощность ИИ | до 1120 TOPS INT8 |
| Хранение | 12 × 3,5″ SAS/SATA; 25 × 2,5″ SAS/SATA; 8 × 2,5″ SAS/SATA + 12 × 2,5″ NVMe |
| RAID | 0, 1, 10, 5, 50, 6, 60 |
| PCIe | до 9 портов PCIe 4.0 (один под RAID-контроллер) |
| Питание | 2 блока 900 Вт или 2000 Вт, горячая замена, |
| Вентиляторы | 4 модуля, горячая замена, |
| Рабочая температура | 5–40 °C |
| Габариты (В × Ш × Г) | 86,1 × 447 × 790 мм |
| Интерфейсы | 3 хPCIe 4.0 |
| CPU | 2 × Kunpeng 920 |
| NPU | до 8 карт Atlas 300I/V Pro (до 4 карт Atlas 300I Duo) |
| Форм-фактор |
2U стоечный сервер |
| Системная память |
32 слота памяти DDR4 до 2933 МТ/с. |
| Производительность | 1120 TOPS INT8 |
| Локальное хранилище | 3.5 SAS/SATA*12\r\n\r\n2.5 SAS/SATA*25\r\n\r\n2.5 SAS/SATA*24\r\n\r\n2.5 SAS/SATA*8 |
| Рабочая температура | от 5 ℃ до 40 ℃ |
| Модель | Ascend Atlas 800 (3000) |
| Габаритные размеры (В*Ш*Г) | 447 х 790 х 86.1 мм |
| Питание | 2 х 900 Вт |
В 2U помещается до 8 карт Atlas 300I на Ascend 310. Каждая карта даёт до 88 TOPS INT8, всего до 704 TOPS INT8. Для карт Atlas 300I Duo в документации указано до 4 штук, суммарно до 1120 TOPS INT8 по данным Huawei. В продаже часто встречаются готовые конфигурации, например 4 × Atlas 300I Duo с 280 TOPS INT8 и 140 TFLOPS FP16. Серверная платформа сама по себе не содержит NPU. Количество и тип карт определяют конфигурация и цену, поэтому проверьте, что именно входит в комплект.
Это 2U-сервер на двух процессорах Huawei Kunpeng 920 (архитектура ARMv8 AArch64). Они доступны в вариантах 7260, 5250, 5220 и 3210, с 32, 48 или 64 ядрами. Модель 3010 построена на Intel Xeon. Готовые x86-бинарники на Kunpeng напрямую не запустятся. Софт нужно пересобирать под ARM64 или брать версии, которые для него уже есть. Поддерживаются в основном Linux-дистрибутивы с ARM-сборками, например openEuler, Ubuntu и CentOS. Перед покупкой сверьтесь со списком совместимости ОС Huawei.
Он позиционируется прежде всего как сервер для инференса и видеоаналитики: до 512 каналов HD-видео в реальном времени. Ascend 310 и карты Atlas 300I рассчитаны на запуск моделей. Для серьёзного обучения, особенно больших моделей, нужны другие платформы Ascend, например серии Atlas 800 с Ascend 910. Если ваша задача - обучение, эту модель брать не стоит. Для дообучения небольших моделей она подходит ограниченно.
Программный стек построен на CANN, это аналог CUDA от Huawei. Через него работают MindSpore, PyTorch (с пакетом torch_npu), TensorFlow и ONNX. Для ускорения трансформеров есть отдельная библиотека, которая зависит от версии CANN Toolkit. Порядок работы: установить драйвер и прошивку NPU, затем CANN, затем нужный фреймворк. Версии драйвера, CANN и фреймворка должны точно совпадать друг с другом. Многие модели придётся конвертировать и проверять, потому что не все операторы поддерживаются так же полно, как на NVIDIA CUDA. Экосистема и сообщество меньше, чем у NVIDIA.
Оборудование Huawei для центров обработки данных, в том числе серверы Atlas, находится под ограничениями в части официальной поддержки в ряде стран. Поэтому гарантия и доступ к обновлениям драйверов и CANN на support.huawei.com могут зависеть от канала поставки. Уточните у продавца, оригинальная ли поставка, кто даёт гарантию и как получать прошивки и ПО. Документация Huawei по этой модели есть в открытом доступе: руководство пользователя, руководство по обслуживанию и руководство по установке ПО Ascend. Уточняйте также точную конфигурацию (CPU, память, диски, количество и тип карт), так как у разных продавцов она сильно различается.
Сервер имеет форм-фактор 2U, размеры 86,1 × 447 × 790 мм, и ставится в стандартную стойку. Питание обеспечивают два блока 900 Вт или 2000 Вт с горячей заменой и резервированием . Охлаждение воздушное: четыре вентиляторных модуля с горячей заменой и резервированием . Рабочая температура от 5 до 40 °C. Для восьми карт лучше брать блоки на 2000 Вт. Сервер шумный, поэтому его нужно ставить в серверную или стойку, а не в офис.
Память: 32 слота DDR4 до 3200 MT/s, модули 16, 32, 64 или 128 ГБ. Накопители бывают в разных вариантах корпуса: 12 × 3,5" SAS/SATA, 25 × 2,5" SAS/SATA или 8 × 2,5" SAS/SATA плюс NVMe. Поддерживаются RAID 0/1/10/5/50/6/60. Слотов PCIe 4.0 до 9, один из них отдельный для RAID-контроллера, остальные восемь под ускорители и сетевые карты. Сеть определяется установленными картами. В конфигурациях встречаются, например, двухпортовые карты 10GE или 25GE.
Остались вопросы?
Наши специалисты с радостью вам ответят и помогут в выборе подходящих для вас решений, продуктов и оборудования
-236x170.jpg)
-236x170.png)
