Модуль ускорения ИИ Ascend Atlas 300I Pro
Модуль ускорения ИИ Ascend Atlas 300I Pro — это карта PCIe для инференса: она запускает уже обученные нейросети в серверах и рабочих станциях. Она подойдёт интеграторам систем ИИ, вузовским лабораториям и командам, которые строят распознавание изображений, OCR и поиск по контенту. На плате стоит один процессор серии Ascend 310 с 8 ядрами Da Vinci и 8 собственными CPU-ядрами, 24 ГБ памяти и блоки кодирования и декодирования видео. Формат половинной высоты и длины позволяет уместить карту в компактный сервер.
140 TOPS в INT8 при 72 Вт
Карта выдаёт до 140 TOPS в INT8 и 70 TFLOPS в FP16 при потреблении 72 Вт, а Huawei заявляет эффективность около 2 TOPS/Вт.
Это пиковые значения: реальная скорость зависит от модели, квантования и версии программного стека. Зато низкое энергопотребление означает, что в один сервер можно поставить несколько карт без перестройки питания и охлаждения. Мощный игровой ускоритель для той же задачи потребляет в разы больше. Для круглосуточного инференса разница видна и в счетах за электричество, и в нагреве стойки.
24 ГБ LPDDR4X с ECC вмещают несколько моделей
Память LPDDR4X объёмом 24 ГБ с пропускной способностью 204,8 ГБ/с и поддержкой ECC позволяет держать в карте несколько моделей одновременно.
В типичном конвейере работают детектор, классификатор и модель извлечения признаков, и каждой нужно место. ECC исправляет случайные битовые ошибки, которые накапливаются при долгой непрерывной работе. Платой за такой объём по доступной цене становится скорость: HBM в дорогих ускорителях заметно быстрее. Для задач, где важны число потоков и цена одного канала, этот размен обычно оправдан.
Один процессор делится на 7 виртуальных NPU
Один процессор Ascend 310 можно разделить максимум на 7 виртуальных NPU, и разные задачи не будут мешать друг другу.
Память и кодеки при этом делятся пропорционально. Так одна карта обслуживает сразу несколько проектов или учебных групп. Для интегратора это способ разнести клиентов по изолированным слотам, для лаборатории — выдать каждому студенту свою долю вычислений.
Сценарии: умный кампус и учебная лаборатория
Карта решает две типичные задачи: анализ изображений и видео в здании и практикум по ИИ в образовательном проекте.
Первый сценарий: интегратор оснащает школу или университет. Карта разбирает снимки и потоки с камер, распознаёт объекты и текст, а данные остаются на месте и не уходят во внешнее облако. Второй сценарий: лаборатория ИИ. Студенты разворачивают настоящий инференс-контур, запускают модели через фреймворки PyTorch и TensorFlow и смотрят, как загрузка меняется от настроек. Такой стенд хорошо дополняет VR/AR-классы: карта может обрабатывать видео и распознавать окружение для интерактивных проектов.
Ограничения при переходе с CUDA
Карта работает с программным стеком CANN, а не с CUDA, поэтому код под NVIDIA придётся адаптировать.
Она рассчитана на инференс, а не на обучение больших моделей. Вентилятора на плате нет: охлаждение зависит от воздушного потока в корпусе сервера. Перед покупкой сверьте слот PCIe, размер кронштейна, версию драйверов и совместимость сервера с картой.
Технические характеристики Atlas 300I Pro
В таблице собраны основные параметры карты по документации Huawei.
| Параметр | Значение |
|---|---|
| Форм-фактор | PCIe, половинная высота и длина; кронштейны полной и половинной высоты |
| Процессор | 1 × серия Ascend 310: 8 ядер Da Vinci AI, 8 CPU-ядер до 1,9 ГГц |
| Производительность | 140 TOPS INT8; 70 TFLOPS FP16 |
| Память | 24 ГБ LPDDR4X, 204,8 ГБ/с, ECC |
| Видео и изображения | H.264, H.265, JPEG (кодирование и декодирование) |
| Интерфейс | PCIe 4.0 x16, совместим с x8/x4/x2 |
| Потребляемая мощность | 72 Вт |
| Размеры (Д × В × Ш) | 169,5 × 68,9 × 18,45 мм |
| Вес | 280 г |
| Виртуализация | до 7 виртуальных NPU |
| Интерфейсы | PCIe x 16 Gen4.0 |
| CPU | Ascend 310: 8 ядер |
| Форм-фактор | PCIe-карта половинной высоты и длины |
| Системная память | LPDDR4X 24 ГБ |
| Производительность | 140 TOPS INT8, 70 TFLOPS FP16 |
| Рабочая температура | от 5℃ до 55 ℃ |
| Модель | Ascend Atlas 300I Pro |
| Габаритные размеры (В*Ш*Г) | 169.5 х 68.9 мм х 18.45 мм |
| Питание | 72 Вт |
В карте есть аппаратный кодек. Он декодирует и кодирует H.264 и H.265 и работает с JPEG. По данным продавцов, карта декодирует до 24 потоков HD. Итоговое число каналов зависит от разрешения, частоты кадров и сложности модели, которая обрабатывает кадры. Для проекта видеоаналитики стоит сделать тест на своём видео.
Atlas 300I Pro — более новая карта на одном процессоре 310P. У неё 24 ГБ памяти и 140 TOPS INT8 при 72 Вт, а интерфейс — PCIe 4.0 x16. Atlas 300I старшего поколения построена на четырёх чипах Ascend 310 с 32 ГБ памяти, где у каждого процессора свои 8 ГБ, и работает по PCIe 3.0. Несколько карт Pro можно ставить в один сервер, если хватает слотов и охлаждения. Память при этом не объединяется, и каждая карта работает со своими 24 ГБ. Распределять задачи между картами нужно на уровне приложения или фреймворка.
CUDA не работает. Используется программный стек Huawei CANN: драйвер, прошивка и инструментарий. Поддерживаются PyTorch (через плагин torch_npu) и TensorFlow. Модели обычно конвертируют в формат OM с помощью ATC и запускают через AscendCL, MindSpore или MindX. Код с жёсткой привязкой к CUDA придётся адаптировать. Некоторые операторы могут не поддерживаться, поэтому перенос проекта стоит сначала проверить на тестовой модели.
Мощность платы — 72 Вт. Слот должен обеспечивать 5,5 А по линии 12 В и 2 А по линии 3,3 В, поэтому отдельный кабель питания обычно не нужен. Карта рассчитана на рабочую температуру 0–55 °C. Пассивный радиатор требует направленного воздушного потока в корпусе. Поэтому карту ставят в серверное шасси с вентиляторами, а в обычный настольный ПК без продува — нежелательно.
Нужен ли x86 или Kunpeng? | Это карта половинной высоты и длины (HHHL) размером 169,5 × 68,9 × 18,45 мм и весом 280 г. Интерфейс — PCIe 4.0 x16, с обратной совместимостью с x8, x4 и x2 и с PCIe 3.0. Продавцы указывают совместимость как с серверами Kunpeng (ARM), так и с x86. Перед покупкой уточните у поставщика список проверенных серверов и ОС для конкретной модели и версии драйвера. Совместимость нужно проверять отдельно, потому что у платформ бывают ограничения по BIOS и ядру.
Нет. Это ускоритель инференса, то есть запуска уже обученных моделей. У него нет видеовыходов, и это не универсальный GPU. Его задачи — распознавание текста (OCR), речевая аналитика, рекомендательные системы, модерация контента и видеоаналитика. Для обучения моделей и для игр он не предназначен.
На карте один процессор серии Ascend 310 (310P). Заявлено до 140 TOPS INT8 и 70 TFLOPS FP16. Память — 24 ГБ LPDDR4X с ECC и пропускной способностью 204,8 ГБ/с. Потребление — до 72 Вт, что даёт около 2 TOPS/Вт. Память здесь LPDDR4X, а не HBM, поэтому для больших языковых моделей пропускная способность будет узким местом. Модуль лучше подходит для моделей компьютерного зрения, OCR и распознавания речи. Это пиковые значения из документации Huawei. На практике результат зависит от модели и от оптимизации под CANN.
Остались вопросы?
Наши специалисты с радостью вам ответят и помогут в выборе подходящих для вас решений, продуктов и оборудования
-236x170.jpg)
-236x170.png)
