Модуль ускорения ИИ Huawei Ascend Atlas 150
Модуль ускорения ИИ Ascend Atlas 150 — это серверная карта PCIe для инференса больших языковых моделей, мультимодальной генерации и рекомендательных систем. Она построена на процессоре Ascend 950PR и рассчитана на тех, кто разворачивает модели на своих серверах. Подойдёт интеграторам ИИ-инфраструктуры, вузовским лабораториям и командам, которым нужен локальный вычислительный контур. У карты пассивное охлаждение, а питание и обдув обеспечивает сервер.
Что даёт вычислительная мощность до 1561 TFLOPS в mxFP4
Пиковая производительность карты — 1561 TFLOPS в формате mxFP4. Для INT8 поставщики указывают 804 TOPS, для FP16/BF16 — 425 TFLOPS. Низкая разрядность ускоряет работу с квантованными моделями: чем компактнее формат чисел, тем больше расчётов карта делает за такт. Для этого Ascend 950PR поддерживает форматы mxFP4, mxFP8, HiF8 и INT8. Это пиковые теоретические значения, а на практике скорость зависит от модели и программного стека.
Память HBM с ECC и пропускной способностью 1,4 ТБ/с
Карта несёт 84 ГБ памяти HBM с коррекцией ошибок ECC и пропускной способностью 1,4 ТБ/с. Эти цифры взяты у поставщика, поэтому уточните их в спецификации вашей поставки: на странице Huawei в разделе Atlas 350 с теми же основными параметрами указано 112 ГБ. При инференсе LLM именно память чаще всего становится узким местом: в ней лежат веса модели и кэш контекста. Высокая пропускная способность помогает быстрее подавать данные вычислительным блокам. ECC защищает от тихих сбоев, которые при длительной работе сервиса приводят к странным ответам модели.
Сценарии: от чат-бота до рекомендательной системы
Первый сценарий — локальный сервис на базе LLM для вуза или компании. Модель обслуживает чат-бота или поиск по внутренним документам (RAG), а данные не покидают периметр организации. Второй — рекомендации и мультимодальная генерация, то есть работа с текстом и изображениями в одном конвейере. Для таких задач карту ставят в сервер, а при необходимости объединяют несколько карт.
Для объединения есть интерконнект UnifiedBus: до 424 ГБ/с на карту при связке из двух карт и до 318 ГБ/с при четырёх. Подключение к серверу идёт по PCIe 5.0 x16 с двунаправленной пропускной способностью до 128 ГБ/с. Если задача не помещается в одну карту, мощность можно наращивать без смены платформы.
Ограничения при переходе с экосистемы CUDA
Карта работает не с CUDA, а с программным стеком Huawei: набором CANN, фреймворком MindSpore и адаптерами для PyTorch. Код, написанный под NVIDIA, придётся адаптировать, и часть оптимизаций появляется с задержкой. Перед покупкой сверьте нужную модель со списком поддерживаемых. Ещё нужно учесть физику: карта двойной ширины, длиной 295 мм, потребляет до 600 Вт и охлаждается только потоком воздуха сервера. Для её установки нужны подходящее шасси и запас по блоку питания. Рабочая температура окружающей среды — от 5 до 35 °C, поэтому ставить сервер лучше в серверную или шкаф с климат-контролем.
Таблица: параметры Atlas 150 по данным поставщика
Значения собраны из каталога поставщика и официальной страницы Huawei для родственной карты Atlas 350. Объём памяти уточняйте перед заказом.
| Параметр | Значение |
|---|---|
| ИИ-процессор | Ascend 950PR |
| mxFP4 | 1561 TFLOPS |
| INT8 / mxFP8 / HiF8 | 804 TOPS / 804 TFLOPS |
| FP16 / BF16 | 425 TFLOPS |
| Память | 84 ГБ HBM, ECC |
| Пропускная способность памяти | 1,4 ТБ/с |
| Интерфейс | PCIe 5.0 x16, до 128 ГБ/с |
| Межкарточное соединение | UnifiedBus: до 424 ГБ/с (2 карты), до 318 ГБ/с (4 карты) |
| Форм-фактор | OH FL DW, двойная ширина |
| Размеры | 295 × 39,04 × 137 мм |
| Вес | 3 кг |
| Макс. потребление | до 600 Вт |
| Охлаждение | Пассивное |
| Рабочая температура | 5–35 °C |
| Интерфейсы | PCIe 5.0 x16 |
| Системная память |
84 ГБ HBM пропускная способность 1.4 ТБ/с Поддержка ECC |
| Производительность |
1561 TFLOPS @mxFP4 804 TFLOPS @mxFP8/HiF8/mxFP6 804 TOPS @INT8 425 TFLOPS @FP16/BF16 |
| Рабочая температура | от 5℃ до 35 ℃ |
| Модель | Ascend Atlas 150 |
| Габаритные размеры (В*Ш*Г) | 295 × 39.04 х 137 мм |
| Питание | ≤600 Вт |
На сайте поддержки Huawei я не нашёл отдельной документации на модель с названием «Atlas 150». В линейке Atlas есть похожий по назначению модуль Atlas 200 на процессоре Ascend 310. Название «Atlas 150» может быть маркировкой поставщика или неточным названием в каталоге. Перед заказом запросите у поставщика партномер, фото платы и спецификацию. Сравните их с документацией Huawei, чтобы убедиться, что вы получаете то, что ожидаете.
Если это семейство Atlas 200 на Ascend 310, то производительность составляет 16–22 TOPS INT8. Источники называют разные цифры в зависимости от режима и версии. Этого достаточно для распознавания изображений, классификации и детекции объектов. Модуль заявлен на 16 каналов HD-видео в реальном времени. Для больших языковых моделей, генеративных задач и обучения он не подходит. Это компактный ускоритель для инференса, то есть для запуска уже обученных моделей.
Нет. Модуль размером примерно с половину кредитной карты (у Atlas 200 это 52,6 × 38,5 мм) монтируется на плату-носитель через специальный разъём. Он не предназначен для слота PCIe настольного компьютера. Для интерфейса заявлены PCIe x4 Gen3, USB 2.0/3.0 и RGMII. Чтобы использовать модуль, нужна своя плата или готовое устройство: камера, периферийный блок или dev-kit. Для серверов в линейке Huawei есть отдельные карты Atlas 300I.
Энергопотребление низкое. Для Atlas 200 источники называют от 5,5 Вт в типовом режиме до 8–10 Вт при максимальной нагрузке. Поэтому модуль подходит для камер, роботов и дронов. Пассивного радиатора обычно достаточно, но это зависит от корпуса и температуры среды. Охлаждение и питание проектируются на стороне платы-носителя. Уточните у поставщика допустимый температурный диапазон.
Напрямую не заменит. CUDA здесь не работает. Используется программный стек Huawei CANN. Модели нужно конвертировать в формат Ascend (OM) с помощью инструментов Huawei. Поддерживаются популярные фреймворки, например TensorFlow и Caffe. В старой документации Atlas 200 упомянута ОС Ubuntu 16.04. Миграция проекта с Jetson потребует времени. Проверьте, что ваши слои и операторы поддерживаются конвертером.
Официальные руководства по Atlas 200 описывают старый набор ПО: Ubuntu 16.04, TensorFlow и Caffe. Новые версии драйверов и CANN выходят в первую очередь для новых продуктов. Перед покупкой уточните, какая версия прошивки, драйвера и CANN совместима с вашим модулем. Узнайте также, как долго её будут поддерживать. Для долгосрочных проектов это важнее, чем TOPS. Если ПО не обновляется, возможны проблемы с безопасностью и совместимостью.
Для обучения основам компьютерного зрения и работе с периферийным ИИ он подойдёт, если есть готовая плата-носитель или комплект разработчика. Студенты смогут запускать детекцию объектов и анализ видео на небольших моделях. Для курсов по LLM, обучению нейросетей или проектам на CUDA лучше взять другое оборудование. Также учтите санкционные риски и доступность поддержки в вашем регионе. Перед закупкой нужно проверить наличие технической документации на русском или английском языке и срок гарантии.
Остались вопросы?
Наши специалисты с радостью вам ответят и помогут в выборе подходящих для вас решений, продуктов и оборудования
-236x170.jpg)
-236x170.png)
