Процессор с поддержкой ИИ AMD EPYC 9576F
Процессор AMD EPYC 9576F из серии EPYC 9006 рассчитан на серверы, где каждое ядро должно работать быстро: 64 ядра, 128 потоков и буст до 5 ГГц. Для интеграторов ИИ-серверов, университетских вычислительных центров и студий, которые рендерят VR/AR-сцены, он служит основой платформы SP8. Под сборку нужна новая плата, потому что старые сокеты не подойдут.
64 ядра и 5 ГГц: частота здесь важнее числа ядер
У EPYC 9576F 64 ядра и 128 потоков, базовая частота 3,55 ГГц, максимальный буст до 5 ГГц. Буква F в названии обычно означает модели с упором на высокую частоту.
Такой процессор выигрывает там, где нагрузка плохо делится на сотни потоков. Это базы данных, лицензируемое по ядрам ПО и игровые или образовательные серверы с общей симуляцией. Каждое ядро получает больше кэша, чем у типичной модели с таким же числом ядер: L3 здесь 384 МБ.
Платформа SP8 принимает DDR5 и PCIe 6.0
Процессор работает на платформе SP8 в конфигурациях 1P и 2P. Он поддерживает PCIe 6.0 (128 линий), память DDR5 RDIMM и MRDIMM и 8 каналов на сокет.
Скорость памяти заявлена до 8000 MT/s для RDIMM, это около 512 ГБ/с на сокет. Для MRDIMM заявлено до 12 800 MT/s, или 819,2 ГБ/с. Чтобы получить эту пропускную способность, заполняйте все 8 каналов одинаковыми модулями. Реальная скорость зависит от числа модулей на канал, поэтому сверяйтесь с документацией платы. Много линий PCIe нужно, чтобы одновременно подключить несколько GPU-ускорителей, NVMe-накопителей и быстрые сетевые карты.
Сценарии: ИИ-инференс и учебные VR-классы
Отдельного NPU в описании AMD нет. ИИ-задачи выполняются на ядрах x86, а при росте нагрузки к ним подключают GPU.
- Сервер ИИ-инференса. Процессор подаёт данные ускорителям, ведёт предобработку и векторный поиск. Линии PCIe 6.0 не дают шине стать узким местом.
- Вычислительный узел для VR/AR-лаборатории. Он рендерит и стримит сцены на гарнитуры, обслуживает виртуальные машины студентов и хранит большие наборы 3D-ресурсов.
Для обучения больших нейросетей и быстрой работы больших LLM одного процессора мало. Нужны GPU.
Защита и питание: TDP 400 Вт настраивается
Штатная мощность процессора — 400 Вт, диапазон настройки — от 200 до 400 Вт. Это уровень, при котором нужны серверный корпус с продуманным воздушным потоком или жидкостное охлаждение и резервируемые блоки питания.
В двухсокетной системе нагрузка на питание удваивается, и к ней добавляются GPU и накопители. Мощность блоков питания и охлаждение считайте для всей конфигурации. Сниженный лимит помогает уложиться в бюджет стойки по теплу, но уменьшает производительность под полной нагрузкой. Аппаратную защиту виртуальных машин обеспечивает AMD Infinity Guard. Это пригодится, если на одном сервере работают разные группы учащихся или клиенты. Некоторые функции требуют поддержки со стороны ОС и производителя сервера.
Ограничение: не подходит для серверов на SP5
EPYC 9576F несовместим с платами и серверами EPYC 9004 и 9005 на сокете SP5. Обновить такой сервер заменой одного процессора не получится. Нужно менять платформу: плату, память, вероятно, охлаждение и блоки питания. Перед заказом проверьте у производителя сервера список совместимых CPU.
Если нужна максимальная многопоточность, например для плотной виртуализации, лучше смотреть модели с большим числом ядер. 9576F подходит там, где важна скорость отдельного потока.
Характеристики по данным AMD
Ниже указаны ключевые параметры процессора по данным производителя.
| Параметр | Значение |
|---|---|
| Серия | EPYC 9006 |
| Ядра / потоки | 64 / 128 |
| Базовая частота | 3,55 ГГц |
| Максимальный буст | до 5 ГГц |
| Кэш L3 | 384 МБ |
| TDP | 400 Вт (200–400 Вт) |
| Платформа / сокеты | SP8 / 1P и 2P |
| PCIe | PCIe 6.0, 128 линий |
| Память | DDR5 RDIMM / MRDIMM, 8 каналов |
| Скорость памяти | до 8000 / до 12 800 MT/s |
| Пропускная способность на сокет | 512 / 819,2 ГБ/с |
| Рекомендованная цена (1kU) | 9431 USD |
| Product ID (tray) | 100-000001661 |
| Количество ядер процессора | 64 |
| Модель | AMD EPYC 9576F |
| Архитектура графического процессора | AMD Infinity |
| Интерфейс памяти | PCIe® 6.0 x128 |
| Память графического процессора | DDR5 RDIMM | MRDIMM |
| Пропускная способность памяти |
До 8000 МТ/с До 12800 МТ/с |
Для 9576F AMD и TechPowerUp указывают номер 100-000001661. В серии 9006 много похожих по названию моделей: 9576F, 9536 и другие. Некоторые из них рассчитаны на SP7, а другие на SP8. Поэтому перед заказом сверьте у поставщика полное обозначение с буквой F, сокет SP8 и вариант поставки (tray или в комплекте сервера). Tray-версии обычно идут без кулера. Радиатор для SP8 нужно подбирать отдельно. Не путайте артикул 9576F с похожими моделями прошлых поколений.
Нет. Процессор рассчитан на новый сокет SP8 (серия EPYC 9006, архитектура Zen 6, кодовое имя Venice). Он физически и электрически несовместим с SP5 (EPYC 9004/9005) и тем более с SP3. Нужны новая материнская плата или готовый сервер на SP8. Платформа поддерживает 1P и 2P. Память тоже придётся подбирать под новую платформу. Перед заказом сверьте у производителя сервера версию BIOS и список поддерживаемых процессоров.
Буква F означает частотную серию. У модели 64 ядра и 128 потоков, базовая частота 3,55 ГГц, буст до 5 ГГц и 384 МБ кэша L3. Рекомендованная цена AMD при партии 1000 штук — 9431 USD. По данным StorageReview, это на 1594 USD дороже обычной модели 9536. Переплата идёт за частоту и кэш, а не за количество ядер. Такой процессор выбирают, когда важна скорость одного потока. Примеры: хост для GPU-ускорителей, базы данных, ПО с лицензией на ядро. Для плотной виртуализации и максимальной параллельности выгоднее модели с большим числом ядер.
Штатная мощность — 400 Вт, настраиваемый диапазон — 200–400 Вт. Нужны серверный радиатор или жидкостное охлаждение для SP8 и корпус с продуманным потоком воздуха. В двухсокетной конфигурации нагрузка на питание и охлаждение удваивается, а ещё добавляются GPU, NVMe и сетевые карты. Блок питания и охлаждение считайте для всей системы. Ограничение TDP в BIOS помогает уложиться в бюджет стойки по питанию. Однако оно снижает частоту и производительность под нагрузкой, а ради частоты F-модель и покупают.
Нужна серверная память DDR5 ECC в формате RDIMM (до 8000 MT/s) или MRDIMM (до 12800 MT/s). Каналов памяти 8 на сокет. Пиковая пропускная способность — около 512 ГБ/с для RDIMM и 819 ГБ/с для MRDIMM. Для полной пропускной способности заполняйте все 8 каналов одинаковыми модулями. Скорость при нескольких модулях на канал может быть ниже. Это нужно уточнять в документации платы. Если вы переходите с SP5, там было 12 каналов. Поэтому число модулей и их объём пересчитывайте заново. Модули от старых серверов использовать нельзя.
Отдельного NPU и встроенной графики нет. ИИ-нагрузка выполняется на ядрах x86. Поддерживаются AVX-512, AVX-512 FP16, AVX-VNNI, VNNI-INT8 и BFloat16. Этого достаточно для инференса небольших и средних моделей, классического машинного обучения, векторного поиска, RAG и предобработки данных. Обучение и быстрая работа больших LLM требуют GPU или ускорителей. Для таких систем F-модель выбирают как хост: высокая частота помогает быстро подавать данные ускорителям. Для вывода изображения нужна отдельная видеокарта или BMC-графика платы.
Процессор поддерживает PCIe 6.0, по данным AMD — до 128 линий. Также есть поддержка CXL 3.1 (по данным TechPowerUp). По Wikipedia, в двухсокетных системах доступно до 160 линий, но эти данные стоит проверить в документации конкретной платформы. Для нескольких GPU, NVMe-накопителей и сетевых карт ресурсов достаточно. Реальное число слотов и их скорость определяет производитель платы. Чтобы использовать PCIe 6.0, устройства тоже должны его поддерживать. Устройства PCIe 5.0 и 4.0 будут работать на своей скорости. Конфигурацию слотов проверяйте до покупки.
Остались вопросы?
Наши специалисты с радостью вам ответят и помогут в выборе подходящих для вас решений, продуктов и оборудования
-236x170.jpg)
-236x170.png)
