Процессор с поддержкой ИИ AMD EPYC 9736

Процессор AMD EPYC 9736 рассчитан на серверы для ИИ-инференса, виртуализации и облачных нагрузок, где важны число ядер и пропускная способность памяти. У него 128 ядер и 256 потоков в сокете SP8, а турбо-частота доходит до 3,7 ГГц. Он подойдёт интеграторам, университетским ЦОДам и командам, которые строят CPU-серверы для моделей небольшого и среднего размера.

128 ядер и 256 потоков: что это даёт серверу

128 ядер и 256 потоков позволяют держать на одном сокете десятки виртуальных машин или контейнеров без постоянной борьбы за ресурсы. Базовая частота составляет 2,7 ГГц, турбо — до 3,7 ГГц, так что одиночные потоки тоже получают запас скорости.

Кэш L3 равен 256 МБ. Часто используемые данные остаются рядом с ядрами и реже уходят в память. Это заметно в базах данных и аналитике. В двухсокетной конфигурации 2P ядер вдвое больше, а нагрузку можно разделить между сокетами.

Память DDR5 с пропускной способностью до 819,2 ГБ/с

У процессора 8 каналов памяти. Он работает с модулями DDR5 RDIMM до 8000 MT/s (512 ГБ/с на сокет) и с MRDIMM до 12800 MT/s (819,2 ГБ/с). Скорость генерации токенов при инференсе LLM на CPU обычно упирается в память, а не в вычисления. Поэтому полезно занять все восемь каналов одинаковыми модулями и выбирать MRDIMM, если это позволяет плата.

PCIe 6.0 x128 для GPU и NVMe

Интерфейс PCIe 6.0 с 128 линиями даёт место для нескольких ускорителей, NVMe-накопителей и быстрых сетевых карт. Так процессор может служить хостом в сервере с GPU. Реальное число линий зависит от конкретной платы, поэтому проверяйте её документацию.

Защита данных: AMD Infinity Guard

В процессоре есть AMD Infinity Guard, набор аппаратных функций безопасности, который особенно важен для виртуализации и многопользовательских сред. Часть функций зависит от операционной системы и прошивки платформы. AMD отдельно оговаривает, что для их работы может потребоваться поддержка стороннего ПО. Уточняйте набор функций у производителя сервера.

Сценарии применения в образовании и ИИ

Первый сценарий — университетский или школьный вычислительный центр. На одном сервере с EPYC 9736 можно развернуть изолированные виртуальные лаборатории для студентов, VR/AR-рендер-ферму и локальные ИИ-сервисы. Второй сценарий — CPU-инференс в закрытом контуре. Организация запускает языковые модели малого и среднего размера, RAG и предобработку данных, при этом данные остаются внутри организации.

Ограничения: сокет SP8 и энергопотребление до 400 Вт

Процессор использует платформу SP8, поэтому плата и сервер на SP5 не подойдут: обновление «на месте» невозможно. Штатная мощность составляет 360 Вт, диапазон настройки — от 200 до 400 Вт. Нужны серверное охлаждение с мощным воздушным потоком или жидкостное охлаждение и блок питания с запасом. Ограничение мощности снижает нагрев, но уменьшает и производительность под полной нагрузкой. Встроенного NPU и графики в описании нет: для обучения крупных моделей нужны GPU. Учтите и лицензии на ПО, которые часто считаются по ядрам.

Основные параметры EPYC 9736