Серверы, ПК и комплектующие для ИИ

Оборудование для ИИ: серверы, ПК и комплектующие для вычислений

Главный критерий выбора внутри категории — не бренд и не цена, а тип задачи: обучение модели с нуля, дообучение (fine-tuning) или инференс готовой нейросети. От этого зависит нужный объём видеопамяти, тип сети между узлами и бюджет на охлаждение, и подтип оборудования подбирается под задачу, а не наоборот.

Категория делится на три блока. ИИ-серверы — многокарточные платформы на 4–8 GPU уровня A100/H100 с NVLink между ускорителями, для обучения больших языковых моделей и HPC-нагрузок; такой узел требует отдельного расчёта питания и продува стойки. ИИ ПК и терминалы — компактные рабочие станции и edge-устройства с одной-двумя видеокартами или встроенным NPU, для локального инференса, дообучения небольших моделей и офлайн-задач компьютерного зрения без облака. Комплектующие для ИИ — видеокарты, платы расширения PCIe-NVMe, NVMe-накопители, блоки питания и материнские платы с достаточным числом линий PCIe, из которых собираются оба типа систем.

Принято считать, что для любой задачи ИИ нужен максимальный объём видеопамяти на карте — но для инференса готовой модели избыточная VRAM просто простаивает, увеличивая стоимость без прироста скорости отклика. Ограничение в том, что видеопамять определяет размер модели, которую можно загрузить целиком, а не скорость её работы после загрузки. Поэтому для инференса выбор смещается к картам с меньшей VRAM и хорошей пропускной способностью памяти, а объём 40–80 ГБ с NVLink оправдан только там, где несколько ускорителей совместно обучают одну модель.

Частая ошибка — считать процессор второстепенным элементом сборки. Число линий PCIe у CPU ограничивает, сколько ускорителей и NVMe-накопителей подключается одновременно, и слабый процессор становится узким местом даже при мощных видеокартах. Вторая ошибка — расчёт блока питания без запаса: суммарный TDP GPU, CPU и накопителей нужно умножать на 1,2–1,3 для покрытия пиковых нагрузок при обучении.