Графический ускоритель NVIDIA L40S
Графический ускоритель NVIDIA L40S — универсальная data-center-карта на архитектуре Ada Lovelace с 48 ГБ памяти GDDR6 с ECC. Она подходит командам, у которых на одном сервере нужно запускать генеративный ИИ, инференс и дообучение языковых моделей, рендеринг и 3D-симуляции. Для интегратора VR/AR/MR-решений и образовательных ИИ-лабораторий это способ закрыть несколько задач одной картой, не разделяя парк на «графический» и «вычислительный».
Что даёт 48 ГБ памяти GDDR6 с ECC
Большой объём памяти позволяет держать в ней тяжёлые сцены и модели целиком, а ECC защищает от тихих ошибок при круглосуточной работе. Пропускная способность памяти — 864 ГБ/с, интерфейс — PCIe Gen4 x16.
На практике это значит, что мультимодальная модель или сложная 3D-сцена не упирается в нехватку видеопамяти так быстро, как на карте с меньшим объёмом. По данным NVIDIA, в генеративных задачах L40S выдаёт до 5 раз больше производительности инференса, чем предыдущее поколение NVIDIA A40.
Тензорные и RT-ядра для ИИ и графики одновременно
В карте 568 тензорных ядер четвёртого поколения, 142 RT-ядра третьего поколения и 18 176 ядер CUDA. Тензорные ядра поддерживают FP8, а Transformer Engine сам переключается между FP8 и FP16, ускоряя обучение и инференс трансформерных сетей.
RT-ядра отвечают за трассировку лучей: по данным NVIDIA, они дают до 2 раз больше производительности трассировки в реальном времени, чем предыдущее поколение. Пиковые значения: FP32 — 91,6 терафлопс, RT — 212 терафлопс, FP8 — до 1 466 терафлопс при разреженности.
Сценарии: от VR-классов до ИИ-инференса
L40S подходит под два основных сценария: рендеринг и симуляции для VR/AR-контента и обслуживание ИИ-моделей для учебных и корпоративных проектов.
- Образовательная VR-лаборатория: сервер с L40S рендерит сложные сцены и поддерживает NVIDIA Omniverse с рабочими процессами на OpenUSD. Видеоблок с тремя NVENC и тремя NVDEC, включая кодирование и декодирование AV1, помогает передавать видеопоток на устройства.
- ИИ-практикум для вуза или компании: запуск генеративных моделей, LLM-инференс, дообучение, а также работа с изображениями вроде Stable Diffusion.
Поддержка виртуальных GPU (vGPU) позволяет делить ресурсы между несколькими пользователями. Лицензирование профилей уточняйте в руководстве NVIDIA по vGPU.
Серверная карта: пассивное охлаждение и 350 Вт
L40S рассчитана на установку в серверы: у неё двухслотовый форм-фактор, пассивное охлаждение и 16-контактный разъём питания. Максимальное энергопотребление — 350 Вт.
Пассивный радиатор означает, что воздух должен продувать сервер вентиляторами корпуса. Поэтому карту выбирают вместе с совместимой платформой: такие серверы выпускают Dell, HPE, Lenovo, Supermicro. Для надёжности заявлены защищённая загрузка с root of trust и готовность к NEBS Level 3. Четыре порта DisplayPort 1.4a оставляют возможность подключить дисплей напрямую.
Ограничения: нет NVLink и MIG
L40S не поддерживает NVLink и Multi-Instance GPU, поэтому объединять память нескольких карт в единый пул или нарезать одну карту на аппаратные изолированные части нельзя.
Для моделей, которым не хватает 48 ГБ, придётся дробить нагрузку между картами по PCIe. Если же задача — самое крупное обучение на кластерах, смотрят в сторону ускорителей класса H100. Для смешанной нагрузки из графики, видео и ИИ с умеренными по размеру моделями L40S остаётся практичным компромиссом.
| Архитектура графического процессора | NVIDIA Ada Lovelace |
| AI-производительность: | 212 терафлопс |
| FP16 | BF16 Tensor Core | 733 терафлопс |
| FP8 Tensor Core | 1466 терафлопс |
| TF32 Tensor Core | 366 терафлопс |
L40S — универсальный ускоритель на архитектуре Ada Lovelace с 48 ГБ GDDR6 с ECC, 568 тензорными ядрами 4-го поколения и поддержкой FP8. Лучше всего она подходит для инференса, дообучения моделей среднего размера, генеративной графики, рендеринга и видеоаналитики. Для крупного обучения с нуля она слабее H100 и A100: у неё память GDDR6 с пропускной способностью около 864 ГБ/с (у них HBM) и нет NVLink. Если модель помещается в 48 ГБ, L40S обычно выигрывает по цене за запрос.
У A100 и H100 память HBM (80 ГБ, пропускная способность 2–3,35 ТБ/с), у них есть NVLink и сильный FP64. У L40S 48 ГБ GDDR6, 864 ГБ/с, FP64 слабый, зато высокая производительность FP32 и FP8 (около 733 TFLOPS dense). Для инференса, когда модель помещается в 48 ГБ, L40S часто выгоднее по стоимости. Для обучения больших LLM, очень длинного контекста, HPC-расчётов с FP64 и большого числа одновременных пользователей лучше брать H100 или A100.
NVLink не поддерживается, и MIG тоже нет. Несколько карт в сервере общаются по PCIe Gen4. Это нормально для инференса, когда запросы распределяются между картами, или для тензорного параллелизма на моделях средней величины, например двух L40S для Llama 70B в INT4. При интенсивном межкарточном обмене при обучении PCIe становится узким местом.
Карта пассивная, двухслотовая, полноразмерная (FHFL). Она рассчитана на серверные корпуса с направленным воздушным потоком от вентиляторов шасси. Максимальное энергопотребление — 350 Вт по данным NVIDIA (в некоторых каталогах указано 300 Вт), питание через 16-контактный разъём. В обычный ПК без принудительного обдува её ставить не стоит: возможен перегрев и троттлинг. Перед покупкой проверьте у вендора сервера совместимость, наличие кабеля для 16-pin и запас по БП. В сервере на 8 карт рассчитывайте на 2,8 кВт только под GPU.
В российской рознице цена обычно около миллиона рублей и выше. Например, в DNS карта с артикулом 900-2G133-0080-000 указана примерно за 1,07 млн ₽, цены у поставщиков серверного оборудования отличаются и меняются. Проверяйте, что товар новый, есть гарантия поставщика и подтверждённая совместимость с вашим сервером. Также уточняйте комплектацию (кабель питания, кронштейн) и необходимость лицензий на ПО (vGPU, AI Enterprise). Для расчёта запаса по бюджету учитывайте стоимость сервера, БП и охлаждения.
Да, в отличие от H100 и A100, у L40S есть 4 выхода DisplayPort 1.4a, 142 RT-ядра 3-го поколения и видеокодеки NVENC/NVDEC с поддержкой AV1. Поэтому её используют для 3D-рендеринга, цифровых двойников (Omniverse), удалённых рабочих станций и стриминга. Для VR/AR-проектов она подходит как серверный рендер-узел, но это серверная карта: драйверы и поддержка ориентированы на дата-центры, а не на игровые сценарии.
Да, поддержка vGPU есть: профили vWS (RTX Virtual Workstation), vPC и vCS, а также совместимость с NVIDIA AI Enterprise. Это позволяет делить карту между несколькими пользователями или ВМ, например для учебных классов с 3D и CAD. Аппаратного разделения MIG нет, поэтому делёж идёт по профилям vGPU. Для этого нужны лицензии NVIDIA vGPU, они покупаются отдельно, и серверная платформа должна быть в списке сертифицированных.
Остались вопросы?
Наши специалисты с радостью вам ответят и помогут в выборе подходящих для вас решений, продуктов и оборудования
-236x170.jpg)
-236x170.png)
