Видеокарта NVIDIA L40G 24GB GDDR6 — серверный ускоритель архитектуры Ada Lovelace
NVIDIA L40G — это профессиональный серверный графический процессор (GPU), построенный на передовой архитектуре NVIDIA Ada Lovelace с применением 4-нм техпроцесса TSMC . Представленный в октябре 2022 года, этот ускоритель предназначен для широкого круга задач в центрах обработки данных, облачных средах и профессиональных рабочих станциях, требующих высокой производительности вычислений и графики .
Видеокарта оснащена 18176 ядрами CUDA, 568 тензорными ядрами четвертого поколения, 142 RT-ядрами третьего поколения и 24 ГБ высокоскоростной памяти GDDR6 с 384-битной шиной, обеспечивающей пропускную способность 864 ГБ/с . При энергопотреблении 300 Вт и компактном двухслотовом дизайне, карта предлагает впечатляющую производительность FP32 89.97 TFLOPS и поддерживает современные интерфейсы вывода .
Основные характеристики
- Тип: Серверный графический ускоритель (Data Center GPU) для ИИ, HPC и визуализации
- Модель: NVIDIA L40G 24GB GDDR6
- Архитектура: NVIDIA Ada Lovelace (4 нм техпроцесс)
- Графический процессор: AD102
- Количество транзисторов: 76 300 млн
- Площадь кристалла: 609 мм²
- Количество ядер CUDA: 18 176
- Количество тензорных ядер: 568 (4-го поколения)
- Количество RT-ядер: 142 (3-го поколения)
- Количество текстурных блоков (TMUs): 568
- Количество блоков растеризации (ROPs): 192
- Количество SM (Streaming Multiprocessors): 142
- Кэш-память L1: 128 КБ (на SM)
- Кэш-память L2: 48 МБ
- Объем видеопамяти: 24 ГБ GDDR6
- Шина памяти: 384 бит
- Эффективная частота памяти: 18 000 МГц (18 Гбит/с)
- Пропускная способность памяти: 864 ГБ/с
- Базовая частота GPU: 1 005 МГц
- Частота GPU в режиме Boost: 2 475 МГц
- Производительность FP16: 89.97 TFLOPS
- Производительность FP32 (одинарная точность): 89.97 TFLOPS
- Производительность FP64 (двойная точность): 1.41 TFLOPS
- Скорость заполнения текстур (Texel fill rate): 1 406 GTexel/с
- Скорость заполнения пикселей (Pixel fill rate): 475.2 GPixel/с
- Интерфейс: PCI Express 4.0 x16
- Видеовыходы: 3 x DisplayPort 1.4a, 1 x HDMI 2.1
- Максимальное разрешение: 7680 x 4320 (8K)
- Форм-фактор: Двухслотовый (Dual-slot), длина 267 мм, высота 111 мм
- Система охлаждения: Активная
- Максимальное энергопотребление (TDP): 300 Вт
- Разъемы дополнительного питания: 1 x 16-pin (12VHPWR)
- Рекомендуемая мощность блока питания: от 700 Вт
- Дата выхода: 13 октября 2022 года
Назначение
NVIDIA L40G разработана для решения широкого спектра задач в центрах обработки данных, облачных средах и профессиональных рабочих станциях :
- Инференс искусственного интеллекта и машинное обучение: 568 тензорных ядер четвертого поколения обеспечивают высокую производительность для задач инференса нейросетей, включая поддержку различных форматов точности .
- Рендеринг и визуализация: 142 RT-ядра третьего поколения обеспечивают аппаратное ускорение трассировки лучей для создания фотореалистичных изображений в профессиональных приложениях .
- Профессиональная графика и виртуальные рабочие станции (VDI): Высокая производительность графики для CAD, DCC и других профессиональных приложений .
- Научные вычисления и HPC: Производительность FP32 89.97 TFLOPS для ресурсоемких вычислительных задач .
- Видеопроизводство и кодирование: Поддержка NVENC 8-го поколения и NVDEC 5-го поколения для аппаратного кодирования и декодирования видео .
Возможности и технологии
- Архитектура NVIDIA Ada Lovelace: Обеспечивает значительный прирост производительности по сравнению с предыдущим поколением Ampere .
- Тензорные ядра четвертого поколения (568 шт.): Аппаратное ускорение операций ИИ с поддержкой FP8 и структурной разреженности .
- RT-ядра третьего поколения (142 шт.): Удвоенная производительность трассировки лучей по сравнению с предыдущим поколением .
- 24 ГБ памяти GDDR6 с пропускной способностью 864 ГБ/с: Высокоскоростная память для работы с крупными датасетами и моделями .
- PCI Express 4.0 x16: Высокоскоростной интерфейс для быстрого обмена данными с центральным процессором .
- Аппаратное кодирование/декодирование: Поддержка NVENC 8-го поколения и NVDEC 5-го поколения .
- Поддержка DirectX 12 Ultimate, OpenGL 4.6, Vulkan 1.3, OpenCL 3.0: Полная поддержка современных графических API .
- Компактный дизайн с видеовыходами: Наличие 3x DisplayPort 1.4a и 1x HDMI 2.1 позволяет подключать мониторы напрямую .
Сравнение с другими моделями NVIDIA Lxx серии
В линейке серверных ускорителей Ada Lovelace (Lxx) модель L40G занимает следующее положение :
- L40G vs L40 (48GB): L40G имеет 24 ГБ памяти и 89.97 TFLOPS FP32, в то время как L40 оснащается 48 ГБ памяти и 90.52 TFLOPS FP32 . L40 предназначена для задач, требующих большего объема памяти .
- L40G vs L40S (48GB): L40S имеет 48 ГБ памяти и самую высокую производительность в линейке Lxx (91.61 TFLOPS FP32) . L40G является более доступным решением с 24 ГБ памяти .
- L40G vs L20 (48GB): L20 оснащается 48 ГБ памяти, но имеет меньшее количество ядер CUDA (11776) и меньшую производительность FP32 .
- L40G vs L4 (24GB): Обе карты имеют по 24 ГБ памяти, но L4 использует 192-битную шину и имеет меньшую пропускную способность (300 ГБ/с) и меньшее количество ядер CUDA (7424) .
Технические характеристики (подробно)
Графический процессор и память
- Архитектура: NVIDIA Ada Lovelace
- Кодовое имя GPU: AD102
- Техпроцесс: 4 нм TSMC
- Количество ядер CUDA: 18 176
- Количество тензорных ядер: 568 (4-го поколения)
- Количество RT-ядер: 142 (3-го поколения)
- Количество текстурных блоков (TMUs): 568
- Количество блоков растеризации (ROPs): 192
- Кэш-память L2: 48 МБ
- Объем видеопамяти: 24 ГБ GDDR6
- Шина памяти: 384 бит
- Эффективная частота памяти: 18 000 МГц
- Пропускная способность памяти: 864 ГБ/с
Производительность
- Пиковая производительность FP32: 89.97 TFLOPS
- Пиковая производительность FP16: 89.97 TFLOPS
- Пиковая производительность FP64: 1.41 TFLOPS
- Скорость заполнения текстур (Texel fill rate): 1,406 GTexel/с
- Скорость заполнения пикселей (Pixel fill rate): 475.2 GPixel/с
Физические характеристики и энергопотребление
- Максимальное энергопотребление (TDP): 300 Вт
- Разъемы дополнительного питания: 1 x 16-pin (12VHPWR)
- Рекомендуемая мощность блока питания: от 700 Вт
- Тип охлаждения: Активное
- Количество занимаемых слотов: 2
- Длина карты: 267 мм
- Высота карты: 111 мм
- Видеовыходы: 3 x DisplayPort 1.4a, 1 x HDMI 2.1
Поддерживаемые API и технологии
- Поддерживаемые API: DirectX 12 Ultimate (12_2), OpenGL 4.6, Vulkan 1.3, OpenCL 3.0
- NVIDIA CUDA: Да (версия 8.9)
- NVENC / NVDEC: 8-го поколения (NVENC), 5-го поколения (NVDEC)
- Номер платы (Board Number): PG133 SKU 250
Комплектация (OEM/Bulk)
Карта поставляется в OEM-комплектации (Bulk), предназначенной для системных интеграторов и производителей серверов. Комплектация включает:
- Графический процессор NVIDIA L40G 24GB GDDR6
- Активная система охлаждения (интегрирована)
- Полноразмерная крепежная планка
Где применяется NVIDIA L40G
- Корпоративные ЦОД и облачные платформы: Развертывание внутренних платформ для ИИ-инференса, виртуализации рабочих станций и рендеринга .
- Edge-вычисления: Компактный размер позволяет устанавливать карту в серверы на границе сети .
- Рендер-фермы и студии: Ускорение 3D-рендеринга и визуализации в профессиональных приложениях .
- Профессиональные рабочие станции: Высокопроизводительная графика для CAD, DCC и других приложений .
- Научные исследования: Высокопроизводительные вычисления и обработка данных .
Почему стоит выбрать NVIDIA L40G
- Выдающаяся производительность за ватт: 89.97 TFLOPS FP32 при энергопотреблении всего 300 Вт обеспечивает отличную энергоэффективность .
- Универсальность применения: Подходит для ИИ-инференса, рендеринга, виртуализации и профессиональной графики .
- 24 ГБ памяти GDDR6 с пропускной способностью 864 ГБ/с: Достаточный объем для большинства задач инференса, рендеринга и визуализации .
- Компактный двухслотовый дизайн: Позволяет размещать несколько карт в одной системе для масштабирования производительности .
- Наличие видеовыходов: Возможность подключения мониторов напрямую отличает L40G от многих других серверных ускорителей .
- Современная архитектура Ada Lovelace: Поддержка тензорных ядер 4-го поколения и RT-ядер 3-го поколения .
Часто задаваемые вопросы
E-E-A-T и B2B-релевантность
NVIDIA L40G представляет собой экспертное (Expertise) решение, разработанное на основе глубокого понимания (Experience) потребностей современных центров обработки данных и профессиональных пользователей. Архитектура Ada Lovelace с поддержкой тензорных ядер 4-го поколения, RT-ядер 3-го поколения и высокой производительностью FP32 обеспечивает универсальность для широкого спектра задач — от ИИ-инференса до рендеринга и профессиональной визуализации .
Устройство укрепляет авторитетность (Authoritativeness) NVIDIA в сегменте серверных решений, предлагая продукт с полной поддержкой экосистемы CUDA, современных графических API и профессиональных драйверов . Компактный дизайн и наличие видеовыходов делают его особенно привлекательным для развертывания в edge-средах и рабочих станциях, требующих как высокой производительности, так и возможности локальной визуализации .
B2B-ориентация этого продукта абсолютно ясна. L40G — это стратегическая инвестиция для облачных провайдеров, корпоративных ЦОД, исследовательских центров и системных интеграторов, которым необходимо масштабируемое, энергоэффективное и универсальное решение для широкого круга вычислительных задач. Оптимальное сочетание производительности, памяти и функциональности делает эту карту привлекательным выбором для разнообразных профессиональных применений .