GPU NVIDIA H200 NVL Tensor Core

NVIDIA H200 NVL — это PCIe-исполнение Hopper H200, предназначенное для корпоративных серверов с воздушным охлаждением, в которые нельзя установить базовые платы SXM. Каждая двухслотовая карта несёт 141 GB памяти HBM3e с пропускной способностью 4.8 TB/s, примерно в 1.5 раза больше памяти, чем у H100 NVL, а две или четыре карты можно объединить мостами NVLink на скорости 900 GB/s на GPU. Пиковая производительность тензорных ядер FP8 составляет 3,341 TFLOPS с разрежённостью, карта делится на до семи экземпляров MIG по 16.5 GB, а мощность платы настраивается до 600 W.

Карта ориентирована на компании, которые выполняют инференс и дообучение в стандартных стоечных серверах 2U–4U от Dell, HPE, Lenovo, Supermicro или Cisco, а не в специализированных GPU-шасси. Типичные конфигурации объединяют четыре карты H200 NVL в одном сервере для моделей класса 70B или распределяют одиночные карты по виртуализированным хостам. NVIDIA включает в комплект H200 NVL пятилетнюю подписку NVIDIA AI Enterprise, которая охватывает микросервисы NIM, Triton Inference Server и поддерживаемый программный стек.

InTechnologies FZCO поставляет карты H200 NVL и предварительно сконфигурированные серверы компаниям в Дубае, по всей территории ОАЭ и на соседних рынках. Договор и счёт на GPU-оборудование оформляют наши лицензированные партнёры, а InTechnologies отвечает за закупку, консолидацию в Дубае и доставку на условиях DDP или DDU. H200 NVL подпадает под экспортные правила США, поэтому до подтверждения наличия требуются проверка конечного пользователя и страны назначения.