Гайд5 мин чтенияДата по событию
SXM или PCIe: какой форм-фактор GPU NVIDIA выбрать для обучения и инференса
GPU SXM стоят на плате HGX с полноценным NVLink; карты PCIe ставятся в обычные серверы с мостами NVLink или вовсе без него. Что меняется в пропускной способности, питании, охлаждении и гибкости.
InTechnologies
gpu · nvidia · servers · data-centre

Одно и то же название GPU NVIDIA может обозначать два физически разных продукта. H200 SXM — модуль, установленный в сокет на базовой плате HGX; H200 NVL — двухслотовая карта PCIe, которая ставится в обычный слот сервера. Чип и объём памяти у них общие, но питание, межсоединение и требуемый тип сервера различаются. Третий вариант, RTX PRO 6000 Blackwell Server Edition, существует только в PCIe и использует другой тип памяти. Разберём различия и то, какие задачи к какому варианту подходят.
Два способа установить GPU
SXM — фирменный сокетный формат модулей NVIDIA. Восемь GPU SXM монтируются на одну плату HGX вместе с микросхемами NVLink Switch, а плата встраивается в сервер, спроектированный под неё, — либо самой NVIDIA в виде DGX, либо производителем серверов. В качестве серверных вариантов для H200 SXM NVIDIA называет партнёрские системы HGX H200 и системы NVIDIA-Certified на четыре или восемь GPU. Плата, её питание и охлаждение идут единым блоком, поэтому число GPU в сервере задаётся платой.
Карты PCIe вставляются в обычные слоты PCIe Gen 5, пропускную способность которых NVIDIA для H100 и H200 указывает в 128 ГБ/с. H200 NVL — двухслотовая карта с воздушным охлаждением; NVIDIA указывает для неё партнёрские системы MGX и системы NVIDIA-Certified до восьми GPU, а для H100 NVL — партнёрские и сертифицированные системы на один–восемь GPU. Значит, можно начать с двух карт в стандартном сервере 2U или 4U и добавить ещё позже либо поставить GPU-узлы на ту же платформу, что уже работает в ЦОД.
NVLink — главное различие
В системе HGX каждый GPU связан с каждым через NVLink на полной скорости благодаря микросхемам NVSwitch. NVIDIA указывает для H100 SXM и H200 SXM по 900 ГБ/с NVLink на GPU, а для HGX B200 и HGX B300 — по 1,8 ТБ/с на GPU и 14,4 ТБ/с на всю плату.
Карты PCIe вместо этого используют мосты NVLink. H200 NVL поддерживает мосты на два или четыре GPU со скоростью 900 ГБ/с на GPU, но только между картами, объединёнными одним мостом; обмен между группами и с остальной частью сервера идёт по PCIe. Для предыдущей H100 NVL NVIDIA указывает NVLink на 600 ГБ/с. У RTX PRO 6000 Blackwell Server Edition NVLink в спецификациях NVIDIA нет, карты обмениваются данными по PCIe Gen 5.
Сильнее всего это сказывается, когда модель разделена между несколькими GPU. При тензорном параллелизме — в обучении и в инференсе моделей, не помещающихся в память одного GPU, — данные пересылаются между GPU на каждом слое, и фабрика NVLink «все со всеми» держит этот обмен быстрым на всех восьми GPU. Задачи, в которых каждый GPU или каждая пара под мостом обслуживает собственную копию модели, межсоединение почти не нагружают.
Питание, память и вычисления
NVIDIA указывает для H200 SXM до 700 Вт, а для H200 NVL — до 600 Вт, оба значения настраиваются. У обеих по 141 ГБ HBM3e с пропускной способностью 4,8 ТБ/с, так что у H200 память одинаковая. Больший бюджет мощности сказывается на вычислениях: производительность тензорных ядер в FP8 с учётом разреженности — 3958 TFLOPS у H200 SXM против 3341 TFLOPS у H200 NVL.
В первом поколении Hopper разрыв был заметнее. H100 SXM рассчитан на мощность до 700 Вт и несёт 80 ГБ памяти с пропускной способностью 3,35 ТБ/с; H100 NVL — 350–400 Вт, 94 ГБ и 3,9 ТБ/с. У карты PCIe памяти было больше и она была быстрее, а у модуля SXM были выше вычислительная мощность и скорость NVLink.
RTX PRO 6000 Blackwell Server Edition — другой класс: 96 ГБ GDDR7 с ECC и пропускной способностью 1597 ГБ/с, 4 PFLOPS в FP4, до 600 Вт (настраивается), в двухслотовом исполнении с воздушным охлаждением или в однослотовом с жидкостным. У неё есть четыре выхода DisplayPort 2.1, а MIG позволяет разделить её максимум на четыре изолированных экземпляра — против семи у H200 SXM и H200 NVL.
Охлаждение и сервер вокруг GPU
Плата с восемью SXM концентрирует тепло в одном месте, и нынешние платы Blackwell подталкивают к жидкостному охлаждению: Supermicro, например, умещает HGX B300 в 4U с водоблоками direct-to-chip и четырьмя блоками питания по 6600 Вт, а NVIDIA указывает для DGX B300 около 14 кВт на всю систему. Серверы SXM с воздушным охлаждением тоже есть, но занимают больше места: вариант Supermicro на HGX B300 с воздухом — это 8U и шесть блоков питания по 6600 Вт. Карты PCIe распределяют тепло по корпусу с обычным воздушным потоком, а H200 NVL и H100 NVL изначально рассчитаны на воздушное охлаждение.
Различаться может и лицензирование ПО. По данным NVIDIA, подписка NVIDIA AI Enterprise входит в комплект H100 NVL и H200 NVL, а для H100 SXM и H200 SXM предлагается как дополнительная опция. Срок подписки уточняйте у поставщика, а не принимайте на веру.
Какой форм-фактор для какой задачи
- Обучение и дообучение крупных моделей на многих GPU: SXM на HGX. Полный NVLink между всеми восемью GPU и высокоскоростная кластерная сеть, вокруг которой построены серверы HGX B300 и B200, — то, что нужно для многоузлового обучения.
- Инференс моделей, которым не хватает памяти двух или четырёх GPU: SXM по той же причине.
- Инференс моделей, помещающихся в один GPU или пару под мостом, сервисы поиска и эмбеддингов, смешанные задачи ИИ и графики: PCIe. H200 NVL даёт пропускную способность HBM в стандартных серверах, RTX PRO 6000 Blackwell Server Edition добавляет возможности для графики и видео при 96 ГБ на карту.
- Поэтапное расширение или ограниченные возможности площадки: PCIe, потому что карты можно добавлять понемногу в серверы с воздушным охлаждением, которые ЦОД уже поддерживает.
GPU для центров обработки данных, включая модели PCIe, подпадают под экспортный контроль США. InTechnologies поставляет их через лицензированных партнёров, и каждый заказ проходит проверку конечного пользователя.
Что указать в запросе
- Форм-фактор: SXM в сервере HGX или карты PCIe, и точную модель GPU (H200 SXM, H200 NVL, RTX PRO 6000 Blackwell Server Edition или другую).
- Для PCIe: число карт на сервер, нужны ли мосты NVLink и в группах по два или по четыре GPU, а также модель сервера, если он у вас уже есть.
- Для SXM: поколение платы HGX, производитель сервера или DGX, процессоры и память, тип и скорость кластерных сетевых карт.
- Охлаждение: воздушное или жидкостное, и доступную мощность на стойку.
- Ограничение мощности, если GPU будут работать ниже максимального TDP.
- ПО: должна ли входить подписка NVIDIA AI Enterprise и на какой срок.
- Описание задачи одним предложением (обучение или инференс, размер модели), чтобы поставщик заранее указал на несоответствие форм-фактора.
Источники
- 01NVIDIA H200 Tensor Core GPU2026-11-10
- 02NVIDIA H100 Tensor Core GPU2026-11-10
- 03NVIDIA RTX PRO 6000 Blackwell Server Edition2026-11-10
- 04NVIDIA HGX Platform2026-11-10
- 05NVIDIA DGX B3002026-11-10
- 06Supermicro AS -4126GS-NB3RT-LCC | 4U GPU Server2026-11-10
- 07Supermicro SYS-822GS-NB3RT | 8U GPU Server2026-11-10
В каталоге
GPU NVIDIA H200 NVL Tensor Core
PCIe-GPU Hopper со 141 GB HBM3e и объединением до 4 карт через NVLink для серверов с воздушным охлаждением
NVIDIA RTX PRO 6000 Blackwell Server Edition
Серверная GPU Blackwell с пассивным охлаждением и 96 GB GDDR7 для инференса, рендеринга и vGPU
Сервер NVIDIA HGX H200 на 8 GPU
Восемь GPU H200 SXM по 141 ГБ HBM3e на NVLink; шасси и конфигурация — под заказ
Сервер с 8× NVIDIA RTX PRO 6000 Blackwell Server Edition 96 ГБ
Восемь пассивных PCIe-GPU Blackwell по 96 ГБ GDDR7, всего 768 ГБ; шасси и конфигурация — под заказ



