NVIDIA H200 NVL Tensor Core GPU

NVIDIA H200 NVL은 SXM 베이스보드를 장착할 수 없는 공랭식 기업용 서버를 위해 설계된 Hopper H200의 PCIe 버전입니다. 각 듀얼 슬롯 카드는 4.8 TB/s 대역폭의 141 GB HBM3e를 탑재하여 H100 NVL 대비 약 1.5배의 메모리를 제공하며, 2기 또는 4기의 카드를 NVLink 브리지로 GPU당 900 GB/s 속도로 연결할 수 있습니다. 최대 FP8 Tensor Core 처리량은 희소성 적용 시 3,341 TFLOPS이고, 카드를 최대 7개의 16.5 GB MIG 인스턴스로 분할할 수 있으며, 보드 전력은 최대 600 W까지 구성 가능합니다.

이 카드는 전용 GPU 섀시가 아닌 Dell, HPE, Lenovo, Supermicro 또는 Cisco의 표준 2U~4U 랙 서버에서 추론과 파인튜닝을 수행하는 기업을 대상으로 합니다. 일반적으로 한 서버에 H200 NVL 4기를 장착하여 70B급 모델을 운영하거나, 가상화 호스트 여러 대에 카드를 한 장씩 분산 배치합니다. NVIDIA는 H200 NVL에 NIM 마이크로서비스, Triton Inference Server 및 지원 소프트웨어 스택을 포함하는 5년 NVIDIA AI Enterprise 구독을 제공합니다.

InTechnologies FZCO는 두바이, UAE 전역 및 인접 시장의 기업에 H200 NVL 카드와 사전 구성된 서버를 공급합니다. GPU 하드웨어의 계약과 인보이스는 당사의 라이선스 파트너사가 발행하며, InTechnologies는 소싱, 두바이 집하 및 DDP 또는 DDU 조건 배송을 담당합니다. H200 NVL은 미국 수출 규정의 적용을 받으므로 공급 가능 여부를 확정하기 전에 최종 사용자 검증과 목적지 확인이 필요합니다.