NVIDIA HGX A100 8-GPU 二手服务器

二手 NVIDIA HGX A100 8-GPU 服务器是完整的 4U 系统，HGX 基板上的八块 A100 SXM4 GPU 通过 NVSwitch 互联，每块 GPU 的 NVLink 带宽为 600 GB/s，80 GB 版本共有 640 GB 池化 HBM2e。进入二级市场的主机平台主要有 Supermicro AS-4124GO-NART 和 SYS-420GP-TNAR、Inspur NF5488A5 以及 Gigabyte G492-ZD2，搭载两颗 AMD EPYC 7002/7003 或第三代 Intel Xeon 可扩展处理器、32 个 DIMM 插槽、六个或更多热插拔 NVMe 硬盘位，以及 2200 W 至 3000 W 冗余电源。每个 A100 SXM4 80 GB 模块的 TDP 为 400 W，八 GPU 组合在稀疏模式下可提供约 5 PFLOPS 的 FP16 Tensor 性能。

这类系统的买家包括无需等待新 Hopper 配额即需训练节点的 AI 实验室和高校、构建 GPU 云的托管服务提供商、渲染和仿真工作室，以及独联体、非洲和南亚的经销商。发货前，合作伙伴对全部八个模块进行数小时 GPU 压力测试，检查 NVSwitch 拓扑、HBM 错误计数和温度，对主机完成老化测试和内存全量测试，更新 BIOS、BMC 和 GPU 固件，并按需更换风扇、电源和导热材料。合作伙伴有限保修通常为 90 天至 12 个月，在报价中确认。

二手 HGX A100 系统通过 InTechnologies 的持牌合作伙伴供应，由合作伙伴签订合同、开具发票并提供合作伙伴保修。InTechnologies 负责协调从退役计划和经核实的经纪商处采购，在 Dubai Airport Freezone 集货，并安排 DDP 或 DDU 交付；由于系统重量和功耗较大，运输和现场准备将与客户共同规划。A100 系统无论新旧均受美国出口管制法规约束，仅在完成最终用户核查后供应。