H100
参考为H100 SXM 80 GB。H100 NVL采用不同的内存配置，必须确认具体变体。
探索H100 →GLOBALATLAS AI · H100 与 H200 比较
H100 与 H200 比较
使用制造商规格比较H100和H200的内存、架构和部署考虑因素。
| 参数 | H100 | H200 |
|---|---|---|
| GPU 内存 | 80 GB | 141 GB |
| 内存技术 | HBM3 | HBM3e |
| 架构 | Hopper | Hopper |
| 工作负载配置文件 | AI训练、推理与加速计算 | 偏重内存的LLM推理与科学计算 |
| 参考变体 | 参考为H100 SXM 80 GB。H100 NVL采用不同的内存配置，必须确认具体变体。 | 141 GB 是GPU内存，不是系统内存。在选择训练拓扑前，请确认GPU数量和所需互连。 |
| 价格 | 价格面议待确认的配置与区域 | 价格面议待确认的配置与区域 |
哪个配置适合您的工作负载？
H200
当 H100 内存预算有限时，H200 是候选。其更大的 VRAM 不会自动带来每秒更多请求。
探索H200 →比较相同工作负载
使用相同模型或场景、精度、批量大小和软件版本。记录吞吐量、延迟、峰值内存和总服务器成本。此表格显示硬件规格，不代表应用性能。