H100
参考为H100 SXM 80 GB。H100 NVL采用不同的内存配置,必须确认具体变体。
探索H100 →GLOBALATLAS AI · 比较 GPU 规格与价格
比较GlobalAtlas AI硬件目录中的GPU内存大小、技术和架构。
| 参数 | H100 | H200 | A100 |
|---|---|---|---|
| GPU 内存 | 80 GB | 141 GB | 80 GB |
| 内存技术 | HBM3 | HBM3e | HBM2e |
| 架构 | Hopper | Hopper | Ampere |
| 工作负载配置文件 | AI训练、推理与加速计算 | 偏重内存的LLM推理与科学计算 | 已建立CUDA工作负载和模型训练 |
| 参考变体 | 参考为H100 SXM 80 GB。H100 NVL采用不同的内存配置,必须确认具体变体。 | 141 GB 是GPU内存,不是系统内存。在选择训练拓扑前,请确认GPU数量和所需互连。 | 参考为A100 80 GB。A100也有40 GB版本,仅凭型号无法判断容量。 |
| 价格 | 价格面议待确认的配置与区域 | 价格面议待确认的配置与区域 | 价格面议待确认的配置与区域 |
使用相同模型或场景、精度、批量大小和软件版本。记录吞吐量、延迟、峰值内存和总服务器成本。此表格显示硬件规格,不代表应用性能。