H100
参考为H100 SXM 80 GB。H100 NVL采用不同的内存配置,必须确认具体变体。
探索H100 →GLOBALATLAS AI · H100 与 A100 比较
使用制造商规格比较H100和A100的内存、架构和部署考虑因素。
| 参数 | H100 | A100 |
|---|---|---|
| GPU 内存 | 80 GB | 80 GB |
| 内存技术 | HBM3 | HBM2e |
| 架构 | Hopper | Ampere |
| 工作负载配置文件 | AI训练、推理与加速计算 | 已建立CUDA工作负载和模型训练 |
| 参考变体 | 参考为H100 SXM 80 GB。H100 NVL采用不同的内存配置,必须确认具体变体。 | 参考为A100 80 GB。A100也有40 GB版本,仅凭型号无法判断容量。 |
| 价格 | 价格面议待确认的配置与区域 | 价格面议待确认的配置与区域 |
使用相同模型或场景、精度、批量大小和软件版本。记录吞吐量、延迟、峰值内存和总服务器成本。此表格显示硬件规格,不代表应用性能。