H100
參考為 H100 SXM 80 GB。H100 NVL 使用不同記憶體配置,需明確標示版本。
探索 H100 →GLOBALATLAS AI · H100 與 A100 比較
使用製造商規格比較 H100 與 A100 的記憶體、架構與部署考量。
| 參數 | H100 | A100 |
|---|---|---|
| GPU 記憶體 | 80 GB | 80 GB |
| 記憶體技術 | HBM3 | HBM2e |
| 架構 | Hopper | Ampere |
| 工作負載配置檔。 | AI訓練、推理與加速運算 | 已建立 CUDA 工作負載與模型訓練 |
| 參考變體 | 參考為 H100 SXM 80 GB。H100 NVL 使用不同記憶體配置,需明確標示版本。 | 參考為 A100 80 GB。A100 亦有 40 GB 版本,僅模型名稱不足以判斷容量。 |
| 價格 | 價格洽詢待確認的配置與區域 | 價格洽詢待確認的配置與區域 |
使用相同的模型或場景、精度、批次大小和軟體版本。記錄吞吐量、延遲、峰值記憶體和總伺服器成本。此表格包含硬體規格,非測量的應用性能。