H100
參考為 H100 SXM 80 GB。H100 NVL 使用不同記憶體配置,需明確標示版本。
探索 H100 →GLOBALATLAS AI · 比較 GPU 規格與價格
比較 GlobalAtlas AI 硬體目錄中的 GPU 記憶體大小、技術與架構。
| 參數 | H100 | H200 | A100 |
|---|---|---|---|
| GPU 記憶體 | 80 GB | 141 GB | 80 GB |
| 記憶體技術 | HBM3 | HBM3e | HBM2e |
| 架構 | Hopper | Hopper | Ampere |
| 工作負載配置檔。 | AI訓練、推理與加速運算 | 記憶體密集型的 LLM 推論與科學計算 | 已建立 CUDA 工作負載與模型訓練 |
| 參考變體 | 參考為 H100 SXM 80 GB。H100 NVL 使用不同記憶體配置,需明確標示版本。 | 141 GB 為GPU記憶體,不是系統RAM。在選擇訓練拓撲前,請確認GPU數量與所需互連。 | 參考為 A100 80 GB。A100 亦有 40 GB 版本,僅模型名稱不足以判斷容量。 |
| 價格 | 價格洽詢待確認的配置與區域 | 價格洽詢待確認的配置與區域 | 價格洽詢待確認的配置與區域 |
使用相同的模型或場景、精度、批次大小和軟體版本。記錄吞吐量、延遲、峰值記憶體和總伺服器成本。此表格包含硬體規格,非測量的應用性能。