H100
参考为 H100 SXM 80 GB。H100 NVL 使用不同的内存配置,必须确认具体变体。
探索 H100 →GLOBALATLAS AI · 比較 GPU 規格與價格
比較GlobalAtlas AI硬體目錄中的GPU記憶體大小、記憶體技術與架構。
| 參數 | H100 | H200 | A100 |
|---|---|---|---|
| GPU 記憶體 | 80 GB | 141 GB | 80 GB |
| 記憶體技術 | HBM3 | HBM3e | HBM2e |
| 架構 | Hopper | Hopper | Ampere |
| 工作負載配置文件 | AI 訓練、推理與加速計算 | 記憶體密集型LLM推理與科學計算 | 已建立 CUDA 工作負載與模型訓練 |
| 參考變體 | 参考为 H100 SXM 80 GB。H100 NVL 使用不同的内存配置,必须确认具体变体。 | 141 GB 為 GPU 記憶體,不是系統 RAM。在選擇訓練拓撲前,請確認 GPU 數量及所需互連。 | 参考为 A100 80 GB。A100 也有 40 GB 版本,仅凭型号名称不足以选择容量。 |
| 價格 | 價格需另行詢價配置與區域待確認 | 價格需另行詢價配置與區域待確認 | 價格需另行詢價配置與區域待確認 |
使用相同的模型或場景、精度、批次大小和軟件版本。記錄吞吐量、延遲、峰值內存和總伺服器成本。此表格包含硬件規格,而非測量的應用性能。