H100
參考為 H100 SXM 80 GB。H100 NVL 使用不同記憶體配置，需明確標示版本。
探索 H100 →GLOBALATLAS AI · H100 與 H200 比較
H100 與 H200 比較
使用製造商規格比較 H100 與 H200 的記憶體、架構與部署考量。
| 參數 | H100 | H200 |
|---|---|---|
| GPU 記憶體 | 80 GB | 141 GB |
| 記憶體技術 | HBM3 | HBM3e |
| 架構 | Hopper | Hopper |
| 工作負載配置檔。 | AI訓練、推理與加速運算 | 記憶體密集型的 LLM 推論與科學計算 |
| 參考變體 | 參考為 H100 SXM 80 GB。H100 NVL 使用不同記憶體配置，需明確標示版本。 | 141 GB 為GPU記憶體，不是系統RAM。在選擇訓練拓撲前，請確認GPU數量與所需互連。 |
| 價格 | 價格洽詢待確認的配置與區域 | 價格洽詢待確認的配置與區域 |
哪個配置適合您的工作負載？
H200
H200 當 H100 記憶體預算有限時的候選方案。較大的 VRAM 不會自動帶來更高的每秒請求數。
探索 H200 →比較相同工作負載
使用相同的模型或場景、精度、批次大小和軟體版本。記錄吞吐量、延遲、峰值記憶體和總伺服器成本。此表格包含硬體規格，非測量的應用性能。