H100
参考为 H100 SXM 80 GB。H100 NVL 使用不同的内存配置，必须确认具体变体。
探索 H100 →GLOBALATLAS AI · H100 與 H200 比較
H100 與 H200 比較
使用製造商規格比較H100與H200的記憶體、架構與部署考量。
| 參數 | H100 | H200 |
|---|---|---|
| GPU 記憶體 | 80 GB | 141 GB |
| 記憶體技術 | HBM3 | HBM3e |
| 架構 | Hopper | Hopper |
| 工作負載配置文件 | AI 訓練、推理與加速計算 | 記憶體密集型LLM推理與科學計算 |
| 參考變體 | 参考为 H100 SXM 80 GB。H100 NVL 使用不同的内存配置，必须确认具体变体。 | 141 GB 為 GPU 記憶體，不是系統 RAM。在選擇訓練拓撲前，請確認 GPU 數量及所需互連。 |
| 價格 | 價格需另行詢價配置與區域待確認 | 價格需另行詢價配置與區域待確認 |
哪個配置適合您的工作負載？
H200
H200 當 H100 記憶體預算有限時的候選方案。較大的 VRAM 不會自動帶來更高的每秒請求數。
探索 H200 →比較相同工作負載
使用相同的模型或場景、精度、批次大小和軟件版本。記錄吞吐量、延遲、峰值內存和總伺服器成本。此表格包含硬件規格，而非測量的應用性能。