GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB 為GPU記憶體,不是系統RAM。在選擇訓練拓撲前,請確認GPU數量與所需互連。

Hopper141GB VRAM
記憶體技術
HBM3e
工作負載。
記憶體密集型的 LLM 推論與科學計算

更多空間用於權重與上下文

  1. 01

    141 GB HBM3e 參考記憶體

  2. 02

    結合模型與 KV 快取預算

  3. 03

    精確的 GPU 數量與服務拓撲

H200 當 H100 記憶體預算有限時的候選方案。較大的 VRAM 不會自動帶來更高的每秒請求數。

區域配置

歐洲

可用性按需提供

價格洽詢待確認的配置與區域

美國

可用性按需提供

價格洽詢待確認的配置與區域

亞洲

可用性按需提供

價格洽詢待確認的配置與區域

選擇 H200

何時額外記憶體才有用?

當模型權重、上下文快取和工作緩衝區無法容納較小配置時。在決定從 H100 轉移前,請測量完整的記憶體峰值。

技術參考

規格 1 →

您的組態

申請基礎架構報價

選擇資源與運行時間。我們會為您的配置確認價格。

每個資源有其列出的配置。多個 GPU 伺服器不形成 NVLink 叢集。月費涵蓋整個計費期;配置外的儲存與流量不包含在內。