GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GBはGPUメモリであり、システムRAMではありません。トレーニングトポロジーを選択する前にGPUの数と必要なインターコネクトを確認してください。

Hopper141GB VRAM
メモリ技術
HBM3e
ワークロード
メモリ集約型のLLM推論と科学計算

重みとコンテキストのための余裕を増やす

  1. 01

    141 GB HBM3e リファレンスメモリ

  2. 02

    統合モデルとKVキャッシュ予算

  3. 03

    正確なGPU数とサービストポロジー

H200はH100のメモリ予算が制約される場合の候補です。大きなVRAMは自動的に秒間リクエスト数を増やしません。

リージョナル構成

ヨーロッパ

リクエスト時の可用性

要望に応じて価格を問い合わせ構成とリージョンの確認が必要

米国

リクエスト時の可用性

要望に応じて価格を問い合わせ構成とリージョンの確認が必要

アジア

リクエスト時の可用性

要望に応じて価格を問い合わせ構成とリージョンの確認が必要

H200を選択

メモリの追加が重要となるのはいつですか?

モデルの重み、コンテキストキャッシュ、作業バッファが小さい構成に収まらない場合。H100から移行する前に完全なメモリピークを測定してください。

技術リファレンス

仕様 1 →

ご利用構成

インフラ見積もりを依頼

リソースと稼働時間を選択してください。構成の価格を確定します。

各リソースには独自の構成がリストされています。複数のGPUサーバーはNVLinkクラスターを形成しません。月額料金は請求期間全体をカバーし、構成外のストレージやトラフィックは含まれません。