H100
リファレンスはH100 SXM 80 GBです。H100 NVLは異なるメモリ構成を使用しており、オファーは正確なバリアントを特定する必要があります。
H100を探索 →GLOBALATLAS AI · H100とH200の比較
H100とH200の比較
H100とH200のメモリ、アーキテクチャ、展開の考慮点をメーカー仕様で比較します。
| パラメータ | H100 | H200 |
|---|---|---|
| GPUメモリ | 80 GB | 141 GB |
| メモリ技術 | HBM3 | HBM3e |
| アーキテクチャ | Hopper | Hopper |
| ワークロードプロファイル | AIトレーニング、推論、加速コンピューティング | メモリ集約型のLLM推論と科学計算 |
| リファレンスバリアント | リファレンスはH100 SXM 80 GBです。H100 NVLは異なるメモリ構成を使用しており、オファーは正確なバリアントを特定する必要があります。 | 141 GBはGPUメモリであり、システムRAMではありません。トレーニングトポロジーを選択する前にGPUの数と必要なインターコネクトを確認してください。 |
| 価格 | 要望に応じて価格を問い合わせ構成とリージョンの確認が必要 | 要望に応じて価格を問い合わせ構成とリージョンの確認が必要 |
あなたのワークロードに適した構成はどれですか？
H200
H200はH100のメモリ予算が制約される場合の候補です。大きなVRAMは自動的に秒間リクエスト数を増やしません。
H200を探索 →同じワークロードを比較
モデルやシーン、精度、バッチサイズ、ソフトウェアバージョンを同じにしてください。スループット、レイテンシー、ピークメモリ、サーバー総コストを記録します。この表はハードウェア仕様を示し、アプリケーションのパフォーマンス測定値ではありません。