H100
リファレンスはH100 SXM 80 GBです。H100 NVLは異なるメモリ構成を使用しており、オファーは正確なバリアントを特定する必要があります。
H100を探索 →GLOBALATLAS AI · H100とA100の比較
H100とA100のメモリ、アーキテクチャ、展開の考慮点をメーカー仕様で比較します。
| パラメータ | H100 | A100 |
|---|---|---|
| GPUメモリ | 80 GB | 80 GB |
| メモリ技術 | HBM3 | HBM2e |
| アーキテクチャ | Hopper | Ampere |
| ワークロードプロファイル | AIトレーニング、推論、加速コンピューティング | 確立されたCUDAワークロードとモデル訓練 |
| リファレンスバリアント | リファレンスはH100 SXM 80 GBです。H100 NVLは異なるメモリ構成を使用しており、オファーは正確なバリアントを特定する必要があります。 | リファレンスはA100 80 GBです。A100は40 GBモデルも存在するため、モデル名だけでは容量の選択は不十分です。 |
| 価格 | 要望に応じて価格を問い合わせ構成とリージョンの確認が必要 | 要望に応じて価格を問い合わせ構成とリージョンの確認が必要 |
モデルやシーン、精度、バッチサイズ、ソフトウェアバージョンを同じにしてください。スループット、レイテンシー、ピークメモリ、サーバー総コストを記録します。この表はハードウェア仕様を示し、アプリケーションのパフォーマンス測定値ではありません。