H100
Referensi adalah H100 SXM 80 GB. H100 NVL menggunakan konfigurasi memori yang berbeda; penawaran harus mengidentifikasi varian yang tepat.
Jelajahi H100 →GLOBALATLAS AI · H100 vs H200
Bandingkan memori H100 dan H200, arsitektur, dan pertimbangan deployment menggunakan spesifikasi pabrikan.
| Parameter | H100 | H200 |
|---|---|---|
| Memori GPU | 80 GB | 141 GB |
| Teknologi memori | HBM3 | HBM3e |
| Arsitektur | Hopper | Hopper |
| Profil beban kerja | Pelatihan AI, inferensi, dan komputasi percepat | Inferensi LLM intensif memori dan komputasi ilmiah |
| Varian referensi | Referensi adalah H100 SXM 80 GB. H100 NVL menggunakan konfigurasi memori yang berbeda; penawaran harus mengidentifikasi varian yang tepat. | 141 GB adalah memori GPU, bukan RAM sistem. Konfirmasi jumlah GPU dan interkoneksi yang dibutuhkan sebelum memilih topologi pelatihan. |
| Harga | Harga atas permintaanKonfigurasi dan wilayah yang harus dikonfirmasi | Harga atas permintaanKonfigurasi dan wilayah yang harus dikonfirmasi |
Referensi adalah H100 SXM 80 GB. H100 NVL menggunakan konfigurasi memori yang berbeda; penawaran harus mengidentifikasi varian yang tepat.
Jelajahi H100 →H200 adalah kandidat saat anggaran memori H100 terbatas. VRAM yang lebih besar tidak otomatis menghasilkan lebih banyak permintaan per detik.
Jelajahi H200 →Gunakan model atau scene yang sama, presisi, ukuran batch, dan versi perangkat lunak. Catat throughput, latensi, memori puncak, dan total biaya server. Tabel ini berisi spesifikasi perangkat keras, bukan kinerja aplikasi yang diukur.