H100
Rujukan adalah H100 SXM 80 GB. H100 NVL menggunakan konfigurasi memori yang berbeza; tawaran mesti mengenal pasti varian yang tepat.
Terokai H100 →GLOBALATLAS AI · H100 berbanding H200
H100 berbanding H200
Bandingkan memori H100 dan H200, seni bina dan pertimbangan penempatan menggunakan spesifikasi pengeluar.
| Parameter | H100 | H200 |
|---|---|---|
| Memori GPU | 80 GB | 141 GB |
| Teknologi memori | HBM3 | HBM3e |
| Senibina | Hopper | Hopper |
| Profil beban kerja | Latihan AI, inferens dan pengiraan dipercepatkan | Inferens LLM berintensif memori dan pengiraan saintifik |
| Varian rujukan | Rujukan adalah H100 SXM 80 GB. H100 NVL menggunakan konfigurasi memori yang berbeza; tawaran mesti mengenal pasti varian yang tepat. | 141 GB adalah memori GPU, bukan RAM sistem. Sahkan bilangan GPU dan sambungan yang diperlukan sebelum memilih topologi latihan. |
| Harga | Harga atas permintaanKonfigurasi dan wilayah yang perlu disahkan | Harga atas permintaanKonfigurasi dan wilayah yang perlu disahkan |
Konfigurasi mana yang sesuai dengan beban kerja anda?
H200
H200 adalah calon apabila bajet memori H100 terhad. VRAM yang lebih besar tidak secara automatik menetapkan lebih banyak permintaan setiap saat.
Terokai H200 →Bandingkan beban kerja yang sama
Gunakan model atau adegan yang sama, ketepatan, saiz kumpulan dan versi perisian. Catat throughput, kelewatan, memori puncak dan jumlah kos pelayan. Jadual ini mengandungi spesifikasi perkakasan, bukan prestasi aplikasi yang diukur.