GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB adalah memori GPU, bukan RAM sistem. Konfirmasi jumlah GPU dan interkoneksi yang dibutuhkan sebelum memilih topologi pelatihan.

Hopper141GB VRAM
Teknologi memori
HBM3e
Beban kerja
Inferensi LLM intensif memori dan komputasi ilmiah

Lebih banyak ruang untuk bobot dan konteks

  1. 01

    Memori referensi HBM3e 141 GB

  2. 02

    Anggaran gabungan model dan cache KV

  3. 03

    Jumlah GPU dan topologi layanan yang tepat

H200 adalah kandidat saat anggaran memori H100 terbatas. VRAM yang lebih besar tidak otomatis menghasilkan lebih banyak permintaan per detik.

Konfigurasi regional

Eropa

Ketersediaan berdasarkan permintaan

Harga atas permintaanKonfigurasi dan wilayah yang harus dikonfirmasi

AS, Amerika Serikat

Ketersediaan berdasarkan permintaan

Harga atas permintaanKonfigurasi dan wilayah yang harus dikonfirmasi

Asia

Ketersediaan berdasarkan permintaan

Harga atas permintaanKonfigurasi dan wilayah yang harus dikonfirmasi

Memilih H200

Kapan memori tambahan relevan?

Ketika bobot model, cache konteks, dan buffer kerja tidak muat dalam konfigurasi yang lebih kecil. Ukur puncak memori lengkap sebelum memutuskan untuk beralih dari H100.

Referensi teknis

Spesifikasi 1 →

KONFIGURASI ANDA

Minta penawaran infrastruktur

Pilih sumber daya dan waktu operasi. Kami akan mengonfirmasi harga untuk konfigurasi Anda.

Setiap sumber daya memiliki konfigurasi yang tercantum sendiri. Banyak server GPU tidak membentuk klaster NVLink. Tarif bulanan mencakup seluruh periode penagihan; penyimpanan dan lalu lintas di luar konfigurasi tidak termasuk.