GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB este memorie GPU, nu RAM de sistem. Confirmă numărul de GPU-uri și interconectarea necesară înainte de a alege o topologie de antrenament.

Hopper141GB VRAM
Tehnologie de memorie
HBM3e
Volum de lucru
Inferență intensivă în memorie pentru LLM și calcul științific

Mai mult spațiu pentru greutăți și context

  1. 01

    141 GB HBM3e memorie de referință

  2. 02

    Buget combinat pentru model și cache KV

  3. 03

    Numărul exact de GPU și topologia de servire

H200 este o opțiune atunci când bugetul de memorie H100 este restrictiv. Memoria VRAM mai mare nu stabilește automat mai multe solicitări pe secundă.

Configurații regionale

Europa

Disponibil la cerere

Preț la cerereConfigurație și regiune de confirmat

SUA

Disponibil la cerere

Preț la cerereConfigurație și regiune de confirmat

Asia

Disponibil la cerere

Preț la cerereConfigurație și regiune de confirmat

Selectarea H200

Când este relevantă memoria suplimentară?

Când greutățile modelului, cache-ul de context și buffer-ele de lucru nu pot încăpea în configurația mai mică. Măsurați vârful complet de memorie înainte de a decide să treceți de la H100.

Referințe tehnice

Specificație 1 →

CONFIGURAȚIA TA

Solicitați o ofertă de infrastructură

Alegeți resursele și timpul de operare. Vom confirma un preț pentru configurația dvs.

Fiecare resursă are configurația sa listată. Mai multe servere GPU nu formează un cluster NVLink. Tarifele lunare acoperă întreaga perioadă de facturare; stocarea și traficul în afara configurației nu sunt incluse.