GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB je GPU pomnilnik, ne sistemski RAM. Pred izbiro topologije usposabljanja preverite število GPU-jev in potrebne povezave.

Hopper141GB VRAM
Tehnologija pomnilnika
HBM3e
Obremenitve
Pomnilnično intenzivno inference LLM in znanstveno računalništvo

Več prostora za teže in kontekst

  1. 01

    141 GB HBM3e referenčni pomnilnik

  2. 02

    Skupni model in proračun KV-predpomnilnika

  3. 03

    Natančno število GPU in topologija strežbe

H200 je kandidat, kadar je proračun za H100 pomnilnik omejen. Večji VRAM ne zagotavlja samodejno več zahtevkov na sekundo.

Regionalne konfiguracije

Evropa

Na voljo na zahtevo

Cena na zahtevoKonfiguracija in regija, ki je treba potrditi

ZDA

Na voljo na zahtevo

Cena na zahtevoKonfiguracija in regija, ki je treba potrditi

Azija

Na voljo na zahtevo

Cena na zahtevoKonfiguracija in regija, ki je treba potrditi

Izbira H200

Kdaj je dodatni pomnilnik pomemben?

Ko uteži modela, predpomnilnik konteksta in delovni pomnilniki ne morejo ustrezati manjši konfiguraciji. Preden se odločite za prehod z H100, izmerite celoten vrh pomnilnika.

Tehnične reference

Specifikacija 1 →

VAŠA KONFIGURACIJA

Zahtevajte ponudbo za infrastrukturo

Izberite vire in čas delovanja. Za vašo konfiguracijo bomo potrdili ceno.

Vsak vir ima svojo navedeno konfiguracijo. Več strežnikov GPU ne tvori gruče NVLink. Mesečne cene pokrivajo celoten obračunski obdobje; shranjevanje in promet zunaj konfiguracije nista vključena.