H100
Referenca je H100 SXM 80 GB. H100 NVL uporablja drugačno konfiguracijo pomnilnika; ponudba mora identificirati natančno različico.
Raziskuj H100 →GLOBALATLAS AI · H100 proti H200
H100 proti H200
Primerjajte pomnilnik, arhitekturo in razpoložljivost H100 in H200 z uporabo specifikacij proizvajalca.
| Parameter | H100 | H200 |
|---|---|---|
| Pomnilnik GPU | 80 GB | 141 GB |
| Tehnologija pomnilnika | HBM3 | HBM3e |
| Arhitektura | Hopper | Hopper |
| Profil obremenitve | Usposabljanje AI, inference in pospešeno računalništvo | Pomnilnično intenzivno inference LLM in znanstveno računalništvo |
| Referenčna različica | Referenca je H100 SXM 80 GB. H100 NVL uporablja drugačno konfiguracijo pomnilnika; ponudba mora identificirati natančno različico. | 141 GB je GPU pomnilnik, ne sistemski RAM. Pred izbiro topologije usposabljanja preverite število GPU-jev in potrebne povezave. |
| Cena | Cena na zahtevoKonfiguracija in regija, ki je treba potrditi | Cena na zahtevoKonfiguracija in regija, ki je treba potrditi |
Katero konfiguracijo ustreza vaši obremenitvi?
H200
H200 je kandidat, kadar je proračun za H100 pomnilnik omejen. Večji VRAM ne zagotavlja samodejno več zahtevkov na sekundo.
Raziskuj H200 →Primerjajte isto obremenitev
Uporabite isti model ali sceno, natančnost, velikost serije in različico programske opreme. Zabeležite pretok, latenco, vrh pomnilnika in skupne stroške strežnika. Ta tabela vsebuje strojne specifikacije, ne zmogljivosti aplikacije.