Usposabljanje
Dodeli pomnilnik za uteži, stanje optimizatorja in aktivacije. Učenje z več GPU-ji prav tako zahteva ustrezno povezavo.
HOPPER · DATA CENTER
NVIDIA H100 za zahtevne AI naloge
80 GB HBM3 pomnilnika za delovne obremenitve, kjer velikost pomnilnika oblikuje arhitekturo. Načrtujte vaš trening ali strežnik za inferenco glede na model, podatke in topologijo GPU-jev.
Ogled konfiguracijVAŠ STREŽNIK
Zgradite okoli vaše obremenitve
Pomnilnik GPU je del strežnika. Določite CPU, sistemski RAM, shranjevanje in regijo za preverjanje celotne konfiguracije.
- Velikost modela in proračun pomnilnika
- CPU, RAM in shranjevanje podatkov
- Zahteve za regijo in uvajanje
OBREMENITVE
Kdaj je pomnilnik najpomembnejši
Inference LLM
Načrtujte VRAM za model in KV predpomnilnik skupaj. Dolžina konteksta in sočasne zahteve vplivajo na porabo pomnilnika.
Znanstveno računalništvo
Ujemite numerično natančnost in zahteve CUDA programske opreme pred izbiro gostitelja.
LOKACIJA
Izberi regijo za svojo obremenitev
Ohranjajte računalništvo blizu vaših podatkov in uporabnikov. Kapaciteta je preverjena za izbrani model in lokacijo.
Evropa
Na voljo na zahtevo
ZDA
Na voljo na zahtevo
Azija
Na voljo na zahtevo
PRIMERJAVA
Upoštevajte drugačen proračun pomnilnika.
Ampere80 GB
NVIDIA A100
Vzpostavljene obremenitve CUDA in usposabljanje modelov
- Pomnilnik
- HBM2e
- Stanje
- Na zahtevo
Cena na zahtevoKonfiguracija in regija, ki je treba potrditi
Raziskuj model Hopper141 GB
NVIDIA H200
Pomnilnično intenzivno inference LLM in znanstveno računalništvo
- Pomnilnik
- HBM3e
- Stanje
- Na zahtevo
Cena na zahtevoKonfiguracija in regija, ki je treba potrditi
Raziskuj model Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipiranje, generiranje slik in upodabljanje
- Pomnilnik
- GDDR6X
- Stanje
- Na zahtevo
Cena na zahtevoKonfiguracija in regija, ki je treba potrditi
Raziskuj model Katero različico H100 opisujemo?
Specifikacija reference je H100 SXM 80 GB. Različice PCIe in NVL se razlikujejo; natančen GPU mora biti potrjen v konfiguraciji strežnika.
Ali 80 GB zagotavlja, da se moj model prilega?
Ne. Teže, natančnost, aktivacije in predpomnilnik delijo proračun pomnilnika. Preverite vaš okvir in preizkusite želeno delovno obremenitev.
Ali lahko zahtevam več GPU-jev?
Da, vključite število GPU in zahteve za medsebojno povezavo v vašo zahtevo. Zmogljivost in topologijo je treba potrditi pred razmestitvijo.
VAŠA KONFIGURACIJA
Zahtevajte ponudbo za infrastrukturo
Izberite vire in čas delovanja. Za vašo konfiguracijo bomo potrdili ceno.
Vsak vir ima svojo navedeno konfiguracijo. Več strežnikov GPU ne tvori gruče NVLink. Mesečne cene pokrivajo celoten obračunski obdobje; shranjevanje in promet zunaj konfiguracije nista vključena.