Obuka
Dodijelite memoriju za težine, stanje optimizatora i aktivacije. Trening s više GPU-ova također zahtijeva odgovarajuću međusobnu povezanost.
HOPPER · DATA CENTAR
NVIDIA H100 za zahtjevne AI radne zadatke
80 GB HBM3 memorije za radne zadatke gdje memorijski budžet oblikuje arhitekturu. Planirajte obuku ili server za inferencu prema modelu, skupu podataka i topologiji GPU-a.
Pregled konfiguracijaVAŠ SERVER
Izgradite oko vašeg radnog opterećenja
Memorija GPU-a je dio servera. Odredite CPU, RAM, pohranu i regiju za kompletnu konfiguraciju.
- Veličina modela i budžet memorije
- CPU, RAM i skladištenje podataka
- Zahtjevi za regiju i implementaciju
RADNO OPTEREĆENJE
Kada memorija najviše znači
Inference LLM-a
Planirajte VRAM za model i KV keš zajedno. Dužina konteksta i istovremeni zahtjevi utiču na potrošnju memorije.
Naučno računanje
Uskladite numeričku preciznost i zahtjeve CUDA softvera s vašim izračunom prije odabira hosta.
LOKACIJA
Odaberite regiju za vaše radno opterećenje
Održavajte računanje blizu vaših podataka i korisnika. Kapacitet se provjerava za odabrani model i lokaciju.
Europa
Dostupno na zahtjev
SAD
Dostupno na zahtjev
Azija
Dostupno na zahtjev
UPOREDI
Razmotrite drugačiji memorijski budžet.
Ampere80 GB
NVIDIA A100
Uspostavljeni CUDA radni procesi i obuka modela
- Memorija
- HBM2e
- Status
- Na zahtjev
Cijena na zahtjevKonfiguracija i regija za potvrdu
Istraži model Hopper141 GB
NVIDIA H200
Memorijski intenzivni inference i nauka o računarstvu
- Memorija
- HBM3e
- Status
- Na zahtjev
Cijena na zahtjevKonfiguracija i regija za potvrdu
Istraži model Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipiranje, generiranje slika i renderovanje
- Memorija
- GDDR6X
- Status
- Na zahtjev
Cijena na zahtjevKonfiguracija i regija za potvrdu
Istraži model Koja H100 varijanta je opisana?
Specifikacija referenta je H100 SXM 80 GB. PCIe i NVL varijante se razlikuju; točna GPU varijanta mora biti potvrđena u konfiguraciji servera.
Da li 80 GB garantira da će moj model stati?
Ne. Težine, preciznost, aktivacije i keš dijele memorijski budžet. Provjerite svoj okvir i testirajte radno opterećenje.
Mogu li zatražiti više GPU-a?
Da, uključite broj GPU-a i zahtjeve za međusobnu povezanost u vaš zahtjev. Kapacitet i topologija zahtijevaju potvrdu prije implementacije.
VAŠA KONFIGURACIJA
Zatražite infrastrukturnu ponudu
Odaberite resurse i vrijeme rada. Potvrdit ćemo cijenu vaše konfiguracije.
Svaki resurs ima svoju navedenju konfiguraciju. Više GPU servera ne čini NVLink klaster. Mjesečne cijene pokrivaju cijeli obračunski period; pohrana i promet izvan konfiguracije nisu uključeni.