Obuka
Dodijelite memoriju za težine, stanje optimizatora i aktivacije. Trening s više GPU-ova također zahtijeva odgovarajuću međusobnu povezanost.
HOPPER · CENTAR PODATAKA
NVIDIA H100 za zahtjevne AI radne zadatke
80 GB HBM3 memorije za radne zadatke gdje memorijski budžet oblikuje arhitekturu. Planirajte trening ili inferencijski poslužitelj prema modelu, skupu podataka i topologiji GPU-a.
Pogledajte konfiguracijeVAŠ POSLUŽITELJ
Gradite oko svog radnog opterećenja
Memorija GPU-a je dio poslužitelja. Odredite CPU, RAM, pohranu i regiju za provjeru potpune konfiguracije.
- Veličina modela i proračun memorije
- CPU, RAM i pohrana skupa podataka
- Zahtjevi za regiju i implementaciju
RADNA OPTEREĆENJA
Kada je memorija najvažnija
Inference LLM-a
Planirajte VRAM za model i KV predmemoriju zajedno. Duljina konteksta i istovremeni zahtjevi utječu na potražnju za memorijom.
Računalstvo u znanosti
Uskladite numeričku preciznost i zahtjeve CUDA softvera s vašim izračunom prije odabira hosta.
LOKACIJA
Odaberite regiju za vaše radno opterećenje
Održavajte računanje blizu vaših podataka i korisnika. Kapacitet se provjerava za odabrani model i lokaciju.
Europa
Dostupno na zahtjev
SAD
Dostupno na zahtjev
Azija
Dostupno na zahtjev
UPOROĐENJE
Razmotrite drugačiji memorijski proračun
Ampere80 GB
NVIDIA A100
Uspostavljeni CUDA radni opterećenja i treninzi modela
- Memorija
- HBM2e
- Status
- Na zahtjev
Cijena na zahtjevKonfiguracija i regija za potvrdu
Istraži model Hopper141 GB
NVIDIA H200
Memorijski zahtjevi za LLM inference i znanstveno računanje
- Memorija
- HBM3e
- Status
- Na zahtjev
Cijena na zahtjevKonfiguracija i regija za potvrdu
Istraži model Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipiranje, generiranje slika i renderiranje
- Memorija
- GDDR6X
- Status
- Na zahtjev
Cijena na zahtjevKonfiguracija i regija za potvrdu
Istraži model Koja je H100 varijanta opisana?
Specifikacija referentnog modela je H100 SXM 80 GB. PCIe i NVL varijante se razlikuju; točna GPU varijanta mora biti potvrđena u konfiguraciji poslužitelja.
Da li 80 GB garantira da će moj model stati?
Ne. Težine, preciznost, aktivacije i cache dijele proračun memorije. Provjerite svoj okvir i testirajte namijenjeno radno opterećenje.
Mogu li zatražiti više GPU-a?
Da, uključite broj GPU-a i zahtjeve za međusobnom povezanošću u vaš zahtjev. Kapacitet i topologija moraju biti potvrđeni prije implementacije.
VAŠA KONFIGURACIJA
Zatražite ponudu za infrastrukturu
Odaberite resurse i vrijeme rada. Potvrdit ćemo cijenu za vašu konfiguraciju.
Svaki resurs ima svoju navedenju konfiguraciju. Više GPU servera ne čini NVLink klaster. Mjesečne cijene pokrivaju cijeli obračunski period; pohrana i promet izvan konfiguracije nisu uključeni.