Antrenament
Alocă memorie pentru greutăți, stare optimizer și activări. Antrenamentul multi-GPU necesită, de asemenea, o interconectare adecvată.
HOPPER · CENTRU DE DATE
NVIDIA H100 pentru sarcini AI exigente
80 GB de memorie HBM3 pentru sarcini de lucru în care bugetul de memorie modelează arhitectura. Planifică serverul de antrenament sau inferență în jurul modelului, setului de date și topologiei GPU.
Vizualizați configurațiileSERVERUL DVS
Construiți în jurul sarcinii dvs.
Memoria GPU face parte din server. Specificați CPU, RAM, stocare și regiune pentru a verifica configurația completă.
- Dimensiunea modelului și bugetul de memorie
- CPU, RAM și stocare dataset
- Cerinte de regiune și implementare
VOLUMURI DE LUCRU
Când contează cel mai mult memoria
Inferență LLM
Planificați VRAM pentru model și cache-ul KV împreună. Lungimea contextului și cererile concurente influențează cererea de memorie.
Calcul științific
Potrivește precizia numerică și cerințele software CUDA cu calculul tău înainte de a alege gazda.
LOCATIE
Alegeți o regiune pentru sarcina dvs.
Păstrați calculul aproape de datele și utilizatori. Capacitatea este verificată pentru modelul și locația selectată.
Europa
Disponibil la cerere
SUA
Disponibil la cerere
Asia
Disponibil la cerere
COMPARĂ
Ia în considerare un buget de memorie diferit.
Ampere80 GB
NVIDIA A100
Sarcini CUDA stabilite și antrenament de modele
- Memorie
- HBM2e
- Stare
- La cerere
Preț la cerereConfigurație și regiune de confirmat
Explorează modelul Hopper141 GB
NVIDIA H200
Inferență intensivă în memorie pentru LLM și calcul științific
- Memorie
- HBM3e
- Stare
- La cerere
Preț la cerereConfigurație și regiune de confirmat
Explorează modelul Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipare, generare de imagini și randare
- Memorie
- GDDR6X
- Stare
- La cerere
Preț la cerereConfigurație și regiune de confirmat
Explorează modelul Care variantă H100 este descrisă?
Specificația de referință este H100 SXM 80 GB. Variantele PCIe și NVL diferă; varianta GPU precisă trebuie confirmată în configurația serverului.
80 GB garantează că modelul meu va încăpea?
Nu. Greutățile, precizia, activările și cache-ul împart bugetul de memorie. Verificați cadrul dvs. și testați sarcina de lucru intenționată.
Pot solicita mai multe GPU-uri?
Da, includeți numărul de GPU și cerințele de interconectare în solicitare. Capacitatea și topologia trebuie confirmate înainte de implementare.
CONFIGURAȚIA TA
Solicitați o ofertă de infrastructură
Alegeți resursele și timpul de operare. Vom confirma un preț pentru configurația dvs.
Fiecare resursă are configurația sa listată. Mai multe servere GPU nu formează un cluster NVLink. Tarifele lunare acoperă întreaga perioadă de facturare; stocarea și traficul în afara configurației nu sunt incluse.