Træning
Alloker hukommelse til vægte, optimizer-tilstand og aktiveringer. Multi-GPU træning kræver også en passende interconnect.
HOPPER · DATACENTER
NVIDIA H100 til krævende AI-arbejdsbyrder
80 GB HBM3-hukommelse til arbejdsbelastninger, hvor hukommelsesbudgettet former arkitekturen. Planlæg din træning eller inferensserver ud fra modellen, datasættet og GPU-topologien.
Se konfigurationerDIN SERVER
Byg omkring din arbejdsbelastning
GPU-hukommelse er en del af serveren. Angiv CPU, system-RAM, lager og region for at tjekke den komplette konfiguration.
- Modelstørrelse og hukommelsesbudget
- CPU, RAM og datasætlagring
- Region- og implementeringskrav
ARBEJDSBELASTNINGER
Når hukommelse er vigtigst
Inference af LLM
Planlæg VRAM til modellen og KV-cache sammen. Kontekstlængde og samtidige anmodninger påvirker hukommelsesbehovet.
Videnskabelig computing
Match den numeriske præcision og CUDA-softwarekrav til din beregning, før du vælger værten.
PLACERING
Vælg en region til din arbejdsbelastning
Hold beregning tæt på dine data og brugere. Kapacitet kontrolleres for den valgte model og placering.
Europa
Tilgængelighed på anmodning
USA
Tilgængelighed på anmodning
Asien
Tilgængelighed på anmodning
Sammenlign
Overvej et andet hukommelsesbudget
Ampere80 GB
NVIDIA A100
Etablerede CUDA-arbejdsbelastninger og modeltræning
- Hukommelse
- HBM2e
- Status
- På forespørgsel
Pris på forespørgselKonfiguration og region skal bekræftes
Udforsk model Hopper141 GB
NVIDIA H200
Hukommelsestung inference af LLM og videnskabelig computing
- Hukommelse
- HBM3e
- Status
- På forespørgsel
Pris på forespørgselKonfiguration og region skal bekræftes
Udforsk model Ada Lovelace24 GB
NVIDIA RTX 4090
Prototyping, billedgenerering og rendering
- Hukommelse
- GDDR6X
- Status
- På forespørgsel
Pris på forespørgselKonfiguration og region skal bekræftes
Udforsk model Hvilken H100-variant er beskrevet?
Specifikationen er H100 SXM 80 GB. PCIe- og NVL-varianten er forskellige; den præcise GPU-variant skal bekræftes i serverkonfigurationen.
Garanterer 80 GB, at min model vil passe?
Nej. Vægte, præcision, aktiveringer og cache deler hukommelsesbudgettet. Tjek dit framework og test den tilsigtede arbejdsbyrde.
Kan jeg anmode om flere GPU'er?
Ja, inkluder GPU-antal og interconnect-krav i din anmodning. Kapacitet og topologi skal bekræftes før implementering.
DIN KONFIGURATION
Anmod om et infrastrukturt tilbud
Vælg ressourcer og driftstid. Vi bekræfter en pris for din konfiguration.
Hvert resource har sin egen angivne konfiguration. Flere GPU-servere danner ikke en NVLink-klynge. Månedlige priser dækker hele faktureringsperioden; lagring og trafik uden for konfigurationen er ikke inkluderet.