Training
Wijs geheugen toe voor gewichten, optimizerstatus en activaties. Multi-GPU training vereist ook een geschikte interconnect.
HOPPER · DATACENTRUM
NVIDIA H100 voor veeleisende AI-workloads
80 GB HBM3-geheugen voor workloads waarbij het geheugenbudget de architectuur bepaalt. Plan uw training of inferentiesoftware rond het model, dataset en GPU-topologie.
Bekijk configuratiesUW SERVER
Bouw rondom uw workload
GPU-geheugen is een onderdeel van de server. Specificeer CPU, systeem-RAM, opslag en regio om de volledige configuratie te controleren.
- Modelgrootte en geheugenbudget
- CPU, RAM en datasetopslag
- Regio- en implementatievereisten
WERKLOADS
Wanneer geheugen het belangrijkst is
Inferentie van LLM
Plan VRAM voor het model en de KV-cache samen. Lengte van de context en gelijktijdige verzoeken beïnvloeden het geheugengebruik.
Wetenschappelijk rekenen
Koppel de numerieke precisie en CUDA-softwarevereisten aan je berekening voordat je de host kiest.
LOCATIE
Kies een regio voor uw workload
Houd de berekeningen dicht bij uw data en gebruikers. Capaciteit wordt gecontroleerd voor het geselecteerde model en de locatie.
Europa
Beschikbaarheid op aanvraag
VSA
Beschikbaarheid op aanvraag
Azië
Beschikbaarheid op aanvraag
VERGELIJKEN
Overweeg een ander geheugenbudget
Ampere80 GB
NVIDIA A100
Bestaande CUDA-workloads en modeltraining
- Geheugen
- HBM2e
- Status
- Op aanvraag
Prijs op aanvraagConfiguratie en regio nog te bevestigen
Verken model Hopper141 GB
NVIDIA H200
Geheugenintensieve LLM-inferentie en wetenschappelijke computing
- Geheugen
- HBM3e
- Status
- Op aanvraag
Prijs op aanvraagConfiguratie en regio nog te bevestigen
Verken model Ada Lovelace24 GB
NVIDIA RTX 4090
Prototyping, afbeeldingsgeneratie en rendering
- Geheugen
- GDDR6X
- Status
- Op aanvraag
Prijs op aanvraagConfiguratie en regio nog te bevestigen
Verken model Welke H100-variant wordt beschreven?
De referentiespecificatie is H100 SXM 80 GB. PCIe- en NVL-varianten verschillen; de precieze GPU-variant moet worden bevestigd in de serverconfiguratie.
Garandeert 80 GB dat mijn model past?
Nee. Gewichten, precisie, activaties en cache delen het geheugenbudget. Controleer je framework en test de beoogde workload.
Kan ik meerdere GPU's aanvragen?
Ja, neem GPU-aantal en interconnectievereisten op in uw aanvraag. Capaciteit en topologie moeten worden bevestigd voor implementatie.
UW CONFIGURATIE
Vraag een infrastructuurofferte aan
Kies resources en looptijd. We bevestigen een prijs voor uw configuratie.
Elke resource heeft zijn eigen vermelde configuratie. Meerdere GPU-servers vormen geen NVLink-cluster. Maandtarieven dekken de volledige factureringsperiode; opslag en verkeer buiten de configuratie zijn niet inbegrepen.