Addestramento
Assegna memoria per pesi, stato dell'ottimizzatore e attivazioni. L'addestramento multi-GPU richiede anche un'interconnessione adeguata.
HOPPER · DATA CENTER
NVIDIA H100 per carichi di lavoro AI impegnativi
80 GB di memoria HBM3 per carichi di lavoro in cui il budget di memoria definisce l'architettura. Pianifica il training o il server di inferenza in base al modello, dataset e topologia GPU.
Visualizza configurazioniIL TUO SERVER
Costruisci intorno al tuo carico di lavoro
La memoria GPU è una parte del server. Specifica CPU, RAM di sistema, storage e regione per verificare la configurazione completa.
- Dimensione del modello e budget di memoria
- CPU, RAM e archiviazione dataset
- Requisiti di regione e distribuzione
CARICHI DI LAVORO
Quando la memoria è più importante
Inferenza LLM
Pianifica VRAM per il modello e la cache KV insieme. La lunghezza del contesto e le richieste concorrenti influenzano la domanda di memoria.
Calcolo scientifico
Abbina la precisione numerica e i requisiti software CUDA al tuo calcolo prima di scegliere l'host.
LOCALITÀ
Seleziona una regione per il tuo carico di lavoro
Mantieni il calcolo vicino ai tuoi dati e utenti. La capacità viene verificata per il modello e la posizione selezionati.
Europa
Disponibilità su richiesta
USA
Disponibilità su richiesta
Asia
Disponibilità su richiesta
Confronta
Considera un budget di memoria diverso.
Ampere80 GB
NVIDIA A100
Carichi CUDA stabiliti e addestramento di modelli
- Memoria
- HBM2e
- Stato
- Su richiesta
Prezzo su richiestaConfigurazione e regione da confermare
Esplora modello Hopper141 GB
NVIDIA H200
Inferenza LLM intensiva di memoria e calcolo scientifico
- Memoria
- HBM3e
- Stato
- Su richiesta
Prezzo su richiestaConfigurazione e regione da confermare
Esplora modello Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipazione, generazione di immagini e rendering
- Memoria
- GDDR6X
- Stato
- Su richiesta
Prezzo su richiestaConfigurazione e regione da confermare
Esplora modello Quale variante H100 è descritta?
La specifica di riferimento è H100 SXM 80 GB. Le varianti PCIe e NVL differiscono; la variante GPU precisa deve essere confermata nella configurazione del server.
80 GB garantiscono che il mio modello si adatti?
No. Pesi, precisione, attivazioni e cache condividono il budget di memoria. Verifica il framework e testa il carico di lavoro previsto.
Posso richiedere più GPU?
Sì, includi il conteggio GPU e i requisiti di interconnessione nella tua richiesta. Capacità e topologia necessitano di conferma prima del deployment.
LA TUA CONFIGURAZIONE
Richiedi un preventivo infrastrutturale
Scegli le risorse e il tempo di esercizio. Confermeremo un prezzo per la tua configurazione.
Ogni risorsa ha la propria configurazione elencata. Più server GPU non formano un cluster NVLink. Le tariffe mensili coprono l'intero periodo di fatturazione; lo storage e il traffico fuori dalla configurazione non sono inclusi.