Taħriġ
Aħżen il-memorja għall-piżijiet, l-istat tal-optimizer u l-activations. It-taħriġ multi-GPU jeħtieġ ukoll konnessjoni adattata.
HOPPER · DATA CENTER
NVIDIA H100 għal xogħolijiet ta' AI li jeħtieġu qawwa
80 GB ta’ memorja HBM3 għall-proċessi fejn il-baġit tal-memorja jifforma l-arkitettura. Ippjana s-server ta’ taħriġ jew inferenza tiegħek madwar il-mudell, dataset u topoloġija tal-GPU.
Iċċekkja konfigurazzjonijietIL-Server TIEGĦEK TIEGĦEK
Bena madwar il-ħidma tiegħek
Memorja GPU hija parti mill-server. Speċifika CPU, RAM tas-sistema, ħażna u reġjun biex tivverifika l-konfigurazzjoni sħiħa.
- Daqs tal-mudell u baġit tal-memorja
- CPU, RAM u ħażna tad-dataset
- Rekwiżiti ta’ reġjun u deploiment
PEJĠI TIEGĦEK
Meta l-memorja tkun l-aktar importanti
Inferenza LLM
Ippjana VRAM għall-mudell u l-kaxxa KV flimkien. It-tul tal-kuntest u t-talbiet konġunti jaffettwaw id-domanda tal-memorja.
Kalkulazzjoni xjentifika
Match il-preċiżjoni numerika u r-rekwiżiti tas-softwer CUDA mal-kalkolu tiegħek qabel ma tagħżel il-host.
LOCALIZZAZZJONI
Agħżel reġjun għall-ħidma tiegħek
Żomm il-komputazzjoni viċin id-data u l-utenti tiegħek. Il-kapaċità tiġi eżaminata għall-mudell u l-post magħżul.
Ewropa
Disponibilità fuq talba
USA
Disponibilità fuq talba
Asja
Disponibilità fuq talba
KONTRASTA
Ikkunsidra baġit ta' memorja differenti
Ampere80 GB
NVIDIA A100
Xogħolijiet ta' taħriġ u ta' mudell CUDA stabbiliti
- Memorja
- HBM2e
- L-istatus
- Waqt tal-ordni
Prezz fuq talbaKonfigurazzjoni u reġjun li għandha tiġi kkonfermata
Esplora mudell Hopper141 GB
NVIDIA H200
Inferenza ta' LLM b'ħafna memorja u kalkulazzjoni xjentifika
- Memorja
- HBM3e
- L-istatus
- Waqt tal-ordni
Prezz fuq talbaKonfigurazzjoni u reġjun li għandha tiġi kkonfermata
Esplora mudell Ada Lovelace24 GB
NVIDIA RTX 4090
Prototip, ġenerazzjoni ta’ immaġni u rendering
- Memorja
- GDDR6X
- L-istatus
- Waqt tal-ordni
Prezz fuq talbaKonfigurazzjoni u reġjun li għandha tiġi kkonfermata
Esplora mudell Liema varjant H100 huwa deskritt?
Il-specifikazzjoni ta' referenza hija H100 SXM 80 GB. Varjanti PCIe u NVL jvarjaw; ir-referenza preċiża tal-GPU għandha tiġi kkonfermata fil-konfigurazzjoni tas-server.
Tgħid li 80 GB tiżgura li l-mudell tiegħi jaqbel?
Le. Piżijiet, preċiżjoni, attivazzjonijiet u cache jaqsmu l-baġit tal-memorja. Iċċekkja l-iffirmar tiegħek u ittestja x-xogħol intenzjonat.
Nista' nistaqsihom diversi GPU?
Iva, inkludi n-numru ta' GPU u r-rekwiżiti ta' interkonnessjoni fil-talba tiegħek. Il-kapaċità u t-topoloġija jeħtieġu ikkonfermazzjoni qabel ma jitħaddem.
KONFIGURAZZJONI TIEGĦEK
Itlob kwotazzjoni tal-infrastruttura
Agħżel ir-riżorsi u l-ħin operattiv. Aħna nikkonfermaw prezz għall-konfigurazzjoni tiegħek.
Kull riżorsa għandha l-konfigurazzjoni tagħha stess elenkwata. Servers multipli ta' GPU ma jiffurmawx klaster NVLink. Ir-rati ta' kull xahar jkopru l-perjodu sħiħ tal-ħlas; ħażna u traffiku barra mill-konfigurazzjoni ma jinkludux.