Koolitus
Määra mälu kaalude, optimeerija oleku ja aktiveerimiste jaoks. Mitme GPU treening nõuab sobivat ühendust.
HOPPER · ANDMEKESKUS
NVIDIA H100 nõudlike AI töökoormuste jaoks
80 GB HBM3 mälu töökoormuste jaoks, kus mälu eelarve määrab arhitektuuri. Planeerige treening- või inferentsiserver vastavalt mudelile, andmekogumile ja GPU topoloogiale.
Vaata konfiguratsiooneTEIE SERVER
Ehita oma töökoormuse ümber
GPU mälu on osa serverist. Täpsusta CPU, süsteemi RAM, salvestus ja piirkond, et kontrollida kogu konfiguratsiooni.
- Mudeli suurus ja mälu eelarve
- CPU, RAM ja andmekogumisalustus
- Piirkonna ja juurutusnõuded
TÖÖKOORMUSED
Kui mälu on kõige olulisem
LLM inferents
Plaani VRAM mudeli ja KV-vahemälu jaoks koos. Kontekstipikkus ja samaaegsed päringud mõjutavad mälu nõudlust.
Teaduslik arvutus
Sobita arvutuse täpsus ja CUDA tarkvaranõuded oma arvutuse jaoks enne hosti valimist.
ASUKOHT
Vali oma töökoormuse piirkond
Säilita arvutus lähedal sinu andmetele ja kasutajatele. Võimsus kontrollitakse valitud mudeli ja asukoha jaoks.
Euroopa
Saadavus päringul
USA
Saadavus päringul
Aasia
Saadavus päringul
VÕRRELDAMA
Arvesta teise mälu eelarvega
Ampere80 GB
NVIDIA A100
Kindlustatud CUDA koormused ja mudeli treening
- Mälu
- HBM2e
- Olek
- Nõudmisel
Hind päringulKonfiguratsioon ja piirkond tuleb kinnitada
Uurige mudelit Hopper141 GB
NVIDIA H200
Mäluintensiivne LLM inferents ja teaduslik arvutus
- Mälu
- HBM3e
- Olek
- Nõudmisel
Hind päringulKonfiguratsioon ja piirkond tuleb kinnitada
Uurige mudelit Ada Lovelace24 GB
NVIDIA RTX 4090
Prototüüpimine, pildiloome ja renderdus
- Mälu
- GDDR6X
- Olek
- Nõudmisel
Hind päringulKonfiguratsioon ja piirkond tuleb kinnitada
Uurige mudelit Millist H100 varianti kirjeldatakse?
Viide on H100 SXM 80 GB. PCIe ja NVL variandid erinevad; täpne GPU variant tuleb kinnitada serveri konfiguratsioonis.
Kas 80 GB garanteerib, et minu mudel mahub?
Ei. Kaalud, täpsus, aktivatsioonid ja vahemälu jagavad mälu eelarvet. Kontrolli oma raamistikku ja testi soovitud töökoormust.
Kas ma saan taotleda mitut GPU-d?
Jah, lisa GPU arv ja ühendusnõuded oma taotlusele. Võimsus ja topoloogia vajavad enne juurutamist kinnitamist.
Teie konfiguratsioon
Taotlege taristuhinnapakkumist
Valige ressursid ja tööaeg. Kinnitame teie konfiguratsiooni hinna.
Iga ressurss on oma konfiguratsiooniga. Mitmed GPU-serverid ei moodusta NVLink klastrit. Kuumahinnad katavad kogu arveldusperioodi; salvestus ja liiklus väljaspool konfiguratsiooni ei kuulu.