Apmācība
Rezervējiet atmiņu svariem, optimizatora stāvoklim un aktivizācijām. Multi-GPU apmācībai nepieciešams piemērots savienojums.
HOPPER · Datu centrs
NVIDIA H100 piemērots prasīgām AI darba slodzēm
80 GB HBM3 atmiņas, lai veiktu darba slodzes, kurās atmiņas budžets veido arhitektūru. Plānojiet apmācību vai inferenču serveri ap modeļa, datu kopas un GPU topoloģijas pamata.
Skatīt konfigurācijasJŪSU SERVERIS
Veidot ap jūsu darba slodzi
GPU atmiņa ir viena servera daļa. Norādiet CPU, sistēmas RAM, glabāšanu un reģionu, lai pārbaudītu pilnu konfigurāciju.
- Modeļa izmērs un atmiņas budžets
- CPU, RAM un datu kopu glabāšana
- Reģiona un izvietošanas prasības
SLODZES
Kad atmiņa ir vissvarīgākā
LLM inferenču
Plānojiet VRAM modeļa un KV keša kopā. Konteksta garums un vienlaicīgi pieprasījumi ietekmē atmiņas prasības.
Zinātniskās skaitļošanas
Saskaņot skaitlisko precizitāti un CUDA programmatūras prasības ar jūsu aprēķinu pirms izvēlaties hostu.
VĒSTURE
Izvēlieties reģionu jūsu darba slodzei
Uzturiet skaitļošanu tuvu saviem datiem un lietotājiem. Kapacitāte tiek pārbaudīta izvēlētajam modelim un reģionam.
Eiropa
Pieejams pēc pieprasījuma
ASVAS
Pieejams pēc pieprasījuma
Āzija
Pieejams pēc pieprasījuma
SALĪDZINĀT
Apsveriet citu atmiņas budžetu
Ampere80 GB
NVIDIA A100
Izveidoti CUDA darba slodzi un modeļa apmācības
- Atmiņa
- HBM2e
- Statuss
- Pieprasījumā
Cena pēc pieprasījumaKonfigurācija un reģions jāapstiprina
Izpētīt modeli Hopper141 GB
NVIDIA H200
Atmiņā intensīva LLM inferenču un zinātniskās skaitļošanas
- Atmiņa
- HBM3e
- Statuss
- Pieprasījumā
Cena pēc pieprasījumaKonfigurācija un reģions jāapstiprina
Izpētīt modeli Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipēšana, attēlu ģenerēšana un renderēšana
- Atmiņa
- GDDR6X
- Statuss
- Pieprasījumā
Cena pēc pieprasījumaKonfigurācija un reģions jāapstiprina
Izpētīt modeli Kuru H100 variantu apraksta?
Atsauces specifikācija ir H100 SXM 80 GB. PCIe un NVL varianti atšķiras; precīza GPU varianta apstiprināšanai jāskatās servera konfigurācija.
Vai 80 GB garantē, ka mans modelis ietilps?
Nav. Svars, precizitāte, aktivizācijas un kešatmiņa dalās atmiņas budžetā. Pārbaudiet savu ietvaru un pārbaudiet paredzēto darba slodzi.
Vai es varu pieprasīt vairākus GPU?
Jā, iekļauj GPU skaitu un savienojuma prasības jūsu pieprasījumā. Jauda un topoloģija ir jāapstiprina pirms izvietošanas.
JŪSU KONFIGURĀCIJA
Pieprasīt infrastruktūras cenu piedāvājumu
Izvēlieties resursus un darbības laiku. Mēs apstiprināsim jūsu konfigurācijas cenu.
Katrs resurss ir ar savu norādīto konfigurāciju. Vairāki GPU serveri neveido NVLink klasteri. Mēneša likmes sedz visu rēķinu periodu; glabāšana un trafiks ārpus konfigurācijas nav iekļauts.