Mokymas
Skirkite atmintį svoriams, optimizatoriaus būsenai ir aktyvacijoms. Daugelio GPU mokymas taip pat reikalauja tinkamos jungties.
HOPPER · DUOMENŲ CENTRAS
NVIDIA H100 reikliems AI darbo krūviams
80 GB HBM3 atminties, skirtos darbo krūviams, kur atminties biudžetas formuoja architektūrą. Planuokite mokymo ar įvertinimo serverį pagal modelį, duomenų rinkinį ir GPU topologiją.
Peržiūrėti konfigūracijasJŪSŲ SERVERIS
Kurti aplink savo darbo krūvį
GPU atmintis yra viena serverio dalis. Nurodykite CPU, sistemos RAM, saugyklą ir regioną, kad patikrintumėte visą konfigūraciją.
- Modelio dydis ir atminties biudžetas
- CPU, RAM ir duomenų bazės saugykla
- Regiono ir diegimo reikalavimai
APKROVOS
Kai atmintis yra svarbiausia
LLM inferencija
Planuokite VRAM modeliui ir KV talpyklai kartu. Konteksto ilgis ir vienu metu vykdomos užklausos įtakoja atminties poreikį.
Moksliniai skaičiavimai
Suderinkite skaitmeninį tikslumą ir CUDA programinės įrangos reikalavimus su savo skaičiavimu prieš pasirenkant hostą.
VIETA
Pasirinkti regioną savo darbo krūviui
Laikykite skaičiavimus arti savo duomenų ir vartotojų. Talpa tikrinama pagal pasirinktą modelį ir vietą.
Europa
Prieinamumas pagal užklausą
JAVAI
Prieinamumas pagal užklausą
Azija
Prieinamumas pagal užklausą
Palyginti
Apsvarstykite kitą atminties biudžetą
Ampere80 GB
NVIDIA A100
Nustatyti CUDA darbo krūvius ir modelio mokymą
- Atmintis
- HBM2e
- Statusas
- Prašymu
Kaina pagal užklausąKonfigūracija ir regionas, patvirtintina
Tyrinėti modelį Hopper141 GB
NVIDIA H200
Atminties intensyvios LLM inferencijos ir mokslo skaičiavimai
- Atmintis
- HBM3e
- Statusas
- Prašymu
Kaina pagal užklausąKonfigūracija ir regionas, patvirtintina
Tyrinėti modelį Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipavimas, vaizdų generavimas ir renderiavimas
- Atmintis
- GDDR6X
- Statusas
- Prašymu
Kaina pagal užklausąKonfigūracija ir regionas, patvirtintina
Tyrinėti modelį Kuri H100 versija aprašyta?
Nuorodos specifikacija yra H100 SXM 80 GB. PCIe ir NVL variantai skiriasi; tiksli GPU versija turi būti patvirtinta serverio konfigūracijoje.
Ar 80 GB garantuoja, kad mano modelis tilps?
Ne. Svoriai, tikslumas, aktyvacijos ir talpykla dalijasi atminties biudžetą. Patikrinkite savo sistemą ir išbandykite numatytą darbo krūvį.
Ar galiu prašyti kelių GPU?
Taip, įtraukite GPU skaičių ir jungčių reikalavimus į užklausą. Talpa ir topologija turi būti patvirtinti prieš diegimą.
JŪSŲ KONFIGŪRACIJA
Pateikti infrastruktūros kainos pasiūlymo užklausą
Pasirinkite išteklius ir veikimo laiką. Patvirtinsime jūsų konfigūracijos kainą.
Kiekvienas išteklius turi savo išvardytą konfigūraciją. Kelios GPU serveriai nesudaro NVLink klasterio. Mėnesio įkainiai apima visą apmokėjimo laikotarpį; saugykla ir srautas už konfigūraciją nėra įtraukti.