Trajnimi
Alokoni kujtesë për peshat, gjendjen e optimizuesit dhe aktivizimet. Trajnimi me shumë GPU gjithashtu kërkon një ndërconnect të përshtatshëm.
HOPPER · QENDRA TË DHËNASH
NVIDIA H100 për ngarkesa të kërkuara të AI
80 GB kujtesë HBM3 për punë me buxhet kujtesë që formëson arkitekturën. Planifikoni trajnimet ose serverët e inferencës rreth modelit, të dhënave dhe topologjisë së GPU-së.
Shikoni konfigurimetSERVERI JUAJ
Ndërtoni rreth punës suaj
Memoria GPU është një pjesë e serverit. Specifikoni CPU, RAM-in e sistemit, ruajtjen dhe rajonin për të kontrolluar konfigurimin e plotë.
- Madhësia e modelit dhe buxheti i memories
- CPU, RAM dhe ruajtja e të dhënave
- Kërkesat për rajonin dhe vendosjen
PËRDORIMET
Kur kujtesa është më e rëndësishme
Inferenca LLM
Planifikoni VRAM për modelin dhe cache-in KV së bashku. Gjatësia e kontekstit dhe kërkesat e njëkohshme ndikojnë në kërkesën për memories.
Kalkulim shkencor
Përshtatni saktësinë numerike dhe kërkesat e softuerit CUDA me llogaritjen tuaj para zgjedhjes së hostit.
VENDNDODHJA
Zgjidh një rajon për punën tuaj
Mbani llogarinë e përpunimit afër të dhënave dhe përdoruesve tuaj. Kapaciteti kontrollohet për modelin dhe vendndodhjen e zgjedhur.
Evropë
Disponueshmëria sipas kërkesës
SHBA
Disponueshmëria sipas kërkesës
Asia
Disponueshmëria sipas kërkesës
KRAHASO
Merrni parasysh një buxhet të ndryshëm memories
Ampere80 GB
NVIDIA A100
Eksperienca e punës me CUDA dhe trajnimi i modeleve të vendosura
- Memoria
- HBM2e
- Status
- Në kërkesë
Çmimi sipas kërkesësKonfigurim dhe rajon i konfirmuar
Eksploro modelin Hopper141 GB
NVIDIA H200
Inferenca intensive në memorje dhe llogaritje shkencore
- Memoria
- HBM3e
- Status
- Në kërkesë
Çmimi sipas kërkesësKonfigurim dhe rajon i konfirmuar
Eksploro modelin Ada Lovelace24 GB
NVIDIA RTX 4090
Prototipimi, gjenerimi i imazhit dhe përpunimi
- Memoria
- GDDR6X
- Status
- Në kërkesë
Çmimi sipas kërkesësKonfigurim dhe rajon i konfirmuar
Eksploro modelin Cila variant i H100 përshkruhet?
Specifikimi i referencës është H100 SXM 80 GB. Varianti PCIe dhe NVL ndryshojnë; varianti i saktë i GPU-së duhet të konfirmohet në konfigurimin e serverit.
A garanton 80 GB që modeli im të përshtatet?
Jo. Peshat, precizioni, aktivizimet dhe cache ndajnë buxhetin e memories. Kontrolloni kornizën tuaj dhe testoni punën e synuar.
A mund të kërkoj disa GPU?
Po, përfshini numrin e GPU-ve dhe kërkesat për ndërveprim në kërkesën tuaj. Kapaciteti dhe topologjia duhet të konfirmohen para vendosjes.
KONFIGURIMI YT
Kërkoni një ofertë infrastrukture
Zgjidhni burimet dhe kohën e funksionimit. Ne do të konfirmojmë një çmim për konfigurimin tuaj.
Çdo burim ka konfigurimin e vet të listuar. Serverët GPU të shumtë nuk formojnë një cluster NVLink. Tarifat mujore mbulojnë periudhën e plotë të faturimit; ruajtja dhe trafiku jashtë konfigurimit nuk përfshihen.