Pagsasanay
Maglaan ng memorya para sa weights, optimizer state at activations. Ang multi-GPU training ay nangangailangan din ng angkop na interconnect.
HOPPER · DATA CENTER
NVIDIA H100 para sa mga mahihirap na workload sa AI
80 GB ng HBM3 memory para sa mga workload kung saan ang memory budget ang humuhubog sa arkitektura. Planuhin ang iyong training o inference server ayon sa modelo, dataset at GPU topology.
Tingnan ang mga configurationANG IYONG SERVER
Magbuo sa paligid ng iyong workload
Ang memory ng GPU ay bahagi ng server. Tukuyin ang CPU, RAM, storage at rehiyon upang makita ang kumpletong configuration.
- Laki ng modelo at badyet sa memorya
- CPU, RAM at storage ng dataset
- Mga pangangailangan sa rehiyon at deployment
WORKLOADS
Kapag pinakamahalaga ang memorya
Inference ng LLM
Planuhin ang VRAM para sa modelo at KV cache nang sabay. Ang haba ng konteksto at sabay-sabay na mga kahilingan ay nakakaapekto sa pangangailangan sa memorya.
Scientific computing
Itugma ang numerical precision at mga pangangailangan sa CUDA software sa iyong kalkulasyon bago piliin ang host.
LOKASYON
Piliin ang isang rehiyon para sa iyong workload
Panatilihin ang compute malapit sa iyong data at mga user. Sinusuri ang kapasidad para sa napiling modelo at lokasyon.
Europa
Availability sa request
USA
Availability sa request
Asia
Availability sa request
IKUMPARA
Isaalang-alang ang ibang memory budget
Ampere80 GB
NVIDIA A100
Naitatag na mga CUDA workload at model training
- Memory
- HBM2e
- Status
- Sa kahilingan
Humiling ng presyo sa kahilinganConfiguration at rehiyon na kailangang kumpirmahin
Mag-explore ng modelo Hopper141 GB
NVIDIA H200
Memory-intensive na inference ng LLM at scientific computing
- Memory
- HBM3e
- Status
- Sa kahilingan
Humiling ng presyo sa kahilinganConfiguration at rehiyon na kailangang kumpirmahin
Mag-explore ng modelo Ada Lovelace24 GB
NVIDIA RTX 4090
Prototyping, pagbuo ng imahe, at rendering
- Memory
- GDDR6X
- Status
- Sa kahilingan
Humiling ng presyo sa kahilinganConfiguration at rehiyon na kailangang kumpirmahin
Mag-explore ng modelo Aling H100 variant ang inilalarawan?
Ang reference specification ay H100 SXM 80 GB. Ang PCIe at NVL na mga variant ay naiiba; kailangang kumpirmahin ang eksaktong GPU variant sa server configuration.
Ginagarantiyahan ba ng 80 GB na magkasya ang aking modelo?
Hindi. Ang weights, precision, activations at cache ay naghahati sa memory budget. Siyasatin ang iyong framework at subukan ang inaasahang workload.
Maaari ba akong humiling ng ilang GPU?
Oo, isama ang bilang ng GPU at mga pangangailangan sa interconnect sa iyong kahilingan. Kinakailangan ang kumpirmasyon sa kapasidad at topology bago ang deployment.
ANG IYONG KONPIGURASYON
Humiling ng quote para sa imprastraktura
Pumili ng mga mapagkukunan at oras ng pagpapatakbo. Kukunin namin ang presyo para sa iyong konfigurasyon.
Bawat resource ay may sariling nakalistang configuration. Ang maramihang GPU servers ay hindi bumubuo ng isang NVLink cluster. Ang mga rate kada buwan ay sumasaklaw sa buong billing period; ang storage at traffic sa labas ng configuration ay hindi kasama.