Þjálfun
Úthluta minni fyrir vigtir, stillingar og virkni. Multi-GPU þjálfun krefst einnig viðeigandi tengingar.
HOPPER · GÖNG
NVIDIA H100 fyrir krefjandi AI vinnuálag
80 GB af HBM3 minnis fyrir verkefni þar sem minnisfjárhagsáætlun mótar arkitektúrinn. Skipuleggðu þjálfun eða inferenceserverinn þinn miðað við módel, gagnasafn og GPU uppbyggingu.
Skoða stillingarÞINN VÉL
Byggja í kringum vinnsluna þína
GPU minni er hluti af þjóninum. Tilgreindu CPU, kerfisminni, skráarsafn og svæði til að athuga fulla samsetningu.
- Stærð líkana og minnifjárhagsáætlun
- CPU, RAM og gagnageymsla
- Svæði og uppsetningarkröfur
HAGKÖRFIÐ
Þegar minni skiptir mestu máli
LLM inntak
Áætla VRAM fyrir módel og KV skyndiminni saman. Samtímalengd og samhliða beiðnir hafa áhrif á minniþörf.
Vísindaleg reikningur
Samræmdu töluleg nákvæmni og CUDA kröfur við útreikninga áður en valin er hýsingaraðili.
STAÐSETNING
Velja svæði fyrir vinnsluna þína
Geymdu útreikninga nálægt gögnunum og notendum. Geta er athuguð fyrir valda módel og staðsetningu.
Evropa
Tiltækt eftir beiðni
Bandaríkin
Tiltækt eftir beiðni
Asíu
Tiltækt eftir beiðni
BERA SAMAN
Íhugaðu annan minnifjölda
Ampere80 GB
NVIDIA A100
Staðfest CUDA vinnslur og módelþjálfun
- Minni
- HBM2e
- Staða
- Á beiðni
Verð á beiðniStilling og svæði sem þarf að staðfesta
Kanna módel Hopper141 GB
NVIDIA H200
Minniáherslu LLM inntak og vísindaleg útreikningar
- Minni
- HBM3e
- Staða
- Á beiðni
Verð á beiðniStilling og svæði sem þarf að staðfesta
Kanna módel Ada Lovelace24 GB
NVIDIA RTX 4090
Prófun, myndagerð og útlit
- Minni
- GDDR6X
- Staða
- Á beiðni
Verð á beiðniStilling og svæði sem þarf að staðfesta
Kanna módel Hvaða H100 útgáfa er lýst?
Vörulýsingin er H100 SXM 80 GB. PCIe og NVL útgáfur eru mismunandi; nákvæm GPU útgáfa þarf að staðfestast í netþjónastillingu.
Gæti 80 GB tryggt að módelið passi?
Nei. Vigtir, nákvæmni, virkni og skyndiminni deila minnifjárhagsáætlun. Athugaðu kerfi þitt og prófaðu viðkomandi vinnuálag.
Get ég beðið um fleiri en eitt GPU?
Já, bættu við GPU fjölda og tengingarkröfum í beiðnina. Geta og topólógía þurfa að vera staðfest áður en þú setur í gang.
ÞÍN SAMSETNING
Biðja um innviðatilboð
Veldu auðlindir og rekstrartíma. Við staðfestum verð fyrir uppsetninguna þína.
Hver auðlind hefur sína eigin stillingu. Fjöldi GPU þjónna myndar ekki NVLink klasa. Mánaðargjöld ná yfir alla reikningsskilatímann; geymsla og umferð utan stillingar eru ekki innifaldar.