Tababarka
Qoondee xusuusta miisaanka, xaaladda hagaajinta iyo habka wax-soo-saarka. Tababarka GPU badan ayaa sidoo kale u baahan isku xirka ku habboon.
Hopper · Xarunta Xogta
NVIDIA H100 loogu talagalay shaqooyinka AI ee culus
80 GB oo ah HBM3 xusuusta shaqooyinka halkaas oo miisaaniyadda xusuusta ay qaabeyso qaab-dhismeedka. Qorshee tababarkaaga ama server-ka inference-ka adoo ku saleynaya moodalka, xogta iyo qaab-dhismeedka GPU.
Eeg qaabeyntaServerkaaga
Dhiso ku wareegsan shaqadaada
Xasuusta GPU waa qayb ka mid ah server-ka. Caddee CPU, RAM nidaamka, kaydinta iyo gobolka si aad u hubiso qaabdhismeedka dhameystiran.
- Cabbirka moodelka iyo miisaaniyadda xasuusta
- CPU, RAM iyo kaydinta xogta
- Shuruudaha gobolka iyo qaabeynta
Shaqooyinka
Marka xusuusta ay ugu muhiimsan tahay
Saadaasha LLM
Qorshee VRAM ee moodooyinka iyo kaydka KV wadajir. Dhererka macnaha guud iyo codsiyada isku mar ah ayaa saameeya baahida xusuusta.
Xisaabinta Sayniska
U dhigma saxnaanta tirada iyo shuruudaha software CUDA ee xisaabintaada ka hor intaadan dooran martida.
Goobta
Dooro gobol shaqadaada
Hayso xisaabinta meel u dhow xogtaada iyo isticmaaleyaasha. Awoodda waxaa la hubiyaa moodelka la doortay iyo goobta.
Yurub
Helitaanka codsiga
USA
Helitaanka codsiga
Aasiya
Helitaanka codsiga
Isbarbardhig
Tixgeli miisaaniyadda xusuusta oo kale
Bedelka80 GB
NVIDIA A100
Hawlgaladii CUDA ee la aasaasay iyo tababarka qaabka.
- Xasuusta
- HBM2e
- Xaaladda
- Codsi
Qiimaha codsiga la codsadoQaabeynta iyo gobolka oo la xaqiijin doono
Baadh qaabka Hopper141 GB
NVIDIA H200
Saadaasha LLM ee xasuusta badan iyo xisaabinta sayniska
- Xasuusta
- HBM3e
- Xaaladda
- Codsi
Qiimaha codsiga la codsadoQaabeynta iyo gobolka oo la xaqiijin doono
Baadh qaabka Ada Lovelace24 GB
NVIDIA RTX 4090
Tijaabinta, abuurista sawirka iyo render-ka
- Xasuusta
- GDDR6X
- Xaaladda
- Codsi
Qiimaha codsiga la codsadoQaabeynta iyo gobolka oo la xaqiijin doono
Baadh qaabka Nooca H100 ee la sharaxay waa maxay?
Qeexida tixraaca waa H100 SXM 80 GB. Noocyada PCIe iyo NVL way ku kala duwan yihiin; nooca GPU-ga saxda ah waa in la xaqiijiyaa qaabeynta server-ka.
Ma xaqiijisaa in 80 GB uu hubiyo in qaabkaagu uu ku habboon yahay?
Maya. Miisaanka, saxnaanta, firfircoonida iyo cache-ka waxay wadaagaan miisaaniyadda xasuusta. Hubi qaab-dhismeedkaaga oo tijaabi shaqada la qorsheeyay.
Ma codsan karaa GPU-yar?
Haa, ku dar tirada GPU iyo shuruudaha isku xirka codsigaaga. Awoodda iyo qaab-dhismeedka waa in la xaqiijiyaa ka hor inta aan la hawlgelin.
HABAYNTAADA
Codso xigasho kaabayaal
Dooro agab iyo waqtiga hawlgalka. Waxaan xaqiijin doonaa qiimaha habayntaada.
Khayraad kasta wuxuu leeyahay qaabeyntiisa liiska ah. Server-yada GPU badan ma sameeyaan koox NVLink ah. Qiimaha bil kasta wuxuu daboolayaa muddada biilinta oo dhan; kaydinta iyo taraafikada ka baxsan qaabeynta lama darin.