Traenáil
Cuir cuimhne ar fáil do mheáchan, staid an uirlisí agus do bhainistíocht. Tá oiliúint il-GPU ag teastáil freisin le nasc idirghabhála oiriúnach.
HOPPER · LÁRIONTÁR
80 GB de chuimhne HBM3 do na hoibreacha ina mbíonn an buiséad cuimhne mar chuma ar an ailtireacht. Socraigh do fhreastalaí oiliúna nó tuarascála timpeall ar an múnla, an tacar sonraí agus topaic GPU.
Féach cumraíochtaíDo Freastalaí
Tá cuimhne GPU mar chuid den fhreastalaí. Sonraigh CPU, RAM an chórais, stóráil agus an réigiún chun an cumraíocht iomlán a sheiceáil.
OIBREÁIL
Cuir cuimhne ar fáil do mheáchan, staid an uirlisí agus do bhainistíocht. Tá oiliúint il-GPU ag teastáil freisin le nasc idirghabhála oiriúnach.
Pleanáil VRAM don mhúnla agus an cach KV le chéile. Bíonn fad an chomhthéacs agus iarratais comhuaineacha ag tiontú ar an éileamh cuimhne.
Comhoiriúnigh cruinneas uimhriúil agus riachtanais bogearraí CUDA le do ríomhaíocht sula roghnaíonn tú an t-óstán.
SUÍOMH
Coinnigh an ríomhaireacht gar do do shonraí agus do na húsáideoirí. Déantar an cumas a sheiceáil don mhúnla roghnaithe agus don áit.
Ar fáil ar iarratas
Ar fáil ar iarratas
Ar fáil ar iarratas
COMPARAIGH
Obair chrua CUDA bunaithe agus oiliúint mhúnla
Intleacht shaorga LLM ísealchuimhne agus ríomhaireacht eolaíoch
Prototipíocht, giniúint íomhá agus réitigh
Is é an sonraíocht tagartha H100 SXM 80 GB. Tá difríochtaí idir leagan PCIe agus NVL; ní mór an GPU cruinn a dheimhniú i d’fhaisnéis an fhreastalaí.
Níl. Roinnt, cruinneas, gníomhachtaí agus cache roinntear buiséad na cuimhne. Seiceáil do chreat oibre agus déan tástáil ar an ualach oibre atá beartaithe.
Sea, cuir líon GPU agus riachtanais nasc idirghabhála san iarratas. Ní mór deimhniú ar chumas agus ar topaic roimh an dáileadh.
DO CHUMRAITHEOIREACHT
Roghnaigh acmhainní agus am oibríochta. Deimhneoimid praghas do do chumraíocht.
Tá gach acmhainn le cumraíocht liostaithe uirthi féin. Ní dhéanann freastalaithe GPU iolracha clár NVLink. Clúdaíonn rátaí míosúla an tréimhse billeála iomlán; níl stóráil agus trácht lasmuigh den chumraíocht san áireamh.