Arkitektúrákvörðun
GPU þjónn og stýrt endapunktur eru mismunandi vörur. Beiðnin verður að nefna rekstrarform og eininguna sem notuð er til að mæla neyslu.
GLOBALATLAS AI · AI ályktun
AI inferences
Ályktun keyrir þjálfað módel. Inntaksmagn, lotur og samhengi ákvarða vinnuminni sem og vigt módelins.
Seinkun eða hópfærsla?
- 01
Samvirk beiðni: mæla fyrstu viðbragðstíma
- 02
hópar: mæla fullunnin inntak á tímabilum
- 03
Fylgstu með hámarksminni fyrir valinn inntakslengd
Kröfur um stillingar
Ákveðið hvort þú vilt nota GPU VM sem þú stjórnar eða stýrt endapunkt. Opin Finder skoðar nú GPU VM tilboð, ekki stýrt inferencesamning.