Uamuzi wa usanifu
Seva ya GPU na mwisho uliohudumiwa ni bidhaa tofauti. Ombi lazima litaje mfano wa uendeshaji na kitengo kinachotumika kupima matumizi.
GLOBALATLAS AI · Uhakiki wa AI
Utabiri unatekeleza mfano uliopatiwa mafunzo. Ukubwa wa ingizo, kundi na urefu wa muktadha huamua kumbukumbu ya kazi pamoja na uzito wa mfano.
Maombi ya mwingiliano: pima ucheleweshaji wa majibu ya kwanza
Kazi za kundi: pima maingizo yaliyokamilika kwa kipindi cha wakati
Fuata kiwango cha juu cha kumbukumbu kwa urefu wa ingizo ulilochagua
Seva ya GPU na mwisho uliohudumiwa ni bidhaa tofauti. Ombi lazima litaje mfano wa uendeshaji na kitengo kinachotumika kupima matumizi.
Amua kati ya VM ya GPU unayoendesha na mwisho ulioratibiwa. Finder wa umma kwa sasa unakagua ofa za VM za GPU, si SLA ya inference inayoratibiwa.