Uamuzi wa usanifu
Tumia kadi ya mfano uliyochagua kwa ukubwa. Makadirio ya kumbukumbu kwa uzito wa dense 7B hayawezi kutumika tena kwa toleo tofauti la Mistral.
GLOBALATLAS AI · Miundombinu kwa Mistral
Miundombinu kwa Mistral
Mistral 7B na toleo mengine ya Mistral yanatofautiana kwa ukubwa na usanifu. Chagua kadi ya mfano maalum kabla ya ukubwa wa vifaa.
Linganisha usanifu wa Mistral na runtime
- 01
Kadi kamili ya modeli na toleo la uzito
- 02
Muundo wa wingi au wa mchanganyiko wa wataalamu
- 03
Muda wa kiendeshaji unaotegemewa, usahihi na muktadha
Mahitaji ya mipangilio
Mfano wa nyembamba wa Bili 7 kwa bits 16 una takriban GB 14 za uzito wa uzito pekee. Achia kumbukumbu kwa wakati wa kufanya kazi na muktadha; usitarajie idadi ya watumiaji kutoka kwa makadirio hayo.