Արխիտեկտուրայի որոշում
Օգտագործեք ընտրված մոդելի քարտը չափման համար: ԴDense 7B քաշքշուկների հիշողության գնահատումը չի կարող կրկնօրինակվել այլ Mistral թողարկման համար:
GLOBALATLAS AI · Սնուցում Mistral-ի համար
Mistral-ի համար ենթակառուցվածք
Mistral 7B և այլ Mistral թողարկումները տարբեր չափերով և архитектուրայով են։ Նախքան սարքավորումների չափաբաժինը որոշելը, ընտրեք կոնկրետ մոդելի քարտը։
Համապատասխանեցրեք Mistral-ի архитектուրան ռնտայմին
- 01
Անհատական մոդելի քարտ և քաշի վերանորոգում։
- 02
ՀDense կամ միկս-մասնագիտացված ճարտարապետություն։
- 03
Աջակցվող ժամանակավայրը, ճշգրտությունը և կոնտեքստը
Կոնֆիգուրացիայի պահանջներ
7B խիտ մոդել՝ 16 բիթով՝ մոտ 14 GB տասնորդական քաշային միայն։ Թող հիշողությունը մնա ռնգեղջյուր և կոնտեքստի համար; մի ենթադրեք օգտվողների քանակը այդ գնահատականից։