Vendimmarrja e arkitekturës
Përdorni kartën e modelit të zgjedhur për madhësinë. Një vlerësim i memories për peshat 7B të dendësisë nuk mund të ripërdoret për një version tjetër Mistral.
GLOBALATLAS AI · Infrastruktura për Mistral
Infrastruktura për Mistral
Mistral 7B dhe versionet e tjera të Mistral ndryshojnë në madhësi dhe arkitekturë. Zgjidhni një kartë modeli të veçantë para madhësisë së harduerit.
Përshtatni arkitekturën Mistral me kohën e ekzekutimit
- 01
Karta e saktë e modelit dhe rishikimi i peshës
- 02
Arkitekturë e densitetit ose e përzier e ekspertëve
- 03
Kohëzgjatja e mbështetjes dhe saktësia e mjedisit
Kërkesat e konfigurimit
Një model i densitetit 7B me 16 bit ka rreth 14 GB peshë vetëm. Lëreni kujtesën për runtime dhe kontekst; mos nxirrni një numër përdoruesish nga ky vlerësim.