Odluka o arhitekturi
Koristite odabranu karticu modela za dimenzionisanje. Procena memorije za gustu težinu od 7B ne može se ponovo koristiti za drugačije izdanje Mistral.
GLOBALATLAS AI · Infrastruktura za Mistral
Mistral 7B i ostala izdanja Mistrala razlikuju se po veličini i arhitekturi. Izaberite specifični model pre veličine hardvera.
Tačna model karta i revizija težine
Gusta ili arhitektura mešavine eksperata
Podržano okruženje, preciznost i kontekst
Koristite odabranu karticu modela za dimenzionisanje. Procena memorije za gustu težinu od 7B ne može se ponovo koristiti za drugačije izdanje Mistral.
Gusto model od 7B sa 16 bita ima otprilike 14 GB decimal težina. Ostavite memoriju za izvršavanje i kontekst; ne procjenjujte broj korisnika na osnovu te procene.