Odločitev o arhitekturi
Uporabite izbrano kartico modela za velikost. Ocena pomnilnika za gostoto 7B uteži ni uporabna za drugo izdajo Mistral.
GLOBALATLAS AI · Infrastruktura za Mistral
Mistral 7B in druge izdaje Mistral se razlikujejo po velikosti in arhitekturi. Pred velikostjo strojne opreme izberite specifično kartico modela.
Natančna kartica modela in revizija teže
Gosta ali mešanica arhitektur strokovnjakov
Podprti okoljski čas, natančnost in kontekst
Uporabite izbrano kartico modela za velikost. Ocena pomnilnika za gostoto 7B uteži ni uporabna za drugo izdajo Mistral.
Grobni model 7B z 16-bitno predstavitvijo ima približno 14 GB uteži samo. Pustite pomnilnik za izvajanje in kontekst; ne ocenjujte števila uporabnikov na podlagi te ocene.