Deċiżjoni ta’ arkitettura
Uża l-karta tal-mudell magħżula għad-dimensjoni. Stima ta' memorja għal piżijiet 7B miftuħa ma tistax tintuża għal rilaxx Mistral differenti.
GLOBALATLAS AI · Infrastruktur għal Mistral
Infrastruttura għal Mistral
Mistral 7B u rilaxxijiet oħra ta' Mistral jvarjaw fid-daqs u fl-arkitettura. Agħżel karta ta' mudell speċifika qabel ma tiddetermina l-hardware.
Match l-arkitettura Mistral mal-ħinijiet ta' ħruġ
- 01
Karta tal-mudell eżatt u reviżjoni tal-piż
- 02
Arkitettura densija jew ta' mixtieq ta' esperti
- 03
Ħin ta' ħruġ, preċiżjoni u kontekst appoġġjati
Rekwiżiti ta' konfigurazzjoni
Mudell dens ta’ 7B b’16 bit għandu madwar 14 GB ta’ piżijiet biss. Ħalli memorja għall-ħin tal-eżekuzzjoni u l-kuntest; ma għandux jintuża biex jikkonferma n-numru ta’ utenti minn dik l-estimazzjoni.