GLOBALATLAS AI · Infrastruktura za Mistral

Infrastruktura za Mistral

Mistral 7B in druge izdaje Mistral se razlikujejo po velikosti in arhitekturi. Pred velikostjo strojne opreme izberite specifično kartico modela.

Ujemite arhitekturo Mistral z okoljem izvajanja

  1. 01

    Natančna kartica modela in revizija teže

  2. 02

    Gosta ali mešanica arhitektur strokovnjakov

  3. 03

    Podprti okoljski čas, natančnost in kontekst

Odločitev o arhitekturi

Uporabite izbrano kartico modela za velikost. Ocena pomnilnika za gostoto 7B uteži ni uporabna za drugo izdajo Mistral.

Zahteve za konfiguracijo

Grobni model 7B z 16-bitno predstavitvijo ima približno 14 GB uteži samo. Pustite pomnilnik za izvajanje in kontekst; ne ocenjujte števila uporabnikov na podlagi te ocene.

Tehnične reference

Specifikacija 1 →