Arkitektúrákvörðun
Notaðu valda módelkortinu til að aðlaga stærð. Minni áætlanir fyrir þétta 7B þyngd geta ekki verið endurnýttar fyrir annan Mistral útgáfu.
GLOBALATLAS AI · Innviði fyrir Mistral
Innviði fyrir Mistral
Mistral 7B og önnur Mistral útgáfur eru mismunandi að stærð og arkitektúr. Veldu tiltekna módelkort áður en þú stærðarvinnur vélbúnað.
Samræmdu Mistral arkitektúr við keyrslutíma
- 01
Nákvæm módelkort og vigtunarútgáfa
- 02
Þétt eða blandað arkitektúr
- 03
Stuðlað keyrsluumhverfi, nákvæmni og samhengi
Kröfur um stillingar
A 7B þétt módel með 16 bitum hefur um það bil 14 GB af vigtum einungis. Leyfðu minni fyrir keyrslutíma og samhengi; draga ekki ályktanir um fjölda notenda út frá þessari áætlun.