Тохиргооны шийдвэр
Llama гэр бүлийн бүх загварыг 8B жишээнээс хэмжихгүй. Контекстийн кэш, гүйцэтгэлийн нэмэлт зардал нь санах ойн нэмэлт шаардлагатай.
GLOBALATLAS AI · Llama-д зориулсан дэд бүтэц
Llama-д зориулсан дэд бүтэц
Llama нь загварын цуврал. Llama 3.1 8B нь 8 тэрбум параметртэй загварын жишээ бөгөөд бүх Llama хувилбарын хүчин чадлын баталгаа биш юм.
Llama байршуулалтын профайл бэлтгэх
- 01
Загварын хувилбар, хэмжээ ба лиценз
- 02
Жинээс гадна нарийвчлал ба гүйцэтгэлийн санах ойн хэмжээ
- 03
Чат загвар, контекст ба үнэлгээний асуултууд
Тохиргооны шаардлага
8B нягт жинтэй 16 битийн жинүүдийн тооцоо нь 16 GB байна. Гүйцэтгэл, KV кэш нэмэлт санах ой шаарддаг; загварын лицензийг шалгана уу.