GLOBALATLAS AI · Mistral-д зориулсан дэд бүтэц

Mistral-д зориулсан дэд бүтэц

Mistral 7B болон бусад Mistral хувилбарууд хэмжээ, архитектурын хувьд ялгаатай. Тоног төхөөрөмжийн хэмжилт хийхийн өмнө тодорхой загварын карт сонгоно.

Mistral архитектурын тохиргоог гүйцэтгэх

  1. 01

    Яг загварын карт, жингийн шинэчлэл

  2. 02

    Багтаамжтай эсвэл мэргэжлийн архитектур

  3. 03

    Дэмжигдсэн гүйцэтгэх хугацаа, нарийвчлал ба контекст

Тохиргооны шийдвэр

Сонгосон загварын карт ашиглан хэмжилт хийнэ. Өргөн 7B жинтэй дүнгийн санамжийг өөр Mistral хувилбар дээр дахин ашиглах боломжгүй.

Тохиргооны шаардлага

16 битийн 7B нягт загвар ойролцоогоор 14 GB жинтэй. Гүйцэтгэх болон орчны санах ойд зориулан орхих; энэ тооцоолоос хэрэглэгчийн тоог бүү таамагла.

Техникийн лавлагаа

Тодорхойлолт 1 →