Одлука за архитектура
Користете ја избраната картичка на модел за големина. Проценката за меморија за густо 7B тежини не може да се повтори за друга верзија на Mistral.
GLOBALATLAS AI · Инфраструктура за Mistral
Инфраструктура за Mistral
Mistral 7B и други изданија на Mistral се разликуваат по големина и архитектура. Изберете конкретна карта на модел пред да ја големите хардверот.
Парирајте архитектурата Mistral со извршувањето
- 01
Точна картичка на моделот и ревизија на тежината
- 02
Густ или мешан архитектурен модел
- 03
Поддржана средина за извршување, прецизност и контекст
Барања за конфигурација
Длабок модел од 7B со 16 бита има приближно 14 GB десетични тежини. Оставете меморија за време на извршување и контекст; не изведувајте број на корисници од оваа проценка.