Состав сборки
Текстовая модель для выполнения инструкций с токенизатором v3. Вызов функций требует совместимого шаблона диалога и исполнения инструментов приложением.
- Модель
- mistralai/Mistral-7B-Instruct-v0.3
- Параметры / веса
- 7.25B · — GB
- Формат весов
- BF16
- Контекст / параллельные запросы
- 8192 / 1
- Контекст в конфигурации модели
- 32768
- Расчётная память GPU
- Нужна актуализация расчёта
- RAM / диск для сборки
- ≥ 32 GB / ≥ 100 GB
- Среда запуска
- vLLM · HTTP API
- Лицензия
- Apache-2.0
Расчёт включает веса BF16, KV-кеш, рабочий резерв 2 ГБ и 15% свободной памяти GPU. RAM и диск — требования планируемой сборки GlobalAtlas, а не официальные минимумы разработчика модели. Тип диска, драйверы и среду подтверждаем перед установкой. Контекст 8192 токена включает вход и ответ; для большего контекста или числа параллельных запросов нужен новый расчёт и нагрузочный тест.
Карточка разработчика модели