Состав сборки
Отдельная модель рассуждения DeepSeek на базе Qwen2.5-32B, обученная на ответах DeepSeek-R1. Это не полный DeepSeek-R1 на 671B параметров и не комплект из двух моделей.
- Модель
- deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
- Параметры / веса
- 32.76B · — GB
- Формат весов
- BF16
- Контекст / параллельные запросы
- 8192 / 1
- Контекст в конфигурации модели
- 131072
- Расчётная память GPU
- Нужна актуализация расчёта
- RAM / диск для сборки
- ≥ 128 GB / ≥ 200 GB
- Среда запуска
- vLLM · HTTP API
- Лицензия
- MIT; base model Apache-2.0
Расчёт включает веса BF16, KV-кеш, рабочий резерв 2 ГБ и 15% свободной памяти GPU. RAM и диск — требования планируемой сборки GlobalAtlas, а не официальные минимумы разработчика модели. Тип диска, драйверы и среду подтверждаем перед установкой. Контекст 8192 токена включает вход и ответ; для большего контекста или числа параллельных запросов нужен новый расчёт и нагрузочный тест.
Карточка разработчика модели