Конфігурація
Окрема модель DeepSeek для reasoning, дистильована на основі виходів DeepSeek-R1 на базі Qwen2.5-32B. Це не повна модель 671B DeepSeek-R1 і не пакет із двох моделей.
- Модель
- deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
- Параметри / ваги
- 32.76B · — GB
- Формат ваг
- BF16
- Контекст / паралельність
- 8192 / 1
- Ліміт контексту checkpoint
- 131072
- Оцінена пам’ять GPU
- Requires an updated assessment
- Заплановані RAM / диск
- ≥ 128 ГБ / ≥ 200 ГБ
- Runtime обслуговування
- vLLM · HTTP API
- Ліцензія
- MIT; базова модель Apache-2.0
Оцінка включає ваги BF16, KV cache, робочу область 2 ГБ і запас 15% GPU. RAM і диск є вимогами GlobalAtlas планування, а не офіційними мінімумами розробника. Тип диска, драйвери та runtime підтверджуються перед встановленням. Бюджет обслуговування 8192 токенів охоплює вхід і вихід; довший контекст або більше одночасних запитів потребують масштабування та тесту навантаження.
Оригінальна картка моделі