التكوين
نموذج استدلال منفصل من DeepSeek مُقطَّر باستخدام مخرجات DeepSeek-R1 على أساس Qwen2.5-32B. وهو ليس النموذج الكامل 671B DeepSeek-R1 أو حزمة من نموذجين.
- نموذج
- deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
- المعاملات / الأوزان
- 32.76B · — GB
- صيغة الأوزان
- BF16
- السياق / التزامن
- 8192 / 1
- حد سياق نقطة التحقق
- 131072
- ذاكرة GPU المقدرة
- Requires an updated assessment
- RAM / قرص مخطط
- ≥ 128 غيغابايت / ≥ 200 غيغابايت
- بيئة التشغيل
- vLLM · HTTP API
- الترخيص
- MIT؛ النموذج الأساسي Apache-2.0
يتضمن التقدير أوزان BF16 وذاكرة KV cache ومساحة عمل 2 غيغابايت وهامش 15% GPU. يُعد RAM والقرص من متطلبات التخطيط GlobalAtlas، وليس الحد الأدنى الرسمي للمطور. يتم تأكيد نوع القرص وبرامج التشغيل ومدة التشغيل قبل التثبيت. تتضمن ميزانية الخدمة البالغة 8192 رمزاً الإدخال والإخراج؛ ويتطلب السياق الأطول أو الطلبات المتزامنة أكثر تغيير الحجم واختبار تحميل.
بطاقة النموذج الأصلية