التكوين
نموذج نصي مضبوط بالتعليمات. يتطلب البحث في المستندات خدمة استرجاع/فهرسة منفصلة؛ الصور والصوت غير مدعومين في نقطة التحقق هذه.
- نموذج
- Qwen/Qwen2.5-32B-Instruct
- المعاملات / الأوزان
- 32.76B · — GB
- صيغة الأوزان
- BF16
- السياق / التزامن
- 8192 / 1
- حد سياق نقطة التحقق
- 32768
- ذاكرة GPU المقدرة
- Requires an updated assessment
- RAM / قرص مخطط
- ≥ 128 غيغابايت / ≥ 200 غيغابايت
- بيئة التشغيل
- vLLM · HTTP API
- الترخيص
- Apache-2.0
يتضمن التقدير أوزان BF16 وذاكرة KV cache ومساحة عمل 2 غيغابايت وهامش 15% GPU. يُعد RAM والقرص من متطلبات التخطيط GlobalAtlas، وليس الحد الأدنى الرسمي للمطور. يتم تأكيد نوع القرص وبرامج التشغيل ومدة التشغيل قبل التثبيت. تتضمن ميزانية الخدمة البالغة 8192 رمزاً الإدخال والإخراج؛ ويتطلب السياق الأطول أو الطلبات المتزامنة أكثر تغيير الحجم واختبار تحميل.
بطاقة النموذج الأصلية