التكوين
نموذج نصي مضبوط بالتعليمات مع tokenizer الإصدار v3. يتطلب استدعاء الدوال قالب دردشة متوافقاً وتنفيذ الأدوات من جانب التطبيق.
- نموذج
- mistralai/Mistral-7B-Instruct-v0.3
- المعاملات / الأوزان
- 7.25B · — GB
- صيغة الأوزان
- BF16
- السياق / التزامن
- 8192 / 1
- حد سياق نقطة التحقق
- 32768
- ذاكرة GPU المقدرة
- Requires an updated assessment
- RAM / قرص مخطط
- ≥ 32 غيغابايت / ≥ 100 غيغابايت
- بيئة التشغيل
- vLLM · HTTP API
- الترخيص
- Apache-2.0
يتضمن التقدير أوزان BF16 وذاكرة KV cache ومساحة عمل 2 غيغابايت وهامش 15% GPU. يُعد RAM والقرص من متطلبات التخطيط GlobalAtlas، وليس الحد الأدنى الرسمي للمطور. يتم تأكيد نوع القرص وبرامج التشغيل ومدة التشغيل قبل التثبيت. تتضمن ميزانية الخدمة البالغة 8192 رمزاً الإدخال والإخراج؛ ويتطلب السياق الأطول أو الطلبات المتزامنة أكثر تغيير الحجم واختبار تحميل.
بطاقة النموذج الأصلية