Configuració
Un model de raonament DeepSeek independent, destil·lat amb resultats de DeepSeek-R1 sobre una base Qwen2.5-32B. No és el model complet de 671B DeepSeek-R1 ni un paquet de dos models.
- Model
- deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
- Paràmetres / pesos
- 32.76B · — GB
- Format dels pesos
- BF16
- Context / concurrència
- 8192 / 1
- Límit de context del checkpoint
- 131072
- Memòria estimada de GPU
- Requires an updated assessment
- RAM / disc planificats
- ≥ 128 GB / ≥ 200 GB
- Execució de servei
- vLLM · HTTP API
- Llicència
- MIT; model base Apache-2.0
L’estimació inclou pesos de BF16, memòria cau KV, espai de treball de 2 GB i marge de 15% GPU. RAM i disc són requisits de planificació de GlobalAtlas, no els mínims oficials del desenvolupador. El tipus de disc, els controladors i l’execució es confirmen abans de la instal·lació. El pressupost de servei de 8192 tokens inclou entrada i sortida; un context més llarg o més sol·licituds simultànies requereixen redimensionament i una prova de càrrega.
Fitxa original del model