GLOBALATLAS AI · INFERENCIA DEDICADA

DeepSeek-R1-Distill-Qwen-32B

DeepSeek-R1-Distill-Qwen-32B: configuración de inferencia autogestionada, pesos de BF16, contexto de 8192 tokens, memoria de GPU y selección de servidor.

Configuración

Un modelo de razonamiento separado de DeepSeek, destilado usando salidas de DeepSeek-R1 sobre una base de Qwen2.5-32B. No es el modelo completo de 671B DeepSeek-R1 ni un paquete de dos modelos.

Modelo: deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
Parámetros / pesos: 32.76B · — GB
Formato de pesos: BF16
Contexto / concurrencia: 8192 / 1
Límite de contexto del checkpoint: 131072
Memoria estimada de GPU: Requires an updated assessment
RAM / disco planificados: ≥ 128 GB / ≥ 200 GB
Tiempo de ejecución del servicio: vLLM · HTTP API
Licencia: MIT; modelo base Apache-2.0

La estimación incluye pesos de BF16, caché KV, espacio de trabajo de 2 GB y margen de 15% GPU. RAM y el disco son requisitos de planificación GlobalAtlas, no los mínimos oficiales del desarrollador. El tipo de disco, los controladores y el tiempo de ejecución se confirman antes de la instalación. El presupuesto de servicio de 8192 tokens incluye entrada y salida; un contexto más largo o más solicitudes simultáneas requiere redimensionamiento y una prueba de carga.

Ficha original del modelo

Elija su infraestructura

Seleccione el hardware y luego confirme con un especialista la disponibilidad y la instalación del modelo. El pedido del servidor por sí solo no instala el modelo.

Seleccionaremos con usted una configuración compatible para este modelo.

Solicitar la configuración completa

Incluya el modelo, la región y la carga esperada. Nuestros especialistas confirmarán el hardware, la instalación, la protección de acceso y el precio final.

Analizar con Atlas →

Solicitar ayuda de un especialista →

Envíe sus requisitos a los especialistas de GlobalAtlas para una revisión individual de configuración. Verificarán el hardware, la compatibilidad y las condiciones, y luego responderán por correo electrónico.