Decisión de arquitectura
Las versiones destiladas y el modelo completo requieren arquitecturas diferentes. Guarde el identificador exacto del modelo con su solicitud de infraestructura.
GLOBALATLAS AI · Infraestructura para DeepSeek
Infraestructura para DeepSeek
DeepSeek-R1 y sus modelos destilados son cargas de trabajo diferentes. Las versiones destiladas abarcan de 1.5B a 70B de parámetros; el modelo completo requiere un ejercicio de dimensionamiento separado.
Comenzar con la versión exacta de DeepSeek
- 01
Modelo completo o versión destilada
- 02
Formato de peso y marco de ejecución
- 03
Presupuesto de contexto y concurrencia de solicitudes
Requisitos de configuración
Nombra la versión exacta y la precisión. “DeepSeek para 50 usuarios” no es suficiente para prometer una configuración de GPU o tiempo de respuesta.