Decisió d'arquitectura
Les versions destil·lades i el model complet requereixen arquitectures diferents. Desa l'identificador exacte del model amb la teva sol·licitud d'infraestructura.
GLOBALATLAS AI · Infraestructura per DeepSeek
Infraestructura per DeepSeek
DeepSeek-R1 i els seus models destil·lats són càrregues de treball diferents. Les versions destil·lades varien de 1.5B a 70B paràmetres; el model complet necessita un exercici de dimensionament separat.
Comença amb la versió exacta de DeepSeek
- 01
Model complet o llançament destil·lat
- 02
Format de pes i marc d'execució
- 03
Pressupost de context i concurrència de sol·licituds
Requisits de configuració
Nomena la versió exacta i la precisió. “DeepSeek per a 50 usuaris” no és suficient per prometre una configuració de GPU o temps de resposta.