Arkitekturavgjørelse
Destillerte utgivelser og den fullstendige modellen krever ulike arkitekturer. Lagre den nøyaktige modellidentifikatoren med forespørselen din.
GLOBALATLAS AI · Infrastruktur for DeepSeek
DeepSeek-R1 og dets destillerte modeller er ulike arbeidsbelastninger. Destillerte utgivelser spenner fra 1,5B til 70B parametere; den fullstendige modellen krever en separat størrelsesvurdering.
Full modell eller destillert utgivelse
Vektformat og kjøreomgivelsesrammeverk
Kontekstbudsjett og forespørselskonkurranse
Destillerte utgivelser og den fullstendige modellen krever ulike arkitekturer. Lagre den nøyaktige modellidentifikatoren med forespørselen din.
Navngi den eksakte utgivelsen og presisjonen. “DeepSeek for 50 brukere” er utilstrekkelig for å love en GPU-konfigurasjon eller responstid.