Arkitekturbeslutning
Destillerede udgivelser og den fulde model kræver forskellige arkitekturer. Gem den nøjagtige modelidentifikator med din infrastrukturforespørgsel.
GLOBALATLAS AI · Infrastruktur til DeepSeek
DeepSeek-R1 og dets destillerede modeller er forskellige arbejdsbelastninger. Destillerede udgivelser spænder fra 1,5B til 70B parametre; den fulde model kræver en separat størrelsesvurdering.
Fuld model eller destilleret udgivelse
Vægtformat og eksekveringsramme
Kontekstbudget og anmodningskonkurrence
Destillerede udgivelser og den fulde model kræver forskellige arkitekturer. Gem den nøjagtige modelidentifikator med din infrastrukturforespørgsel.
Navngiv den nøjagtige udgivelse og præcision. “DeepSeek for 50 brugere” er ikke tilstrækkeligt til at love en GPU-konfiguration eller svartid.