Decyzja architektoniczna
Wydania destylowane i pełny model wymagają różnych architektur. Zapisz dokładny identyfikator modelu z żądaniem infrastruktury.
GLOBALATLAS AI · Infrastruktura dla DeepSeek
Infrastruktura dla DeepSeek
DeepSeek-R1 i jego destylowane modele to różne obciążenia. Wydania destylowane obejmują od 1,5 mld do 70 mld parametrów; pełny model wymaga osobnego oszacowania rozmiaru.
Rozpocznij od dokładnej wersji DeepSeek
- 01
Pełny model lub wersja destylowana
- 02
Format wag i framework wykonawczy
- 03
Budżet kontekstowy i równoczesność żądań
Wymagania dotyczące konfiguracji
Podaj dokładną wersję i precyzję. „DeepSeek dla 50 użytkowników” nie wystarcza do obietnicy konfiguracji GPU lub czasu odpowiedzi.