Arhitektūras lēmums
Destilētie izlaidumi un pilns modelis prasa dažādas arhitektūras. Saglabājiet precīzu modeļa identifikatoru ar jūsu infrastruktūras pieprasījumu.
GLOBALATLAS AI · Infrastruktūra DeepSeek
Infrastruktūra DeepSeek
DeepSeek-R1 un tā destilētie modeļi ir dažādi darba slodzi veidi. Destilētie izlaidumi ir no 1.5B līdz 70B parametriem; pilns modelis prasa atsevišķu izmēru izvēli.
Sāc ar precīzu DeepSeek izlaidumu
- 01
Pilns modelis vai destilēta izlaišana
- 02
Svara formāts un izpildes ietvars
- 03
Konteksta budžets un pieprasījuma paralēlisms
Konfigurācijas prasības
Nosauciet precīzu izlaišanas versiju un precizitāti. “DeepSeek 50 lietotājiem” nav pietiekami, lai solītu GPU konfigurāciju vai reakcijas laiku.