GLOBALATLAS AI · NAMIJENJENA INFERENCIJA

DeepSeek-R1-Distill-Qwen-32B

DeepSeek-R1-Distill-Qwen-32B: samostalno hostana konfiguracija inferencije, težine BF16, kontekst od 8192 tokena, memorija GPU i odabir servera.

Konfiguracija

Poseban model za zaključivanje DeepSeek, destiliran pomoću izlaza DeepSeek-R1 na osnovi Qwen2.5-32B. To nije puni model 671B DeepSeek-R1 niti paket od dva modela.

Model: deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
Parametri / težine: 32.76B · — GB
Format težina: BF16
Kontekst / istodobnost: 8192 / 1
Ograničenje konteksta checkpointa: 131072
Procijenjena memorija GPU: Requires an updated assessment
Planirani RAM / disk: ≥ 128 GB / ≥ 200 GB
Runtime za posluživanje: vLLM · HTTP API
Licenca: MIT; bazni model Apache-2.0

Procjena uključuje težine BF16, KV cache, radni prostor od 2 GB i rezervu od 15% GPU. Zahtjevi RAM i diska su GlobalAtlas za planiranje, a ne službeni minimumi developera. Vrsta diska, driveri i runtime potvrđuju se prije instalacije. Proračun posluživanja od 8192 tokena uključuje ulaz i izlaz; dulji kontekst ili više istodobnih zahtjeva zahtijeva prilagodbu veličine i test opterećenja.

Izvorna kartica modela

Odaberite svoju infrastrukturu

Odaberite hardver, zatim sa stručnjakom potvrdite dostupnost i instalaciju modela. Sama narudžba servera ne instalira model.

S vama ćemo odabrati kompatibilnu konfiguraciju za ovaj model.

Zatražite cjelovito postavljanje

Navedite model, regiju i očekivano opterećenje. Naši će stručnjaci potvrditi hardver, instalaciju, zaštitu pristupa i konačnu cijenu.

Razgovarajte s Atlasom →

Zatražite pomoć stručnjaka →

Pošaljite svoje zahtjeve stručnjacima GlobalAtlas za individualnu provjeru konfiguracije. Provjerit će hardver, kompatibilnost i uvjete, a zatim odgovoriti e-poštom.