GLOBALATLAS AI · DEDIKOVANÁ INFERENCIA

DeepSeek-R1-Distill-Qwen-32B

DeepSeek-R1-Distill-Qwen-32B: vlastná konfigurácia inferencie, váhy BF16, kontext 8192 tokenov, pamäť GPU a výber servera.

Konfigurácia

Samostatný reasoning model DeepSeek destilovaný pomocou výstupov DeepSeek-R1 na báze Qwen2.5-32B. Nie je to plný model 671B DeepSeek-R1 ani balík dvoch modelov.

Model: deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
Parametre / váhy: 32.76B · — GB
Formát váh: BF16
Kontext / súbežnosť: 8192 / 1
Limit kontextu checkpointu: 131072
Odhadovaná pamäť GPU: Requires an updated assessment
Plánované RAM / disk: ≥ 128 GB / ≥ 200 GB
Serving runtime: vLLM · HTTP API
Licencia: MIT; základný model Apache-2.0

Odhad zahŕňa váhy BF16, KV cache, pracovný priestor 2 GB a rezervu 15% GPU. RAM a disk sú plánovacími požiadavkami GlobalAtlas, nie oficiálnymi minimami vývojára. Typ disku, ovládače a runtime sa potvrdzujú pred inštaláciou. Serving rozpočet pre 8192 tokenov zahŕňa vstup aj výstup; dlhší kontext alebo viac súbežných požiadaviek si vyžaduje zmenu veľkosti a záťažový test.

Pôvodná karta modelu

Vyberte svoju infraštruktúru

Najprv vyberte hardvér a potom so špecialistom potvrďte dostupnosť a inštaláciu modelu. Samotná objednávka servera model nenainštaluje.

Pre tento model s vami vyberieme kompatibilnú konfiguráciu.

Požiadať o kompletné nastavenie

Uveďte model, región a očakávané zaťaženie. Naši špecialisti potvrdia hardvér, inštaláciu, ochranu prístupu aj konečnú cenu.

Prebrať s Atlasom →

Požiadať o pomoc špecialistu →

Pošlite svoje požiadavky špecialistom GlobalAtlas na individuálne posúdenie konfigurácie. Skontrolujú hardvér, kompatibilitu a podmienky, potom odpovedia e-mailom.