GLOBALATLAS AI · UHISABATI MAALUM

DeepSeek-R1-Distill-Qwen-14B

DeepSeek-R1-Distill-Qwen-14B: usanidi wa inference unaojihostia, uzito wa BF16, muktadha wa tokeni 8192, kumbukumbu ya GPU na uteuzi wa seva.

Mipangilio

Modeli tofauti ya uelekezaji ya DeepSeek iliyofinyangwa kwa kutumia matokeo ya DeepSeek-R1 kwenye msingi wa Qwen2.5-14B. Siyo modeli kamili ya 671B DeepSeek-R1 wala kifurushi cha modeli mbili.

Muundo wa mfano: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
Vigezo / uzito: 14.77B · — GB
Muundo wa uzito: BF16
Muktadha / ulinganifu wa wakati mmoja: 8192 / 1
Kikomo cha muktadha wa checkpoint: 131072
Kumbukumbu iliyokadiriwa ya GPU: Requires an updated assessment
RAM / diski iliyopangwa: ≥ 64 GB / ≥ 150 GB
Muda wa utekelezaji wa kuhudumia: vLLM · HTTP API
Leseni: MIT; modeli ya msingi Apache-2.0

Kadirio linajumuisha uzito wa BF16, KV cache, eneo la kazi la GB 2 na nafasi ya ziada ya 15% GPU. RAM na diski ni mahitaji ya mipango ya GlobalAtlas, si viwango vya chini rasmi vya msanidi. Aina ya diski, viendeshi na muda wa utekelezaji huthibitishwa kabla ya usakinishaji. Bajeti ya kuhudumia ya tokeni 8192 inajumuisha ingizo na tokeo; muktadha mrefu zaidi au maombi mengi ya wakati mmoja yanahitaji ukubwa upya na jaribio la mzigo.

Kadi asili ya modeli

Chagua miundombinu yako

Chagua maunzi, kisha thibitisha upatikanaji na usakinishaji wa modeli na mtaalamu. Agizo la seva pekee halisakinishi modeli.

Tutachagua pamoja nawe usanidi unaoendana kwa modeli hii.

Omba usanidi kamili

Jumuisha modeli, eneo na mzigo unaotarajiwa. Wataalamu wetu watathibitisha maunzi, usakinishaji, ulinzi wa ufikiaji na bei ya mwisho.

Jadili na Atlas →

Omba usaidizi wa mtaalamu →

Tuma mahitaji yako kwa wataalamu wa GlobalAtlas kwa ukaguzi wa usanidi binafsi. Wataangalia maunzi, uoanifu na masharti, kisha kujibu kupitia barua pepe.