GLOBALATLAS AI · SERSTÖK INNFERÐ

DeepSeek-R1-Distill-Qwen-14B

DeepSeek-R1-Distill-Qwen-14B: sjálfhýst ályktunaruppsetning, BF16 vigtir, 8192-táknasamhengi, GPU minni og val á þjóni.

Stilling

Sérstakt DeepSeek rökvísunarlíkan eimað með DeepSeek-R1 úttaki á Qwen2.5-14B grunni. Þetta er ekki fulla 671B DeepSeek-R1 líkanið né pakki með tveimur líkönum.

Líkan
deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
Færibreytur / vigtir
14.77B · — GB
Vigtarsnið
BF16
Samhengi / samhliða ferli
8192 / 1
Hámark samhengi fyrir eftirlitsstöð
131072
Áætlað GPU minni
Requires an updated assessment
Skipulagt RAM / diskur
≥ 64 GB / ≥ 150 GB
Keyrsluumhverfi
vLLM · HTTP API
Leyfi
MIT; grunnlíkan Apache-2.0

Verðmatið inniheldur BF16 vigtir, KV skyndiminni, 2 GB vinnusvæði og 15% GPU svigrúm. RAM og diskur eru GlobalAtlas skipulagskröfur, ekki formleg lágmörk þróunaraðilans. Diskategund, reklar og keyrsluumhverfi eru staðfest áður en uppsetning fer fram. 8192-tákn þjónustufjárhagsramminn inniheldur inntak og úttak; lengra samhengi eða fleiri samhliða beiðnir krefjast stærðarbreytingar og álagsprófunar.

Upprunalegt líkankort

Veldu innviði þína

Veldu vélbúnað og staðfestu síðan framboð og uppsetningu líkans með sérfræðingi. Pöntun á þjóni ein og sér setur líkanið ekki upp.

Við munum velja samhæfa uppsetningu fyrir þetta líkan með þér.

Biðja um heildaruppsetninguna

Taktu með líkanið, svæðið og væntanlegt álag. Sérfræðingar okkar staðfesta vélbúnað, uppsetningu, aðgangsvernd og lokaverð.

Ræddu við Atlas →