GLOBALATLAS AI · SERSTÖK INNFERÐ

DeepSeek-R1-Distill-Qwen-32B

DeepSeek-R1-Distill-Qwen-32B: sjálfhýst ályktunaruppsetning, BF16 vigtir, 8192-táknasamhengi, GPU minni og val á þjóni.

Stilling

Sérstakt DeepSeek rökvísunarlíkan eimað með DeepSeek-R1 úttaki á Qwen2.5-32B grunni. Þetta er ekki fulla 671B DeepSeek-R1 líkanið né pakki með tveimur líkönum.

Líkan: deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
Færibreytur / vigtir: 32.76B · — GB
Vigtarsnið: BF16
Samhengi / samhliða ferli: 8192 / 1
Hámark samhengi fyrir eftirlitsstöð: 131072
Áætlað GPU minni: Requires an updated assessment
Skipulagt RAM / diskur: ≥ 128 GB / ≥ 200 GB
Keyrsluumhverfi: vLLM · HTTP API
Leyfi: MIT; grunnlíkan Apache-2.0

Verðmatið inniheldur BF16 vigtir, KV skyndiminni, 2 GB vinnusvæði og 15% GPU svigrúm. RAM og diskur eru GlobalAtlas skipulagskröfur, ekki formleg lágmörk þróunaraðilans. Diskategund, reklar og keyrsluumhverfi eru staðfest áður en uppsetning fer fram. 8192-tákn þjónustufjárhagsramminn inniheldur inntak og úttak; lengra samhengi eða fleiri samhliða beiðnir krefjast stærðarbreytingar og álagsprófunar.

Upprunalegt líkankort

Veldu innviði þína

Veldu vélbúnað og staðfestu síðan framboð og uppsetningu líkans með sérfræðingi. Pöntun á þjóni ein og sér setur líkanið ekki upp.

Við munum velja samhæfa uppsetningu fyrir þetta líkan með þér.

Biðja um heildaruppsetninguna

Taktu með líkanið, svæðið og væntanlegt álag. Sérfræðingar okkar staðfesta vélbúnað, uppsetningu, aðgangsvernd og lokaverð.

Ræddu við Atlas →

Biðja um aðstoð sérfræðings →

Sendu kröfur þínar til sérfræðinga GlobalAtlas fyrir einstaklingsbundna yfirferð á uppsetningu. Þeir munu athuga vélbúnað, samhæfni og skilmála og svara síðan með tölvupósti.