DeepSeek-R1-Distill-Qwen-32B

配置

獨立的 DeepSeek 推理模型，由 DeepSeek-R1 輸出蒸餾自 Qwen2.5-32B 基礎模型。它不是完整的 671B DeepSeek-R1 模型，也不是兩個模型的組合包。

模型

deepseek-ai/DeepSeek-R1-Distill-Qwen-32B

參數／權重

32.76B · — GB

權重格式

BF16

上下文 / 併發

8192 / 1

Checkpoint 上下文上限

131072

預估 GPU 記憶體

Requires an updated assessment

規劃中的 RAM／磁碟

≥ 128 GB / ≥ 200 GB

服務執行階段

vLLM · HTTP API

授權

MIT；基礎模型 Apache-2.0

此估算包含 BF16 權重、KV 快取、2 GB 工作區與 15% GPU 補充空間。RAM 與磁碟屬於 GlobalAtlas 規劃需求，並非開發者的正式最低值。磁碟類型、驅動程式與執行階段會在安裝前確認。8192 token 服務預算包含輸入與輸出；更長的上下文或更多同時請求需要重新配置與負載測試。

選擇您的基礎架構

先選擇硬體，再與專家確認可用性與模型安裝。僅訂購伺服器不會安裝模型。

我們會與您一起為此模型選擇相容的配置。