架构决策
蒸馏版本和完整模型需要不同架构。请在基础设施请求中保存确切模型标识。
GLOBALATLAS AI · DeepSeek 基础设施
DeepSeek 的基础设施
DeepSeek-R1 及其蒸馏模型是不同的工作负载。蒸馏版本的参数范围为 1.5B 至 70B；完整模型需要单独的规模评估。
使用确切的DeepSeek版本开始
- 01
完整模型或蒸馏版本
- 02
权重格式和执行框架
- 03
上下文预算和请求并发
配置要求
命名具体版本和精度。“DeepSeek for 50 users”不足以承诺GPU配置或响应时间。