構成
DeepSeek-R1の出力を用いてQwen2.5-14Bベースで蒸留された、個別のDeepSeek推論モデルです。完全版の671B DeepSeek-R1モデルでも、2つのモデルのバンドルでもありません。
- モデル
- deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
- パラメータ / 重み
- 14.77B · — GB
- 重み形式
- BF16
- コンテキスト / 同時実行
- 8192 / 1
- コンテキスト上限
- 131072
- 推定 GPU メモリ
- Requires an updated assessment
- 計画中の RAM / ディスク
- ≥ 64 GB / ≥ 150 GB
- 提供ランタイム
- vLLM · HTTP API
- ライセンス
- MIT; ベースモデル Apache-2.0
見積もりには、BF16 重み、KV キャッシュ、2 GB の作業領域、15% の GPU 余裕が含まれます。RAM とディスクはGlobalAtlasの計画要件であり、開発元の公式最小要件ではありません。ディスク種別、ドライバー、実行環境はインストール前に確認されます。8192 トークンの提供予算には入力と出力が含まれ、より長いコンテキストや同時リクエスト数の増加には再構成と負荷テストが必要です。
元のモデルカード