アーキテクチャの決定
蒸留リリースと完全モデルは異なるアーキテクチャを必要とします。インフラリクエストに正確なモデル識別子を保存してください。
GLOBALATLAS AI · DeepSeek用インフラストラクチャ
DeepSeek用インフラストラクチャ
DeepSeek-R1とその蒸留モデルは異なるワークロードです。蒸留リリースは1.5Bから70Bパラメータまであり、完全モデルには別のサイズ調整が必要です。
正確なDeepSeekリリースから開始
- 01
フルモデルまたは蒸留リリース
- 02
重みのフォーマットと実行フレームワーク
- 03
コンテキスト予算とリクエスト同時実行数
構成要件
正確なリリースと精度を指定してください。「DeepSeek for 50 users」ではGPU構成や応答時間の保証は不十分です。