GLOBALATLAS AI · INFERENSI DEDIKASI

DeepSeek-R1-Distill-Qwen-32B

DeepSeek-R1-Distill-Qwen-32B: konfigurasi inferensi sing di-host dhéwé, bobot BF16, konteks token 8192, memori GPU, lan pilihan server.

Konfigurasi

Model nalar DeepSeek kapisah sing didistilasi nganggo output DeepSeek-R1 ing basis Qwen2.5-32B. Iki dudu model 671B DeepSeek-R1 lengkap utawa paket loro model.

Model: deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
Parameter / bobot: 32.76B · — GB
Format bobot: BF16
Konteks / konkurensi: 8192 / 1
Wates konteks checkpoint: 131072
Memori GPU sing diprakirakake: Requires an updated assessment
RAM / disk sing direncanakake: ≥ 128 GB / ≥ 200 GB
Runtime panyajian: vLLM · HTTP API
Lisensi: MIT; model basis Apache-2.0

Perkiraan kalebu bobot BF16, cache KV, workspace 2 GB, lan ruang kepala 15% GPU. RAM lan disk minangka syarat perencanaan GlobalAtlas, dudu minima resmi pangembang. Jinis disk, driver, lan runtime dikonfirmasi sadurunge instalasi. Anggaran panyajian token 8192 kalebu input lan output; konteks sing luwih dawa utawa panyuwunan simultan sing luwih akeh mbutuhake pangowahan ukuran lan test beban.

Kartu model asli

Pilih infrastruktur sampeyan

Pilih hardware, banjur konfirmasi kasedhiyan lan instalasi model karo spesialis. Pesenan server wae ora nginstal model.

Kita bakal milih konfigurasi sing kompatibel kanggo model iki bebarengan karo sampeyan.

Panjaluk setelan lengkap

Lebokna model, wilayah, lan beban sing dikarepake. Spesialis kita bakal ngonfirmasi hardware, instalasi, proteksi akses, lan rega pungkasan.

Rembugan karo Atlas →

Panjaluk pitulungan spesialis →

Kirim syarat sampeyan menyang spesialis GlobalAtlas kanggo tinjauan konfigurasi individu. Dheweke bakal mriksa hardware, kompatibilitas, lan syarat, banjur mbales liwat email.