Stilling
Textalíkan fínstillt fyrir leiðbeiningar. Skjalaleit krefst sérstakrar leit-/vísitöluþjónustu; myndir og hljóð eru ekki studd af þessari eftirlitsstöð.
- Líkan
- Qwen/Qwen2.5-32B-Instruct
- Færibreytur / vigtir
- 32.76B · — GB
- Vigtarsnið
- BF16
- Samhengi / samhliða ferli
- 8192 / 1
- Hámark samhengi fyrir eftirlitsstöð
- 32768
- Áætlað GPU minni
- Requires an updated assessment
- Skipulagt RAM / diskur
- ≥ 128 GB / ≥ 200 GB
- Keyrsluumhverfi
- vLLM · HTTP API
- Leyfi
- Apache-2.0
Verðmatið inniheldur BF16 vigtir, KV skyndiminni, 2 GB vinnusvæði og 15% GPU svigrúm. RAM og diskur eru GlobalAtlas skipulagskröfur, ekki formleg lágmörk þróunaraðilans. Diskategund, reklar og keyrsluumhverfi eru staðfest áður en uppsetning fer fram. 8192-tákn þjónustufjárhagsramminn inniheldur inntak og úttak; lengra samhengi eða fleiri samhliða beiðnir krefjast stærðarbreytingar og álagsprófunar.
Upprunalegt líkankort