GLOBALATLAS AI · SERSTÖK INNFERÐ

Mistral-7B-Instruct-v0.3

Mistral-7B-Instruct-v0.3: sjálfhýst ályktunaruppsetning, BF16 vigtir, 8192-táknasamhengi, GPU minni og val á þjóni.

Stilling

Textalíkan fínstillt fyrir leiðbeiningar með v3 táknuninni. Fallaköllun krefst samhæfs spjallmálssniðs og að verkfæri séu keyrð í forritinu.

Líkan: mistralai/Mistral-7B-Instruct-v0.3
Færibreytur / vigtir: 7.25B · — GB
Vigtarsnið: BF16
Samhengi / samhliða ferli: 8192 / 1
Hámark samhengi fyrir eftirlitsstöð: 32768
Áætlað GPU minni: Requires an updated assessment
Skipulagt RAM / diskur: ≥ 32 GB / ≥ 100 GB
Keyrsluumhverfi: vLLM · HTTP API
Leyfi: Apache-2.0

Verðmatið inniheldur BF16 vigtir, KV skyndiminni, 2 GB vinnusvæði og 15% GPU svigrúm. RAM og diskur eru GlobalAtlas skipulagskröfur, ekki formleg lágmörk þróunaraðilans. Diskategund, reklar og keyrsluumhverfi eru staðfest áður en uppsetning fer fram. 8192-tákn þjónustufjárhagsramminn inniheldur inntak og úttak; lengra samhengi eða fleiri samhliða beiðnir krefjast stærðarbreytingar og álagsprófunar.

Upprunalegt líkankort

Veldu innviði þína

Veldu vélbúnað og staðfestu síðan framboð og uppsetningu líkans með sérfræðingi. Pöntun á þjóni ein og sér setur líkanið ekki upp.

Við munum velja samhæfa uppsetningu fyrir þetta líkan með þér.

Biðja um heildaruppsetninguna

Taktu með líkanið, svæðið og væntanlegt álag. Sérfræðingar okkar staðfesta vélbúnað, uppsetningu, aðgangsvernd og lokaverð.

Ræddu við Atlas →

Biðja um aðstoð sérfræðings →

Sendu kröfur þínar til sérfræðinga GlobalAtlas fyrir einstaklingsbundna yfirferð á uppsetningu. Þeir munu athuga vélbúnað, samhæfni og skilmála og svara síðan með tölvupósti.