GLOBALATLAS AI · INFHIOSÚCHÁN TIOMNAITHE

Qwen2.5-14B-Instruct

Qwen2.5-14B-Instruct: cumraíocht tátail féin-óstáilte, meáchain BF16, comhthéacs 8192-tóic, cuimhne GPU agus roghnú freastalaí.

Cumraíocht

Múnla téacs le haghaidh treoracha. Éilíonn cuardach doiciméad seirbhís ar leith aisghabhála/innéacsaithe; ní thacaítear le híomhánna ná fuaim ag an seicphointe seo.

Samhail
Qwen/Qwen2.5-14B-Instruct
Paraiméadair / meáchain
14.77B · — GB
Formáid meáchain
BF16
Comhthéacs / comhfhreagrú
8192 / 1
Teorainn comhthéacs Checkpoint
32768
Cuimhne mheasta GPU
Requires an updated assessment
RAM / diosca pleanáilte
≥ 64 GB / ≥ 150 GB
Am rite seirbhíse
vLLM · HTTP API
Ceadúnas
Apache-2.0

Áirítear sa mheastachán meáchain BF16, taisce KV, spás oibre 2 GB agus ceannspás 15% GPU. Is riachtanais phleanála iad RAM agus diosca de GlobalAtlas, ní íosmhéideanna oifigiúla an fhorbróra. Deimhnítear cineál diosca, tiománaithe agus am rite roimh shuiteáil. Cuimsíonn an buiséad seirbhíse 8192-tóic ionchur agus aschur; teastaíonn athmhéidithe agus tástáil ualaigh le haghaidh comhthéacs níos faide nó níos mó iarratas comhuaineach.

Cárta bunaidh an mhúnla

Roghnaigh do bhonneagar

Roghnaigh an crua-earra, ansin deimhnigh infhaighteacht agus suiteáil an mhúnla le speisialtóir. Ní shuiteálann ordú an fhreastalaí an tsamhail leis féin.

Roghnóimid cumraíocht chomhoiriúnach don mhúnla seo leat.

Iarr an socrú iomlán

Cuir an tsamhail, an réigiún agus an t-ualach ionchais san áireamh. Deimhneoidh ár speisialtóirí an crua-earra, an tsuiteáil, an chosaint rochtana agus an praghas deiridh.

Pléigh le Atlas →