GLOBALATLAS AI · DEDIKADONG INFERENCE
Mga handang AI konfigurasyon
Pumili ng Qwen, DeepSeek o Mistral na konfigurasyon na may eksaktong checkpoint, pagtatasa ng memorya ng GPU, at mga setting ng serving.
Mula sa modelo tungo sa konfigurasyon nito
Pumili ng eksaktong bersyon ng modelo. Kasama sa bawat build ang pagtatantya ng memorya para sa inference, mga setting ng serving, at katugmang hardware sa catalog. Sinusuri ang availability matapos pumili; kinukumpirma ang pag-install bago umorder.
Qwen2.5-7B-Instruct
Mga pribadong text assistant at multilingguwal na chat
Instruction-tuned text model. Kailangan ng hiwalay na retrieval/indexing service para sa paghahanap ng dokumento; hindi suportado ng checkpoint na ito ang mga larawan at audio.
- GPU VRAM
- Assessment required
- Nakaplano RAM / disk
- 32 / 100 GB
- Context
- 8192 · BF16 · 1 na kahilingan
Qwen2.5-14B-Instruct
Mga business assistant at istrukturadong pagproseso ng dokumento
Instruction-tuned text model. Kailangan ng hiwalay na retrieval/indexing service para sa paghahanap ng dokumento; hindi suportado ng checkpoint na ito ang mga larawan at audio.
- GPU VRAM
- Assessment required
- Nakaplano RAM / disk
- 64 / 150 GB
- Context
- 8192 · BF16 · 1 na kahilingan
Qwen2.5-32B-Instruct
Masalimuot na mga tagubilin at mas malaking self-hosted language model
Instruction-tuned text model. Kailangan ng hiwalay na retrieval/indexing service para sa paghahanap ng dokumento; hindi suportado ng checkpoint na ito ang mga larawan at audio.
- GPU VRAM
- Assessment required
- Nakaplano RAM / disk
- 128 / 200 GB
- Context
- 8192 · BF16 · 1 na kahilingan
Mistral-7B-Instruct-v0.3
Mga serbisyo ng teksto at compact na application backend
Instruction-tuned text model na may v3 tokenizer. Nangangailangan ang function calling ng katugmang chat template at pagtakbo ng tool sa panig ng application.
- GPU VRAM
- Assessment required
- Nakaplano RAM / disk
- 32 / 100 GB
- Context
- 8192 · BF16 · 1 na kahilingan
DeepSeek-R1-Distill-Qwen-14B
Mga eksperimento sa reasoning at mga assistant na partikular sa domain
Isang hiwalay na DeepSeek reasoning model na dinistil mula sa mga output ng DeepSeek-R1 sa batayang Qwen2.5-14B. Hindi ito ang buong modelong 671B DeepSeek-R1 o isang bundle ng dalawang modelo.
- GPU VRAM
- Assessment required
- Nakaplano RAM / disk
- 64 / 150 GB
- Context
- 8192 · BF16 · 1 na kahilingan
DeepSeek-R1-Distill-Qwen-32B
Mas malalaking reasoning workload sa dedikadong imprastraktura
Isang hiwalay na DeepSeek reasoning model na dinistil mula sa mga output ng DeepSeek-R1 sa batayang Qwen2.5-32B. Hindi ito ang buong modelong 671B DeepSeek-R1 o isang bundle ng dalawang modelo.
- GPU VRAM
- Assessment required
- Nakaplano RAM / disk
- 128 / 200 GB
- Context
- 8192 · BF16 · 1 na kahilingan
Kailangan ng ibang modelo o cluster?
Susuriin ng Atlas ang iyong mga kinakailangan at ipapasa ang mga kumplikadong konfigurasyon sa aming mga espesyalista.
Atlas Ai Navigator →