GLOBALATLAS AI · Тусгай зориулалтын inference
Бэлэн AI тохиргоонууд
Яг checkpoint, GPU санах ойн үнэлгээ, serving тохиргоотой Qwen, DeepSeek эсвэл Mistral тохиргоог сонгоно уу.
Загвараас түүний тохиргоо руу
Загварын яг хувилбарыг сонгоно уу. Бүтэц бүрт inference санах ойн үнэлгээ, serving тохиргоо, каталогоор нийцэх техник хангамж орно. Сонголтын дараа боломжийг шалгаж, захиалахын өмнө суурилуулалтыг баталгаажуулна.
Qwen2.5-7B-Instruct
Хувийн текст туслахууд ба олон хэлний чат
Instruction-tuned текст загвар. Баримт бичиг хайхад тусдаа retrieval/indexing үйлчилгээ хэрэгтэй; энэ checkpoint-д зураг болон аудио дэмжихгүй.
- GPU VRAM
- Assessment required
- Төлөвлөсөн RAM / диск
- 32 / 100 GB
- Контекст
- 8192 · BF16 · 1 хүсэлт
Qwen2.5-14B-Instruct
Бизнесийн туслахууд ба бүтэцжүүлсэн баримт бичиг боловсруулах
Instruction-tuned текст загвар. Баримт бичиг хайхад тусдаа retrieval/indexing үйлчилгээ хэрэгтэй; энэ checkpoint-д зураг болон аудио дэмжихгүй.
- GPU VRAM
- Assessment required
- Төлөвлөсөн RAM / диск
- 64 / 150 GB
- Контекст
- 8192 · BF16 · 1 хүсэлт
Qwen2.5-32B-Instruct
Нарийн төвөгтэй заавар болон илүү том, өөрөө байршуулсан хэлний загвар
Instruction-tuned текст загвар. Баримт бичиг хайхад тусдаа retrieval/indexing үйлчилгээ хэрэгтэй; энэ checkpoint-д зураг болон аудио дэмжихгүй.
- GPU VRAM
- Assessment required
- Төлөвлөсөн RAM / диск
- 128 / 200 GB
- Контекст
- 8192 · BF16 · 1 хүсэлт
Mistral-7B-Instruct-v0.3
Текстийн үйлчилгээ ба авсаархан аппликейшний backend
v3 tokenizer-той instruction-tuned текст загвар. Function calling-д нийцтэй chat template болон аппликейшний талын tool execution шаардлагатай.
- GPU VRAM
- Assessment required
- Төлөвлөсөн RAM / диск
- 32 / 100 GB
- Контекст
- 8192 · BF16 · 1 хүсэлт
DeepSeek-R1-Distill-Qwen-14B
Reasoning туршилтууд ба салбарын тусгай туслахууд
DeepSeek-R1-ийн гаргасан үр дүнг ашиглан Qwen2.5-14B суурь дээр шингээж боловсруулсан тусдаа DeepSeek reasoning загвар. Энэ нь бүрэн 671B DeepSeek-R1 загвар ч биш, хоёр загварын багц ч биш.
- GPU VRAM
- Assessment required
- Төлөвлөсөн RAM / диск
- 64 / 150 GB
- Контекст
- 8192 · BF16 · 1 хүсэлт
DeepSeek-R1-Distill-Qwen-32B
Тусгай дэд бүтэц дээрх илүү том reasoning ажлын ачаалал
DeepSeek-R1-ийн гаргасан үр дүнг ашиглан Qwen2.5-32B суурь дээр шингээж боловсруулсан тусдаа DeepSeek reasoning загвар. Энэ нь бүрэн 671B DeepSeek-R1 загвар ч биш, хоёр загварын багц ч биш.
- GPU VRAM
- Assessment required
- Төлөвлөсөн RAM / диск
- 128 / 200 GB
- Контекст
- 8192 · BF16 · 1 хүсэлт
Өөр загвар эсвэл кластер хэрэгтэй юу?
Atlas таны шаардлагыг үнэлж, төвөгтэй тохиргоонуудыг манай мэргэжилтнүүдэд дамжуулна.
Atlas Ai Navigator →