GLOBALATLAS AI · သီးသန့် Inference
အသင့်သုံး AI ဖွဲ့စည်းမှုများ
အတိအကျ checkpoint, GPU memory အကဲဖြတ်မှုနှင့် serving settings ပါသော Qwen, DeepSeek သို့မဟုတ် Mistral ဖွဲ့စည်းမှုတစ်ခုကို ရွေးပါ။
မော်ဒယ်မှ ၎င်း၏ ဖွဲ့စည်းမှုသို့
အတိအကျ model release တစ်ခုကို ရွေးပါ။ Build တစ်ခုချင်းစီတွင် inference memory ခန့်မှန်းချက်၊ serving settings နှင့် ကိုက်ညီသော catalog hardware ပါဝင်သည်။ ရွေးချယ်ပြီးနောက် ရရှိနိုင်မှုကို စစ်ဆေးမည်ဖြစ်ပြီး၊ မှာယူခြင်းမပြုမီ တပ်ဆင်မှုကို အတည်ပြုမည်။
Qwen2.5-7B-Instruct
သီးသန့် စာသား assistant များနှင့် ဘာသာစုံ chat
Instruction-tuned text model။ Document search အတွက် သီးခြား retrieval/indexing service လိုအပ်သည်; ဤ checkpoint တွင် images နှင့် audio ကို မပံ့ပိုးပါ။
- GPU VRAM
- Assessment required
- စီစဉ်ထားသော RAM / disk
- 32 / 100 GB
- အကြောင်းအရာ
- 8192 · BF16 · 1 တောင်းဆိုမှု
Qwen2.5-14B-Instruct
လုပ်ငန်းသုံး assistant များနှင့် ဖွဲ့စည်းထားသော စာရွက်စာတမ်းလုပ်ငန်းစဉ်
Instruction-tuned text model။ Document search အတွက် သီးခြား retrieval/indexing service လိုအပ်သည်; ဤ checkpoint တွင် images နှင့် audio ကို မပံ့ပိုးပါ။
- GPU VRAM
- Assessment required
- စီစဉ်ထားသော RAM / disk
- 64 / 150 GB
- အကြောင်းအရာ
- 8192 · BF16 · 1 တောင်းဆိုမှု
Qwen2.5-32B-Instruct
ရှုပ်ထွေးသော ညွှန်ကြားချက်များနှင့် ပိုမိုကြီးမားသော self-hosted language model
Instruction-tuned text model။ Document search အတွက် သီးခြား retrieval/indexing service လိုအပ်သည်; ဤ checkpoint တွင် images နှင့် audio ကို မပံ့ပိုးပါ။
- GPU VRAM
- Assessment required
- စီစဉ်ထားသော RAM / disk
- 128 / 200 GB
- အကြောင်းအရာ
- 8192 · BF16 · 1 တောင်းဆိုမှု
Mistral-7B-Instruct-v0.3
စာသားဝန်ဆောင်မှုများနှင့် ကျစ်လျစ်သော application backend များ
v3 tokenizer ပါသော instruction-tuned text model။ Function calling အတွက် ကိုက်ညီသော chat template နှင့် application ဘက် tool execution လိုအပ်သည်။
- GPU VRAM
- Assessment required
- စီစဉ်ထားသော RAM / disk
- 32 / 100 GB
- အကြောင်းအရာ
- 8192 · BF16 · 1 တောင်းဆိုမှု
DeepSeek-R1-Distill-Qwen-14B
Reasoning စမ်းသပ်မှုများနှင့် domain-specific assistant များ
DeepSeek-R1 outputs များကို Qwen2.5-14B base ပေါ်တွင် distilled လုပ်ထားသော သီးခြား DeepSeek reasoning model တစ်ခုဖြစ်သည်။ ၎င်းသည် အပြည့်အစုံ 671B DeepSeek-R1 model သို့မဟုတ် မော်ဒယ်နှစ်ခုပါ အစုအဝေး မဟုတ်ပါ။
- GPU VRAM
- Assessment required
- စီစဉ်ထားသော RAM / disk
- 64 / 150 GB
- အကြောင်းအရာ
- 8192 · BF16 · 1 တောင်းဆိုမှု
DeepSeek-R1-Distill-Qwen-32B
သီးသန့်အခြေခံအဆောက်အအုံပေါ်ရှိ ပိုမိုကြီးမားသော reasoning workload များ
DeepSeek-R1 outputs များကို Qwen2.5-32B base ပေါ်တွင် distilled လုပ်ထားသော သီးခြား DeepSeek reasoning model တစ်ခုဖြစ်သည်။ ၎င်းသည် အပြည့်အစုံ 671B DeepSeek-R1 model သို့မဟုတ် မော်ဒယ်နှစ်ခုပါ အစုအဝေး မဟုတ်ပါ။
- GPU VRAM
- Assessment required
- စီစဉ်ထားသော RAM / disk
- 128 / 200 GB
- အကြောင်းအရာ
- 8192 · BF16 · 1 တောင်းဆိုမှု
အခြားမော်ဒယ် သို့မဟုတ် cluster တစ်ခု လိုအပ်ပါသလား?
Atlas သည် သင့်လိုအပ်ချက်များကို အကဲဖြတ်ပြီး ရှုပ်ထွေးသော ဖွဲ့စည်းပုံများကို ကျွန်ုပ်တို့၏ ကျွမ်းကျင်သူများထံ လွှဲပြောင်းပေးမည်။
Atlas Ai Navigator →