GLOBALATLAS AI · გამოყოფილი ინფერენსი
მზა AI კონფიგურაციები
აირჩიეთ Qwen, DeepSeek ან Mistral კონფიგურაცია ზუსტი ჩექპოინტით, GPU მეხსიერების შეფასებით და სერვინგის პარამეტრებით.
მოდელიდან მის კონფიგურაციამდე
აირჩიეთ მოდელის ზუსტი გამოშვება. თითოეული build მოიცავს inference მეხსიერების შეფასებას, სერვინგის პარამეტრებს და კატალოგის თავსებად აპარატურას. ხელმისაწვდომობა მოწმდება არჩევის შემდეგ; ინსტალაცია დადასტურებულია შეკვეთამდე.
Qwen2.5-7B-Instruct
კერძო ტექსტური ასისტენტები და მრავალენოვანი ჩატი
ინსტრუქციებით ნასწავლი ტექსტური model. დოკუმენტების ძიებას სჭირდება ცალკე retrieval/indexing სერვისი; ეს checkpoint სურათებსა და აუდიოს არ უჭერს მხარს.
- GPU VRAM
- Assessment required
- დაგეგმილი RAM / disk
- 32 / 100 GB
- კონტექსტი
- 8192 · BF16 · 1 მოთხოვნა
Qwen2.5-14B-Instruct
ბიზნეს-ასისტენტები და სტრუქტურირებული დოკუმენტების დამუშავება
ინსტრუქციებით ნასწავლი ტექსტური model. დოკუმენტების ძიებას სჭირდება ცალკე retrieval/indexing სერვისი; ეს checkpoint სურათებსა და აუდიოს არ უჭერს მხარს.
- GPU VRAM
- Assessment required
- დაგეგმილი RAM / disk
- 64 / 150 GB
- კონტექსტი
- 8192 · BF16 · 1 მოთხოვნა
Qwen2.5-32B-Instruct
რთული ინსტრუქციები და უფრო დიდი თვითმასპინძელი ენობრივი მოდელი
ინსტრუქციებით ნასწავლი ტექსტური model. დოკუმენტების ძიებას სჭირდება ცალკე retrieval/indexing სერვისი; ეს checkpoint სურათებსა და აუდიოს არ უჭერს მხარს.
- GPU VRAM
- Assessment required
- დაგეგმილი RAM / disk
- 128 / 200 GB
- კონტექსტი
- 8192 · BF16 · 1 მოთხოვნა
Mistral-7B-Instruct-v0.3
ტექსტური სერვისები და კომპაქტური აპლიკაციის backend-ები
ინსტრუქციებით ნასწავლი ტექსტური model v3 tokenizer-ით. Function calling მოითხოვს თავსებად chat template-ს და აპლიკაციის მხარეს tool execution-ს.
- GPU VRAM
- Assessment required
- დაგეგმილი RAM / disk
- 32 / 100 GB
- კონტექსტი
- 8192 · BF16 · 1 მოთხოვნა
DeepSeek-R1-Distill-Qwen-14B
Reasoning ექსპერიმენტები და დომენური ასისტენტები
ცალკე DeepSeek reasoning model, გამოყვანილი DeepSeek-R1 output-ებიდან Qwen2.5-14B base-ზე. ეს არ არის სრული 671B DeepSeek-R1 model და არც ორი model-ის bundle.
- GPU VRAM
- Assessment required
- დაგეგმილი RAM / disk
- 64 / 150 GB
- კონტექსტი
- 8192 · BF16 · 1 მოთხოვნა
DeepSeek-R1-Distill-Qwen-32B
უფრო დიდი reasoning დატვირთვები გამოყოფილ ინფრასტრუქტურაზე
ცალკე DeepSeek reasoning model, გამოყვანილი DeepSeek-R1 output-ებიდან Qwen2.5-32B base-ზე. ეს არ არის სრული 671B DeepSeek-R1 model და არც ორი model-ის bundle.
- GPU VRAM
- Assessment required
- დაგეგმილი RAM / disk
- 128 / 200 GB
- კონტექსტი
- 8192 · BF16 · 1 მოთხოვნა
სხვა model ან cluster გჭირდებათ?
Atlas შეაფასებს თქვენს მოთხოვნებს და რთულ კონფიგურაციებს ჩვენს სპეციალისტებს გადასცემს.
Atlas Ai Navigator →