GLOBALATLAS AI · SKIRTOJI INFERENCIJA
Paruoštos DI konfigūracijos
Pasirinkite Qwen, DeepSeek arba Mistral konfigūraciją su tiksliu kontroliniu tašku, GPU atminties įvertinimu ir aptarnavimo nustatymais.
Nuo modelio iki jo konfigūracijos
Pasirinkite tikslų modelio leidimą. Kiekviename leidime pateikiamas inferencijos atminties įvertis, aptarnavimo nustatymai ir suderinama katalogo aparatinė įranga. Prieinamumas tikrinamas po pasirinkimo; diegimas patvirtinamas prieš užsakymą.
Qwen2.5-7B-Instruct
Privatūs tekstiniai asistentai ir daugiakalbis pokalbis
Instrukcijomis suderintas tekstinis modelis. Dokumentų paieškai reikia atskiros paieškos / indeksavimo paslaugos; šis kontrolinis taškas nepalaiko vaizdų ir garso.
- GPU VRAM
- Assessment required
- Planuojama RAM / diskas
- 32 / 100 GB
- Kontekstas
- 8192 · BF16 · 1 užklausa
Qwen2.5-14B-Instruct
Verslo asistentai ir struktūrizuotas dokumentų apdorojimas
Instrukcijomis suderintas tekstinis modelis. Dokumentų paieškai reikia atskiros paieškos / indeksavimo paslaugos; šis kontrolinis taškas nepalaiko vaizdų ir garso.
- GPU VRAM
- Assessment required
- Planuojama RAM / diskas
- 64 / 150 GB
- Kontekstas
- 8192 · BF16 · 1 užklausa
Qwen2.5-32B-Instruct
Sudėtingos instrukcijos ir didesnis vietoje talpinamas kalbos modelis
Instrukcijomis suderintas tekstinis modelis. Dokumentų paieškai reikia atskiros paieškos / indeksavimo paslaugos; šis kontrolinis taškas nepalaiko vaizdų ir garso.
- GPU VRAM
- Assessment required
- Planuojama RAM / diskas
- 128 / 200 GB
- Kontekstas
- 8192 · BF16 · 1 užklausa
Mistral-7B-Instruct-v0.3
Teksto paslaugos ir kompaktiškos programų posistemės
Instrukcijomis suderintas tekstinis modelis su v3 tokenizeriu. Funkcijų iškvietimui reikia suderinamo pokalbio šablono ir programos pusėje vykdomų įrankių.
- GPU VRAM
- Assessment required
- Planuojama RAM / diskas
- 32 / 100 GB
- Kontekstas
- 8192 · BF16 · 1 užklausa
DeepSeek-R1-Distill-Qwen-14B
Samprotavimo eksperimentai ir srities asistentai
Atskiras DeepSeek samprotavimo modelis, distiliuotas naudojant DeepSeek-R1 išvestis Qwen2.5-14B bazėje. Tai nėra pilnas 671B DeepSeek-R1 modelis ir ne dviejų modelių paketas.
- GPU VRAM
- Assessment required
- Planuojama RAM / diskas
- 64 / 150 GB
- Kontekstas
- 8192 · BF16 · 1 užklausa
DeepSeek-R1-Distill-Qwen-32B
Didesnės samprotavimo apkrovos dedikuotoje infrastruktūroje
Atskiras DeepSeek samprotavimo modelis, distiliuotas naudojant DeepSeek-R1 išvestis Qwen2.5-32B bazėje. Tai nėra pilnas 671B DeepSeek-R1 modelis ir ne dviejų modelių paketas.
- GPU VRAM
- Assessment required
- Planuojama RAM / diskas
- 128 / 200 GB
- Kontekstas
- 8192 · BF16 · 1 užklausa
Reikia kito modelio ar klasterio?
Atlas įvertins jūsų reikalavimus ir sudėtingas konfigūracijas perduos mūsų specialistams.
Atlas Ai Navigator →