GLOBALATLAS AI · INFERENCË E DEDIKUAR
Konfigurime AI gati
Zgjidhni një konfigurim Qwen, DeepSeek ose Mistral me një checkpoint të saktë, vlerësim memorie GPU dhe cilësime shërbimi.
Nga një model te konfigurimi i tij
Zgjidhni një version të saktë të modelit. Çdo build përfshin një vlerësim të memories së inferencës, cilësime shërbimi dhe pajisje të përputhshme nga katalogu. Disponueshmëria kontrollohet pas përzgjedhjes; instalimi konfirmohet para porosisë.
Qwen2.5-7B-Instruct
Asistentë privatë tekstualë dhe chat shumëgjuhësh
Model teksti i optimizuar për instruksione. Kërkimi i dokumenteve kërkon një shërbim të veçantë rikuperimi/indeximi; imazhet dhe audio nuk mbështeten nga ky checkpoint.
- GPU VRAM
- Assessment required
- RAM / disk i planifikuar
- 32 / 100 GB
- Konteksti
- 8192 · BF16 · 1 kërkesë
Qwen2.5-14B-Instruct
Asistentë biznesi dhe përpunim i strukturuar dokumentesh
Model teksti i optimizuar për instruksione. Kërkimi i dokumenteve kërkon një shërbim të veçantë rikuperimi/indeximi; imazhet dhe audio nuk mbështeten nga ky checkpoint.
- GPU VRAM
- Assessment required
- RAM / disk i planifikuar
- 64 / 150 GB
- Konteksti
- 8192 · BF16 · 1 kërkesë
Qwen2.5-32B-Instruct
Udhëzime komplekse dhe një model gjuhësor më i madh i hostuar vetë
Model teksti i optimizuar për instruksione. Kërkimi i dokumenteve kërkon një shërbim të veçantë rikuperimi/indeximi; imazhet dhe audio nuk mbështeten nga ky checkpoint.
- GPU VRAM
- Assessment required
- RAM / disk i planifikuar
- 128 / 200 GB
- Konteksti
- 8192 · BF16 · 1 kërkesë
Mistral-7B-Instruct-v0.3
Shërbime teksti dhe backend-e kompakte aplikacionesh
Model teksti i optimizuar për instruksione me tokenizer-in v3. Thirrja e funksioneve kërkon një chat template të përputhshëm dhe ekzekutim mjetesh nga ana e aplikacionit.
- GPU VRAM
- Assessment required
- RAM / disk i planifikuar
- 32 / 100 GB
- Konteksti
- 8192 · BF16 · 1 kërkesë
DeepSeek-R1-Distill-Qwen-14B
Eksperimente arsyetimi dhe asistentë për fusha të caktuara
Një model i veçantë arsyetimi DeepSeek, i distiluar duke përdorur output-e DeepSeek-R1 mbi një bazë Qwen2.5-14B. Nuk është modeli i plotë 671B DeepSeek-R1 ose një paketë prej dy modelesh.
- GPU VRAM
- Assessment required
- RAM / disk i planifikuar
- 64 / 150 GB
- Konteksti
- 8192 · BF16 · 1 kërkesë
DeepSeek-R1-Distill-Qwen-32B
Ngarkesa më të mëdha të arsyetimit në infrastrukturë të dedikuar
Një model i veçantë arsyetimi DeepSeek, i distiluar duke përdorur output-e DeepSeek-R1 mbi një bazë Qwen2.5-32B. Nuk është modeli i plotë 671B DeepSeek-R1 ose një paketë prej dy modelesh.
- GPU VRAM
- Assessment required
- RAM / disk i planifikuar
- 128 / 200 GB
- Konteksti
- 8192 · BF16 · 1 kërkesë
Ju nevojitet një model tjetër ose një cluster?
Atlas do t’i vlerësojë kërkesat tuaja dhe do t’ua kalojë konfigurimet komplekse specialistëve tanë.
Atlas Ai Navigator →