GLOBALATLAS AI · NAMENSKI INFERENČNI SISTEM
Pripravljene konfiguracije AI
Izberite konfiguracijo Qwen, DeepSeek ali Mistral z natančnim checkpointom, oceno pomnilnika GPU in nastavitvami streženja.
Od modela do njegove konfiguracije
Izberite natančno izdajo modela. Vsaka različica vključuje oceno pomnilnika za inferenco, nastavitve streženja in združljivo strojno opremo iz kataloga. Razpoložljivost se preveri po izbiri; namestitev se potrdi pred naročilom.
Qwen2.5-7B-Instruct
Zasebni besedilni pomočniki in večjezični klepet
Besedilni model, uglajen za navodila. Iskanje dokumentov zahteva ločeno storitev za pridobivanje/indexiranje; slike in zvok s tem checkpointom niso podprti.
- GPU VRAM
- Assessment required
- Načrtovani RAM / disk
- 32 / 100 GB
- Kontekst
- 8192 · BF16 · 1 zahteva
Qwen2.5-14B-Instruct
Poslovni pomočniki in strukturirana obdelava dokumentov
Besedilni model, uglajen za navodila. Iskanje dokumentov zahteva ločeno storitev za pridobivanje/indexiranje; slike in zvok s tem checkpointom niso podprti.
- GPU VRAM
- Assessment required
- Načrtovani RAM / disk
- 64 / 150 GB
- Kontekst
- 8192 · BF16 · 1 zahteva
Qwen2.5-32B-Instruct
Zapletena navodila in večji jezikovni model v lastni režiji
Besedilni model, uglajen za navodila. Iskanje dokumentov zahteva ločeno storitev za pridobivanje/indexiranje; slike in zvok s tem checkpointom niso podprti.
- GPU VRAM
- Assessment required
- Načrtovani RAM / disk
- 128 / 200 GB
- Kontekst
- 8192 · BF16 · 1 zahteva
Mistral-7B-Instruct-v0.3
Besedilne storitve in kompaktni zaledni sistemi aplikacij
Besedilni model, uglajen za navodila, z tokenizerjem v3. Klic funkcij zahteva združljivo predlogo klepeta in izvajanje orodij na ravni aplikacije.
- GPU VRAM
- Assessment required
- Načrtovani RAM / disk
- 32 / 100 GB
- Kontekst
- 8192 · BF16 · 1 zahteva
DeepSeek-R1-Distill-Qwen-14B
Poskusi sklepanja in pomočniki za specifična področja
Ločen model za sklepanje DeepSeek, izpeljan z destilacijo iz izhodov DeepSeek-R1 na osnovi Qwen2.5-14B. To ni celotni model 671B DeepSeek-R1 niti paket dveh modelov.
- GPU VRAM
- Assessment required
- Načrtovani RAM / disk
- 64 / 150 GB
- Kontekst
- 8192 · BF16 · 1 zahteva
DeepSeek-R1-Distill-Qwen-32B
Večje obremenitve za sklepanje na namenski infrastrukturi
Ločen model za sklepanje DeepSeek, izpeljan z destilacijo iz izhodov DeepSeek-R1 na osnovi Qwen2.5-32B. To ni celotni model 671B DeepSeek-R1 niti paket dveh modelov.
- GPU VRAM
- Assessment required
- Načrtovani RAM / disk
- 128 / 200 GB
- Kontekst
- 8192 · BF16 · 1 zahteva
Potrebujete drug model ali gručo?
Atlas bo ocenil vaše zahteve in zapletene konfiguracije posredoval našim strokovnjakom.
Atlas Ai Navigator →