GLOBALATLAS AI · Арнаулы инференс
Дайын AI конфигурациялары
Дәл чекпойнты, GPU жад бағалауы және қызмет көрсету параметрлері бар Qwen, DeepSeek немесе Mistral конфигурациясын таңдаңыз.
Модельден оның конфигурациясына дейін
Модельдің нақты релизін таңдаңыз. Әр build ішінде inference жадының бағасы, қызмет көрсету параметрлері және үйлесімді каталог жабдығы болады. Қолжетімділік таңдаудан кейін тексеріледі; орнату тапсырыс берер алдында расталады.
Qwen2.5-7B-Instruct
Жеке мәтіндік көмекшілер және көптілді чат
Instruction-tuned мәтіндік модель. Құжат іздеу үшін бөлек retrieval/indexing қызметі қажет; кескіндер мен аудио бұл чекпойнтта қолдау таппайды.
- GPU VRAM
- Assessment required
- Жоспарланған RAM / диск
- 32 / 100 GB
- Контекст
- 8192 · BF16 · 1 сұрауы
Qwen2.5-14B-Instruct
Бизнес-көмекшілер және құрылымдалған құжаттарды өңдеу
Instruction-tuned мәтіндік модель. Құжат іздеу үшін бөлек retrieval/indexing қызметі қажет; кескіндер мен аудио бұл чекпойнтта қолдау таппайды.
- GPU VRAM
- Assessment required
- Жоспарланған RAM / диск
- 64 / 150 GB
- Контекст
- 8192 · BF16 · 1 сұрауы
Qwen2.5-32B-Instruct
Күрделі нұсқаулар және үлкен өздігінен орналастырылатын тілдік модель
Instruction-tuned мәтіндік модель. Құжат іздеу үшін бөлек retrieval/indexing қызметі қажет; кескіндер мен аудио бұл чекпойнтта қолдау таппайды.
- GPU VRAM
- Assessment required
- Жоспарланған RAM / диск
- 128 / 200 GB
- Контекст
- 8192 · BF16 · 1 сұрауы
Mistral-7B-Instruct-v0.3
Мәтін қызметтері және ықшам қолданба backend-тері
v3 токенизаторымен instruction-tuned мәтіндік модель. Function calling үшін үйлесімді chat template және қолданба жағында tool execution қажет.
- GPU VRAM
- Assessment required
- Жоспарланған RAM / диск
- 32 / 100 GB
- Контекст
- 8192 · BF16 · 1 сұрауы
DeepSeek-R1-Distill-Qwen-14B
Reasoning тәжірибелері және салалық көмекшілер
DeepSeek-R1 шығыстары негізінде Qwen2.5-14B базасында ықшамдалған бөлек DeepSeek ойлау моделі. Бұл толық 671B DeepSeek-R1 моделі де, екі модельдің жиыны да емес.
- GPU VRAM
- Assessment required
- Жоспарланған RAM / диск
- 64 / 150 GB
- Контекст
- 8192 · BF16 · 1 сұрауы
DeepSeek-R1-Distill-Qwen-32B
Арнайы инфрақұрылымдағы ірі reasoning жүктемелері
DeepSeek-R1 шығыстары негізінде Qwen2.5-32B базасында ықшамдалған бөлек DeepSeek ойлау моделі. Бұл толық 671B DeepSeek-R1 моделі де, екі модельдің жиыны да емес.
- GPU VRAM
- Assessment required
- Жоспарланған RAM / диск
- 128 / 200 GB
- Контекст
- 8192 · BF16 · 1 сұрауы
Басқа модель немесе кластер керек пе?
Atlas талаптарыңызды бағалап, күрделі конфигурацияларды мамандарымызға жібереді.
Atlas Ai Navigator →