GLOBALATLAS AI · സമർപ്പിത ഇൻഫറൻസ്
തയ്യാറായ AI കോൺഫിഗറേഷനുകൾ
കൃത്യമായ ചെക്ക്പോയിന്റ്, GPU മെമ്മറി മൂല്യനിർണയം, സർവിംഗ് ക്രമീകരണങ്ങൾ എന്നിവയോടുകൂടിയ ഒരു Qwen, DeepSeek അല്ലെങ്കിൽ Mistral കോൺഫിഗറേഷൻ തിരഞ്ഞെടുക്കുക.
ഒരു മോഡലിൽ നിന്ന് അതിന്റെ കോൺഫിഗറേഷനിലേക്ക്
ഒരു കൃത്യമായ മോഡൽ റിലീസ് തിരഞ്ഞെടുക്കുക. ഓരോ ബിൽഡിലും ഇൻഫറൻസ് മെമ്മറി കണക്ക്, സർവിംഗ് ക്രമീകരണങ്ങൾ, അനുയോജ്യമായ കാറ്റലോഗ് ഹാർഡ്‌വെയർ എന്നിവ ഉൾപ്പെടുന്നു. തിരഞ്ഞെടുപ്പിന് ശേഷം ലഭ്യത പരിശോധിക്കും; ഓർഡർ ചെയ്യുന്നതിന് മുമ്പ് ഇൻസ്റ്റലേഷൻ സ്ഥിരീകരിക്കും.
Qwen2.5-7B-Instruct
സ്വകാര്യ ടെക്‌സ്‌റ്റ് അസിസ്റ്റന്റുകളും ബഹുഭാഷാ ചാറ്റും
നിർദ്ദേശ-പരിശീലിത ടെക്‌സ്‌റ്റ് മോഡൽ. പ്രമാണ തിരയൽ നടത്താൻ വേർതിരിച്ച റിട്രീവൽ/ഇൻഡക്സിംഗ് സേവനം ആവശ്യമാണ്; ചിത്രങ്ങളും ഓഡിയോയും ഈ ചെക്ക്പോയിന്റിൽ പിന്തുണയ്ക്കുന്നില്ല.
- GPU VRAM
- Assessment required
- പ്ലാൻ ചെയ്ത RAM / ഡിസ്ക്
- 32 / 100 GB
- കോൺടെക്സ്റ്റ്
- 8192 · BF16 · 1 അഭ്യർത്ഥന
Qwen2.5-14B-Instruct
ബിസിനസ് അസിസ്റ്റന്റുകളും ഘടനാബദ്ധമായ പ്രമാണ പ്രോസസ്സിംഗും
നിർദ്ദേശ-പരിശീലിത ടെക്‌സ്‌റ്റ് മോഡൽ. പ്രമാണ തിരയൽ നടത്താൻ വേർതിരിച്ച റിട്രീവൽ/ഇൻഡക്സിംഗ് സേവനം ആവശ്യമാണ്; ചിത്രങ്ങളും ഓഡിയോയും ഈ ചെക്ക്പോയിന്റിൽ പിന്തുണയ്ക്കുന്നില്ല.
- GPU VRAM
- Assessment required
- പ്ലാൻ ചെയ്ത RAM / ഡിസ്ക്
- 64 / 150 GB
- കോൺടെക്സ്റ്റ്
- 8192 · BF16 · 1 അഭ്യർത്ഥന
Qwen2.5-32B-Instruct
സങ്കീർണ നിർദേശങ്ങളും വലിയ സ്വയം-ഹോസ്റ്റ് ചെയ്ത ഭാഷാ മോഡലും
നിർദ്ദേശ-പരിശീലിത ടെക്‌സ്‌റ്റ് മോഡൽ. പ്രമാണ തിരയൽ നടത്താൻ വേർതിരിച്ച റിട്രീവൽ/ഇൻഡക്സിംഗ് സേവനം ആവശ്യമാണ്; ചിത്രങ്ങളും ഓഡിയോയും ഈ ചെക്ക്പോയിന്റിൽ പിന്തുണയ്ക്കുന്നില്ല.
- GPU VRAM
- Assessment required
- പ്ലാൻ ചെയ്ത RAM / ഡിസ്ക്
- 128 / 200 GB
- കോൺടെക്സ്റ്റ്
- 8192 · BF16 · 1 അഭ്യർത്ഥന
Mistral-7B-Instruct-v0.3
ടെക്‌സ്‌റ്റ് സേവനങ്ങളും കോംപാക്റ്റ് ആപ്ലിക്കേഷൻ ബാക്ക്‌എൻഡുകളും
v3 ടോക്കനൈസർ ഉപയോഗിച്ചുള്ള നിർദ്ദേശ-പരിശീലിത ടെക്‌സ്‌റ്റ് മോഡൽ. ഫംഗ്ഷൻ കോൾ ചെയ്യുന്നതിന് അനുയോജ്യമായ ചാറ്റ് ടെംപ്ലേറ്റും അപ്ലിക്കേഷൻ വശത്തെ ടൂൾ എക്സിക്യൂഷനും ആവശ്യമാണ്.
- GPU VRAM
- Assessment required
- പ്ലാൻ ചെയ്ത RAM / ഡിസ്ക്
- 32 / 100 GB
- കോൺടെക്സ്റ്റ്
- 8192 · BF16 · 1 അഭ്യർത്ഥന
DeepSeek-R1-Distill-Qwen-14B
റീസണിംഗ് പരീക്ഷണങ്ങളും ഡൊമെയ്ൻ-സ്പെസിഫിക് അസിസ്റ്റന്റുകളും
DeepSeek-R1 ഔട്ട്പുട്ടുകൾ Qwen2.5-14B ബേസിൽ ഉപയോഗിച്ച് ഡിസ്റ്റിൽ ചെയ്ത ഒരു വേർതിരിച്ച DeepSeek റീസണിംഗ് മോഡൽ. ഇത് പൂർണ്ണമായ 671B DeepSeek-R1 മോഡലോ രണ്ട് മോഡലുകളുടെ ഒരു ബണ്ടിലോ അല്ല.
- GPU VRAM
- Assessment required
- പ്ലാൻ ചെയ്ത RAM / ഡിസ്ക്
- 64 / 150 GB
- കോൺടെക്സ്റ്റ്
- 8192 · BF16 · 1 അഭ്യർത്ഥന
DeepSeek-R1-Distill-Qwen-32B
സമർപ്പിത ഇൻഫ്രാസ്ട്രക്ചറിലുള്ള കൂടുതൽ വലുതായ റീസണിംഗ് വർക്ക്‌ലോഡുകൾ
DeepSeek-R1 ഔട്ട്പുട്ടുകൾ Qwen2.5-32B ബേസിൽ ഉപയോഗിച്ച് ഡിസ്റ്റിൽ ചെയ്ത ഒരു വേർതിരിച്ച DeepSeek റീസണിംഗ് മോഡൽ. ഇത് പൂർണ്ണമായ 671B DeepSeek-R1 മോഡലോ രണ്ട് മോഡലുകളുടെ ഒരു ബണ്ടിലോ അല്ല.
- GPU VRAM
- Assessment required
- പ്ലാൻ ചെയ്ത RAM / ഡിസ്ക്
- 128 / 200 GB
- കോൺടെക്സ്റ്റ്
- 8192 · BF16 · 1 അഭ്യർത്ഥന
വേറൊരു മോഡൽ അല്ലെങ്കിൽ ഒരു ക്ലസ്റ്റർ വേണമോ?
Atlas നിങ്ങളുടെ ആവശ്യകതകൾ വിലയിരുത്തി സങ്കീർണമായ കോൺഫിഗറേഷനുകൾ നമ്മുടെ വിദഗ്ധർക്കു കൈമാറും.
Atlas Ai Navigator →