GLOBALATLAS AI · AI ઇન્ફ્રાસ્ટ્રક્ચર
AI ઇન્ફ્રાસ્ટ્રક્ચર
પ્રશિક્ષણ મોડેલને બદલાવે છે; અનુમાન તેને ચલાવે છે. મોડેલ સર્વિંગ, ડેટાસેટ અને એપ્લિકેશન API માટે અલગ સંસાધન જરૂરિયાતો હોય છે.
AI જીવનચક્રનો તબક્કો પસંદ કરો
પ્રશિક્ષણ અને અનુકૂળન
AI તાલીમ
પ્રશિક્ષણ મોડેલ વેઇટ્સ ઉપરાંત સક્રિયતાઓ, ગ્રેડિયન્ટ્સ અને ઑપ્ટિમાઇઝર સ્થિતિ સંગ્રહ કરે છે. ડેટાસેટ થ્રુપુટ અને ચેકપોઈન્ટ્સ પણ મહત્વપૂર્ણ છે.
અન્વેષણ કરો →ફાઇન-ટ્યુનિંગ
ફાઇન-ટ્યુનિંગ પૂર્વપ્રશિક્ષિત મોડેલને અનુકૂળ બનાવે છે. સંપૂર્ણ ફાઇન-ટ્યુનિંગ અને પેરામીટર-કાર્યક્ષમ પદ્ધતિઓની મેમરી જરૂરિયાતો અલગ હોય છે.
અન્વેષણ કરો →મોડેલ સેવા આપો
LLM હોસ્ટિંગ
મોડેલ સેવા માટે મેમરીમાં વજન, રનટાઇમ બફર્સ, KV કેશ અને એપ્લિકેશન એન્ડપોઈન્ટ જરૂરી છે.
અન્વેષણ કરો →AI ઇન્ફરન્સ
અનુમાન તાલીમપ્રાપ્ત મોડેલ ચલાવે છે. ઇનપુટ કદ, બેચિંગ અને સંદર્ભ લંબાઈ કાર્યકારી મેમરી તેમજ મોડેલ વેઇટ્સ નક્કી કરે છે.
અન્વેષણ કરો →DeepSeek માટે ઇન્ફ્રાસ્ટ્રક્ચર
DeepSeek-R1 અને તેના ડિસ્ટિલ્ડ મોડેલો અલગ વર્કલોડ છે. ડિસ્ટિલ્ડ રિલીઝ 1.5B થી 70B પેરામીટર્સ સુધી છે; સંપૂર્ણ મોડેલ માટે અલગ માપન જરૂરી છે.
અન્વેષણ કરો →Llama માટે ઇન્ફ્રાસ્ટ્રક્ચર
Llama મોડેલ્સનું એક પરિવાર છે. Llama 3.1 8B એ 8-બિલિયન-પેરામીટર મોડેલનું ઉદાહરણ છે, દરેક Llama રિલીઝ માટે ક્ષમતા વચન નથી.
અન્વેષણ કરો →Mistral માટે ઇન્ફ્રાસ્ટ્રક્ચર
Mistral 7B અને અન્ય Mistral રિલીઝ કદ અને આર્કિટેક્ચરમાં ભિન્ન છે. હાર્ડવેરનું કદ નક્કી કરતા પહેલા ચોક્કસ મોડેલ કાર્ડ પસંદ કરો.
અન્વેષણ કરો →Qwen માટે ઇન્ફ્રાસ્ટ્રક્ચર
Qwenમાં ટેક્સ્ટ, કોડ અને મલ્ટીમોડલ મોડેલ પરિવાર શામેલ છે. ચોક્કસ મોડેલ રિલીઝ, સપોર્ટેડ સર્વિંગ રનટાઇમ, પ્રિસિઝન અને કન્ટેક્સ્ટ બજેટથી શરૂ કરો; આ પસંદગીઓ ઇન્ફ્રાસ્ટ્રક્ચર જરૂરિયાતો નક્કી કરે છે.
અન્વેષણ કરો →Gemma માટે ઇન્ફ્રાસ્ટ્રક્ચર
Gemma પાસે અનેક કદ અને કાર્ય-વિશિષ્ટ પ્રકારો છે. ચોક્કસ મોડેલ કાર્ડ પસંદ કરો, તેની લાગુ પડતી ઉપયોગની શરતો સ્વીકારો અને સ્વ-હોસ્ટેડ સેવા યોજના બનાવતા પહેલા રનટાઇમ સપોર્ટ ચકાસો.
અન્વેષણ કરો →Stable Diffusion માટે ઇન્ફ્રાસ્ટ્રક્ચર
Stable Diffusion છબી-જનરેશન વર્કલોડ્સ માટે ઉપયોગી છે. SDXL Base, વૈકલ્પિક રિફાઈનર અને વધારાના વર્કફ્લો ઘટકો માટે અલગ મેમરી અને સ્ટોરેજ જરૂરિયાતો હોય છે. રિઝોલ્યુશન અને બૅચ સાઇઝ સમગ્ર પાઇપલાઇનને અસર કરે છે.
અન્વેષણ કરો →FLUX માટે ઇન્ફ્રાસ્ટ્રક્ચર
FLUX રિલીઝ આર્કિટેક્ચર, અનુમાન કોડ અને મોડેલ લાઇસન્સિંગમાં ભિન્ન હોય છે. ચોક્કસ રિલીઝ અને સમર્થિત વર્કફ્લો પસંદ કરો, પછી નિર્ધારિત છબી રિઝોલ્યુશન અને ચોકસાઈ પર પીક મેમરી માપો.
અન્વેષણ કરો →Whisper માટે ઇન્ફ્રાસ્ટ્રક્ચર
Whisper એક ઓપન-સોર્સ સ્પીચ-રેકગ્નિશન મોડેલ પરિવાર છે. સ્વ-હોસ્ટેડ ટ્રાન્સક્રિપ્શન ડાઉનલોડ કરેલા મોડેલ વેઇટ્સ અને સ્થાનિક ઇન્ફરન્સ રનટાઇમનો ઉપયોગ કરે છે; તે હોસ્ટેડ સ્પીચ API સબ્સ્ક્રિપ્શનથી અલગ છે.
અન્વેષણ કરો →સામગ્રી પ્રક્રિયા કરો
એમ્બેડિંગ ઇન્ફ્રાસ્ટ્રક્ચર
એમ્બેડિંગ પાઇપલાઇન્સ ઇનપુટને વેક્ટર્સમાં એન્કોડ કરે છે અને સામાન્ય રીતે મોડેલ એક્ઝિક્યુશનને અલગ ઇન્ડેક્સ અથવા ડેટાબેઝ સાથે જોડે છે.
અન્વેષણ કરો →છબી જનરેશન ઇન્ફ્રાસ્ટ્રક્ચર
છબી જનરેશન મેમરી મોડેલ, રિઝોલ્યુશન, બેચ સાઇઝ અને ઇન્ફરન્સ પાઇપલાઇન પર આધાર રાખે છે.
અન્વેષણ કરો →સ્પીચ AI ઇન્ફ્રાસ્ટ્રક્ચર
ટ્રાન્સક્રિપ્શન અને ભાષણ સંશ્લેષણ માટે વિભિન્ન વિલંબ, બેચિંગ અને ઓડિયો-પ્રોસેસિંગ જરૂરિયાતો હોય છે.
અન્વેષણ કરો →