GLOBALATLAS AI · AI অবকাঠামো
AI অবকাঠামো
প্রশিক্ষণ একটি মডেল পরিবর্তন করে; inference সেটি চালায়। মডেল সার্ভিং, ডেটাসেট ও অ্যাপ্লিকেশন API আলাদা সম্পদ প্রয়োজন।
AI জীবনচক্রের একটি ধাপ নির্বাচন করুন
প্রশিক্ষণ ও অভিযোজন
AI প্রশিক্ষণ
প্রশিক্ষণ অ্যাক্টিভেশন, গ্রেডিয়েন্ট ও অপ্টিমাইজার স্টেট সংরক্ষণ করে, পাশাপাশি মডেল ওজন। ডেটাসেট থ্রুপুট ও চেকপয়েন্ট গুরুত্বপূর্ণ।
অন্বেষণ করুন →সুক্ষ্ম-সংশোধন
সুক্ষ্ম-সংশোধন একটি প্রি-ট্রেইনড মডেলকে মানিয়ে নেওয়া। সম্পূর্ণ সুক্ষ্ম-সংশোধন এবং প্যারামিটার-কার্যকরী পদ্ধতিগুলির বিভিন্ন মেমরি প্রয়োজন।
অন্বেষণ করুন →একটি মডেল সার্ভ করুন
LLM হোস্টিং
একটি মডেল পরিষেবার জন্য ওজন, রানটাইম বাফার, KV ক্যাশ এবং অ্যাপ্লিকেশন এন্ডপয়েন্ট প্রয়োজন।
অন্বেষণ করুন →AI ইনফারেন্স
ইনফারেন্স একটি প্রশিক্ষিত মডেল চালায়। ইনপুট আকার, ব্যাচিং এবং প্রসঙ্গ দৈর্ঘ্য কাজের মেমরি এবং মডেল ওজন নির্ধারণ করে।
অন্বেষণ করুন →DeepSeek এর জন্য অবকাঠামো
DeepSeek-R1 এবং এর ডিস্টিলড মডেলগুলি বিভিন্ন ওয়ার্কলোড। ডিস্টিলড রিলিজগুলি 1.5B থেকে 70B প্যারামিটার পর্যন্ত; সম্পূর্ণ মডেল আলাদা সাইজিং প্রক্রিয়া প্রয়োজন।
অন্বেষণ করুন →Llama এর জন্য অবকাঠামো
Llama একটি মডেল পরিবারের। Llama 3.1 8B একটি 8-অর্থের মডেলের উদাহরণ, প্রতিটি Llama রিলিজের জন্য ক্ষমতা প্রতিশ্রুতি নয়।
অন্বেষণ করুন →Mistral এর জন্য অবকাঠামো
Mistral 7B এবং অন্যান্য Mistral রিলিজের আকার এবং আর্কিটেকচার ভিন্ন। হার্ডওয়্যার সাইজিং এর আগে নির্দিষ্ট মডেল কার্ড নির্বাচন করুন।
অন্বেষণ করুন →Qwen এর জন্য অবকাঠামো
Qwen-এ টেক্সট, কোড ও মাল্টিমোডেল মডেল পরিবার অন্তর্ভুক্ত। নির্দিষ্ট মডেল রিলিজ, সমর্থিত সার্ভিং রUNTIME, প্রিসিশন ও কনটেক্সট বাজেট দিয়ে শুরু করুন; এই পছন্দগুলো অবকাঠামো প্রয়োজনীয়তা নির্ধারণ করে।
অন্বেষণ করুন →Gemma এর জন্য অবকাঠামো
Gemma এর বিভিন্ন আকার এবং টাস্ক-নির্দিষ্ট ভ্যারিয়েন্ট রয়েছে। নির্দিষ্ট মডেল কার্ড নির্বাচন করুন, এর প্রযোজ্য ব্যবহারের শর্ত গ্রহণ করুন এবং স্ব-হোস্টেড সার্ভিস পরিকল্পনা করার আগে রuntime সমর্থন যাচাই করুন।
অন্বেষণ করুন →Stable Diffusion এর জন্য অবকাঠামো
Stable Diffusion চিত্র-উৎপাদন ওয়ার্কলোডে ব্যবহৃত হয়। SDXL Base, একটি ঐচ্ছিক রিফাইনার এবং অতিরিক্ত ওয়ার্কফ্লো উপাদানের জন্য আলাদা মেমোরি ও স্টোরেজ প্রয়োজন। রেজোলিউশন এবং ব্যাচ সাইজ সম্পূর্ণ পাইপলাইনে প্রভাব ফেলে।
অন্বেষণ করুন →FLUX এর জন্য অবকাঠামো
FLUX রিলিজগুলি আর্কিটেকচার, ইনফারেন্স কোড এবং মডেল লাইসেন্সিংয়ে পার্থক্য। সঠিক রিলিজ এবং সমর্থিত ওয়ার্কফ্লো নির্বাচন করুন, তারপর লক্ষ্য ইমেজ রেজোলিউশন এবং প্রিসিশনে শীর্ষ মেমরি পরিমাপ করুন।
অন্বেষণ করুন →Whisper এর জন্য অবকাঠামো
Whisper একটি ওপেন সোর্স স্পিচ-রেকগনিশন মডেল পরিবার। স্ব-হোস্টেড ট্রান্সক্রিপশন ডাউনলোডকৃত মডেল ও স্থানীয় inference রানটাইম ব্যবহার করে; এটি হোস্টেড স্পিচ API সাবস্ক্রিপশন থেকে আলাদা।
অন্বেষণ করুন →প্রক্রিয়া বিষয়বস্তু
এম্বেডিং অবকাঠামো
এম্বেডিং পাইপলাইন ইনপুটকে ভেক্টরে এনকোড করে এবং সাধারণত মডেল কার্যকরীতা সঙ্গে একটি আলাদা সূচক বা ডেটাবেসের সাথে যুক্ত হয়।
অন্বেষণ করুন →চিত্র উৎপাদন অবকাঠামো
চিত্র উৎপাদন মেমরি মডেল, রেজোলিউশন, ব্যাচ সাইজ এবং ইনফারেন্স পাইপলাইন অনুযায়ী পরিবর্তিত হয়।
অন্বেষণ করুন →স্পিচ AI অবকাঠামো
ট্রান্সক্রিপশন ও স্পিচ সিন্থেসিসের লেটেন্সি, ব্যাচিং ও অডিও-প্রক্রিয়াকরণ প্রয়োজনীয়তা আলাদা।
অন্বেষণ করুন →