GLOBALATLAS AI · AI انفراسٹرکچر
AI انفراسٹرکچر
تربیت ایک ماڈل کو تبدیل کرتی ہے؛ انفرنس اسے چلاتا ہے۔ ماڈل سرورنگ، ڈیٹا سیٹس اور ایپلیکیشن APIs کے لیے علیحدہ وسائل کی ضرورت ہوتی ہے۔
AI لائف سائیکل کا ایک مرحلہ منتخب کریں۔
تربیت اور مطابقت کریں
ماڈل سرور فراہم کریں
LLM ہوسٹنگ
ایک ماڈل سروس کو یادداشت میں وزن، رن ٹائم بفرز، KV کیش اور ایپلیکیشن اینڈپوائنٹ کی ضرورت ہوتی ہے۔
تلاش کریں →AI انفرنس
انفرنس ایک تربیت یافتہ ماڈل کو چلائے گا۔ ان پٹ سائز، بیچنگ اور سیاق و سباق کی لمبائی کام کرنے والی یادداشت اور ماڈل وزن کا تعین کرتی ہے۔
تلاش کریں →DeepSeek کے لیے انفراسٹرکچر
DeepSeek-R1 اور اس کے distilled ماڈلز مختلف ورک لوڈز ہیں۔ distilled ریلیز 1.5B سے 70B پیرا میٹرز تک ہیں؛ مکمل ماڈل کے لیے علیحدہ سائزنگ کی ضرورت ہے۔
تلاش کریں →Llama کے لیے انفراسٹرکچر
Llama ماڈلز کا ایک خاندان ہے۔ Llama 3.1 8B ایک 8-ارب پیرا میٹر والے ماڈل کی مثال ہے، ہر Llama ریلیز کے لیے صلاحیت کا وعدہ نہیں۔
تلاش کریں →Mistral کے لیے انفراسٹرکچر
Mistral 7B اور دیگر Mistral ریلیزز سائز اور آرکیٹیکچر میں مختلف ہیں۔ ہارڈویئر سائز کرنے سے پہلے مخصوص ماڈل کارڈ منتخب کریں۔
تلاش کریں →Qwen کے لیے انفراسٹرکچر
Qwen میں ٹیکسٹ، کوڈ اور ملٹی موڈل ماڈل خاندان شامل ہیں۔ ایک مخصوص ماڈل ریلیز، سپورٹ شدہ سروس رن ٹائم، پریسیشن اور سیاق و سباق بجٹ سے شروع کریں؛ یہ انتخاب انفراسٹرکچر کی ضروریات کا تعین کرتا ہے۔
تلاش کریں →Gemma کے لیے انفراسٹرکچر
Gemma کے متعدد سائز اور کام کے لحاظ سے مخصوص ویریئنٹس موجود ہیں۔ خود میزبان سروس کی منصوبہ بندی سے پہلے درست ماڈل کارڈ منتخب کریں، اس کی قابلِ اطلاق استعمال کی شرائط قبول کریں، اور رن ٹائم سپورٹ کی تصدیق کریں۔
تلاش کریں →Stable Diffusion کے لیے انفراسٹرکچر
Stable Diffusion تصویر بنانے کے ورک لوڈز کے لیے استعمال ہوتا ہے۔ SDXL Base، اختیاری رِفائنر اور اضافی ورک فلو اجزاء کی میموری اور اسٹوریج ضروریات الگ ہیں۔ ریزولوشن اور بیچ سائز مکمل پائپ لائن کو متاثر کرتے ہیں۔
تلاش کریں →FLUX کے لیے انفراسٹرکچر
FLUX ریلیز آرکیٹیکچر، انفرنس کوڈ اور ماڈل لائسنسنگ میں مختلف ہیں۔ عین ریلیز اور معاون ورک فلو منتخب کریں، پھر متوقع تصویر ریزولوشن اور پریسیشن پر عروجی میموری کا اندازہ لگائیں۔
تلاش کریں →Whisper کے لیے انفراسٹرکچر
Whisper ایک اوپن سورس سپیچ ریکگنیشن ماڈل خاندان ہے۔ خود ہوسٹ ٹرانسکرپشن میں ڈاؤن لوڈ شدہ ماڈل ویٹس اور مقامی انفرنس رن ٹائم استعمال ہوتا ہے؛ یہ ہوسٹ شدہ سپیچ API سبسکرپشن سے الگ ہے۔
تلاش کریں →مواد کی پروسیسنگ
ایمبیڈنگ انفراسٹرکچر
ایمبیڈنگ پائپ لائنز انپٹ کو ویکٹروں میں انکوڈ کرتی ہیں اور عموماً ماڈل کے اجرا کے ساتھ ایک علیحدہ انڈیکس یا ڈیٹا بیس کو بھی شامل کرتی ہیں۔
تلاش کریں →امیج جنریشن انفراسٹرکچر
امیج جنریشن میموری ماڈل، ریزولوشن، بیچ سائز اور انفرنس پائپ لائن پر منحصر ہے۔
تلاش کریں →اسپیش AI انفراسٹرکچر
ٹرانسکرپشن اور تقریر کی سنتھیسز میں مختلف لیٹنسی، بیچنگ اور آڈیو پروسیسنگ کی ضروریات ہوتی ہیں۔
تلاش کریں →