H100
المرجعية هي H100 SXM 80 جيجابايت. يستخدم H100 NVL تكوين ذاكرة مختلف؛ يجب أن يحدد العرض الترويجي الطراز الدقيق.
استكشاف H100 →الذكاء الاصطناعي GlobalAtlas · H100 مقابل H200
H100 مقابل H200
قارن بين ذاكرة H100 و H200، والهندسة المعمارية واعتبارات النشر باستخدام مواصفات الشركة المصنعة.
| معامل | H100 | H200 |
|---|---|---|
| ذاكرة GPU | 80 GB | 141 GB |
| تقنية الذاكرة | HBM3 | HBM3e |
| الهندسة المعمارية | Hopper | Hopper |
| ملف تعريف عبء العمل | تدريب، استنتاج، حوسبة معجلة للذكاء الاصطناعي | استنتاج LLM كثيف الذاكرة والحوسبة العلمية |
| النسخة المرجعية | المرجعية هي H100 SXM 80 جيجابايت. يستخدم H100 NVL تكوين ذاكرة مختلف؛ يجب أن يحدد العرض الترويجي الطراز الدقيق. | 141 جيجابايت هي ذاكرة GPU، وليست ذاكرة النظام. أكد عدد وحدات المعالجة الرسومية والاتصال المطلوب قبل اختيار طوبولوجيا التدريب. |
| السعر | السعر عند الطلبالتكوين والمنطقة للموافقة عليها لاحقًا | السعر عند الطلبالتكوين والمنطقة للموافقة عليها لاحقًا |
أي تكوين يناسب عبء عملك؟
H200
H200 هو خيار عندما يكون ميزانية ذاكرة H100 مقيدة. ذاكرته الأكبر لا تضمن تلقائيًا طلبات في الثانية أكثر.
استكشاف H200 →قارن نفس عبء العمل
استخدام نفس النموذج أو المشهد، والدقة، وحجم الدفعة، وإصدار البرنامج. سجل معدل النقل، والكمون، والذاكرة القصوى، وتكلفة الخادم الإجمالية. تحتوي هذه الجدول على مواصفات الأجهزة، وليس أداء التطبيق المقاس.