H100
ကိုးကားချက်မှာ H100 SXM 80 GB ဖြစ်သည်။ H100 NVL သည် မတူညီသော မှတ်ဉာဏ် ဖွဲ့စည်းမှုရှိသည်။ အဆိုပြုချက်သည် တိကျသော မော်ဒယ်ကို ဖော်ပြရမည်။
H100 ကို စူးစမ်းပါ →GLOBALATLAS AI · GPU အသေးစိတ်နှင့် စျေးနှုန်း နှိုင်းယှဉ်ခြင်း
GlobalAtlas AI ဟာ့ဒ်ဝဲ ကတ်တလော့အတွင်း GPU မှတ်ဉာဏ်အရွယ်အစား၊ မှတ်ဉာဏ်နည်းပညာနှင့် ဖွဲ့စည်းမှုကို နှိုင်းယှဉ်ပါ။
| ပါရာမီတာ | H100 | H200 | A100 |
|---|---|---|---|
| GPU မှတ်ဉာဏ် | 80 GB | 141 GB | 80 GB |
| မှတ်ဉာဏ် နည်းပညာ | HBM3 | HBM3e | HBM2e |
| ဖွဲ့စည်းမှု | Hopper | Hopper | Ampere |
| အလုပ်အမျိုးအစား ပရိုဖိုင် | AI လေ့ကျင့်မှု၊ အနုညာတစက်နှင့် အရှိန်မြှင့်ကွန်ပျူတင်း | မှတ်ဉာဏ်အလွန်အမင်း လိုအပ်သော LLM အနက်ခွဲခြင်းနှင့် သိပ္ပံတွက်ချက်မှုများ | တည်ငြိမ်သော CUDA အလုပ်များနှင့် မော်ဒယ်လေ့ကျင့်ခြင်း |
| ကိုးကားမော်ဒယ် | ကိုးကားချက်မှာ H100 SXM 80 GB ဖြစ်သည်။ H100 NVL သည် မတူညီသော မှတ်ဉာဏ် ဖွဲ့စည်းမှုရှိသည်။ အဆိုပြုချက်သည် တိကျသော မော်ဒယ်ကို ဖော်ပြရမည်။ | 141 GB သည် GPU မှတ်ဉာဏ်ဖြစ်ပြီး စနစ် RAM မဟုတ်ပါ။ သင့်လေ့ကျင့်မှု topology ရွေးချယ်မှုမပြုမီ GPU အရေအတွက်နှင့် လိုအပ်သော အပြန်အလှန်ဆက်သွယ်မှုကို အတည်ပြုပါ။ | ကိုးကားချက်မှာ A100 80 GB ဖြစ်သည်။ A100 သည် 40 GB ဖြင့်လည်း ရှိပြီး မော်ဒယ်နာမည်တစ်ခုတည်းဖြင့် စွမ်းဆောင်ရည် ရွေးချယ်ရန် မလုံလောက်ပါ။ |
| စျေးနှုန်း | တောင်းဆိုမှုအပေါ် စျေးနှုန်းဖွဲ့စည်းမှုနှင့် ဒေသ အတည်ပြုရန် | တောင်းဆိုမှုအပေါ် စျေးနှုန်းဖွဲ့စည်းမှုနှင့် ဒေသ အတည်ပြုရန် | တောင်းဆိုမှုအပေါ် စျေးနှုန်းဖွဲ့စည်းမှုနှင့် ဒေသ အတည်ပြုရန် |
ကိုးကားချက်မှာ H100 SXM 80 GB ဖြစ်သည်။ H100 NVL သည် မတူညီသော မှတ်ဉာဏ် ဖွဲ့စည်းမှုရှိသည်။ အဆိုပြုချက်သည် တိကျသော မော်ဒယ်ကို ဖော်ပြရမည်။
H100 ကို စူးစမ်းပါ →H200 သည် H100 မှတ်ဉာဏ် ဘတ်ဂျက်ကန့်သတ်မှုရှိသောအခါ ရွေးချယ်စရာဖြစ်သည်။ ၎င်း၏ ကြီးမားသော VRAM သည် တစ်စက္ကန့်လျှင် တောင်းဆိုမှုများ ပိုမိုများစေခြင်း မဟုတ်ပါ။
H200 ကို စူးစမ်းပါ →ဤစာမျက်နှာတွင် 80 GB ကိုးကားချက်ကို အသုံးပြုသည်။ ရှိပြီးသား လုပ်ငန်းစဉ်ကို ရွှေ့ရန်မတိုင်မီ စုစုပေါင်း ဆာဗာကုန်ကျစရိတ်နှင့် စမ်းသပ်ထားသော အချိန်ပြေး အပြုအမူကို H100 နှင့် နှိုင်းယှဉ်ပါ။
A100 ကို စူးစမ်းပါ →တူညီသော မော်ဒယ် သို့မဟုတ် ရုပ်ပုံ၊ တိကျမှု၊ batch အရွယ်အစားနှင့် software ဗားရှင်းကို အသုံးပြုပါ။ throughput၊ latency၊ ထိပ်တန်းမှတ်ဉာဏ်နှင့် စုစုပေါင်း server ကုန်ကျစရိတ်ကို မှတ်တမ်းတင်ပါ။ ဤဇယားတွင် hardware ဖော်ပြချက်များသာ ပါဝင်ပြီး application စွမ်းဆောင်ရည် မပါဝင်ပါ။