H100
Ang reference ay H100 SXM 80 GB. Ang H100 NVL ay gumagamit ng ibang memory configuration; kailangang tukuyin ang eksaktong variant sa alok.
Mag-explore sa H100 →GLOBALATLAS AI · Ihambing ang GPU specifications at presyo
Ihambing ang laki ng GPU memory, teknolohiya ng memorya, at arkitektura sa buong katalogo ng hardware ng GlobalAtlas AI.
| Parameter | H100 | H200 | A100 |
|---|---|---|---|
| Memory ng GPU | 80 GB | 141 GB | 80 GB |
| Teknolohiya ng memorya | HBM3 | HBM3e | HBM2e |
| Arkitektura | Hopper | Hopper | Ampere |
| Profile ng workload | AI training, inference at accelerated computing | Memory-intensive na inference ng LLM at scientific computing | Naitatag na mga CUDA workload at model training |
| Reference na variant | Ang reference ay H100 SXM 80 GB. Ang H100 NVL ay gumagamit ng ibang memory configuration; kailangang tukuyin ang eksaktong variant sa alok. | 141 GB ay GPU memory, hindi system RAM. Kumpirmahin ang bilang ng GPU at kinakailangang interconnect bago pumili ng training topology. | Ang reference ay A100 80 GB. Ang A100 ay mayroon ding 40 GB, kaya ang pangalan ng modelo lamang ay hindi sapat upang piliin ang kapasidad. |
| Presyo | Humiling ng presyo sa kahilinganConfiguration at rehiyon na kailangang kumpirmahin | Humiling ng presyo sa kahilinganConfiguration at rehiyon na kailangang kumpirmahin | Humiling ng presyo sa kahilinganConfiguration at rehiyon na kailangang kumpirmahin |
Ang reference ay H100 SXM 80 GB. Ang H100 NVL ay gumagamit ng ibang memory configuration; kailangang tukuyin ang eksaktong variant sa alok.
Mag-explore sa H100 →H200 ay isang kandidato kapag ang memory budget ng H100 ay limitado. Ang mas malaking VRAM nito ay hindi awtomatikong nagtatakda ng mas maraming requests kada segundo.
Mag-explore sa H200 →Ang pahinang ito ay gumagamit ng reference na 80 GB. Ihambing ang kabuuang gastos sa server at ang nasubok na runtime behavior sa H100 bago ilipat ang isang umiiral na workload.
Mag-explore sa A100 →Gamitin ang parehong modelo o scene, precision, batch size, at bersyon ng software. I-record ang throughput, latency, peak memory, at kabuuang gastos sa server. Ang table na ito ay naglalaman ng hardware specifications, hindi ang nasusukat na performance ng aplikasyon.