H100
Референтният модел е H100 SXM 80 GB. H100 NVL използва различна конфигурация на паметта; офертата трябва да идентифицира точния вариант.
Разгледайте H100 →GLOBALATLAS AI · H100 срещу H200
Сравнете паметта, архитектурата и разположението на H100 и H200, използвайки спецификациите на производителя.
| Параметър | H100 | H200 |
|---|---|---|
| Памет на GPU | 80 GB | 141 GB |
| Технология на паметта | HBM3 | HBM3e |
| Архитектура | Hopper | Hopper |
| Профил на натоварване | AI обучение, inference и ускорено изчисление | Интензивна памет за inference на LLM и научни изчисления |
| Референтен вариант | Референтният модел е H100 SXM 80 GB. H100 NVL използва различна конфигурация на паметта; офертата трябва да идентифицира точния вариант. | 141 GB е памет на GPU, не системна RAM. Потвърдете броя на GPU и необходимата свързаност преди да изберете топология за обучение. |
| Цена | Ценообразуване по заявкаКонфигурация и регион за потвърждение | Ценообразуване по заявкаКонфигурация и регион за потвърждение |
Референтният модел е H100 SXM 80 GB. H100 NVL използва различна конфигурация на паметта; офертата трябва да идентифицира точния вариант.
Разгледайте H100 →H200 е кандидат, когато бюджетът за памет на H100 е ограничен. По-голямата VRAM не автоматично означава повече заявки в секунда.
Разгледайте H200 →Използвайте същия модел или сцена, прецизност, размер на партидата и версия на софтуера. Запишете пропускателната способност, латентността, върховата памет и общата цена на сървъра. Тази таблица съдържа хардуерни спецификации, а не измерена производителност на приложението.