H100
Ориентир — H100 SXM 80 GB. У H100 NVL другой объём памяти; точный вариант должен быть указан в предложении.
Подробнее о H100 →GLOBALATLAS AI · H100 или H200
H100 или H200
Сравните память, архитектуру и требования к размещению H100 и H200 по спецификациям производителя.
| Параметр | H100 | H200 |
|---|---|---|
| Память GPU | 80 GB | 141 GB |
| Тип памяти | HBM3 | HBM3e |
| Архитектура | Hopper | Hopper |
| Профиль нагрузки | Обучение AI, инференс и ускоренные вычисления | Инференс LLM с большим объёмом памяти и научные вычисления |
| Референсный вариант | Ориентир — H100 SXM 80 GB. У H100 NVL другой объём памяти; точный вариант должен быть указан в предложении. | 141 GB — память GPU, а не оперативная память сервера. Перед выбором топологии обучения уточните число GPU и межсоединение. |
| Цена | Цена по запросуУточним конфигурацию и регион | Цена по запросуУточним конфигурацию и регион |
Какая конфигурация подходит вашей задаче?
H200
H200 стоит рассмотреть, если памяти H100 недостаточно. Больший объём VRAM сам по себе не определяет число запросов в секунду.
Подробнее о H200 →Сравнивайте одинаковую нагрузку
Используйте одну модель или сцену, точность, batch и версию ПО. Запишите пропускную способность, задержку, пиковую память и полную стоимость сервера. Таблица содержит характеристики оборудования, а не измеренную производительность приложения.