Обучение
Задайте памет за тежести, състояние на оптимизатора и активации. Мулти-GPU обучение също изисква подходяща свързаност.
HOPPER · ДАНЕН ЦЕНТЪР
NVIDIA H100 за изискващи AI натоварвания
80 GB HBM3 памет за натоварвания, при които бюджетът за памет определя архитектурата. Планирайте вашия сървър за обучение или inference около модела, набора от данни и топологията на GPU.
Преглед на конфигурацииВАШИЯТ СЪРВЪР
Изградете около вашата работна натовареност
Паметта на GPU е част от сървъра. Посочете CPU, системна RAM, съхранение и регион, за да проверите цялата конфигурация.
- Размер на модел и бюджет за памет
- CPU, RAM и съхранение на данни
- Изисквания за регион и внедряване
ТРУДОВИ ЗАДАЧИ
Когато паметта е най-важна
Inference на LLM
Планирайте VRAM за модела и KV кеша заедно. Дължината на контекста и едновременните заявки влияят на изискванията за памет.
Научни изчисления
Съвместете числовата прецизност и изискванията към CUDA софтуера с вашите изчисления преди избор на хост.
ЛОКАЦИЯ
Избери регион за вашата работна натовареност
Дръжте изчисленията близо до вашите данни и потребители. Капацитетът се проверява за избрания модел и регион.
Европа
Достъпност по заявка
САЩ
Достъпност по заявка
Азия
Достъпност по заявка
СРАВНЕНИЕ
Обмислете различен бюджет за памет.
Ampere80 GB
NVIDIA A100
Установени работни натоварвания с CUDA и обучение на модели
- Памет
- HBM2e
- Статус
- По заявка
Ценообразуване по заявкаКонфигурация и регион за потвърждение
Разгледайте модел Hopper141 GB
NVIDIA H200
Интензивна памет за inference на LLM и научни изчисления
- Памет
- HBM3e
- Статус
- По заявка
Ценообразуване по заявкаКонфигурация и регион за потвърждение
Разгледайте модел Ada Lovelace24 GB
NVIDIA RTX 4090
Прототипиране, генериране на изображения и рендериране
- Памет
- GDDR6X
- Статус
- По заявка
Ценообразуване по заявкаКонфигурация и регион за потвърждение
Разгледайте модел Кой вариант H100 е описан?
Референтната спецификация е H100 SXM 80 GB. Вариантите PCIe и NVL се различават; трябва да се потвърди точният GPU в конфигурацията на сървъра.
Гарантира ли 80 GB, че моделът ми ще пасне?
Не. Теглата, прецизността, активиранията и кешът споделят бюджета за памет. Проверете вашия фреймуърк и тествайте желаното натоварване.
Мога ли да заявя няколко GPU?
Да, включете броя GPU и изискванията за свързаност във вашата заявка. Капацитетът и топологията трябва да бъдат потвърдени преди внедряване.
ВАШАТА КОНФИГУРАЦИЯ
Заявете оферта за инфраструктура
Изберете ресурси и време на работа. Ще потвърдим цена за вашата конфигурация.
Всеки ресурс има своя собствена конфигурация, посочена в списъка. Множество GPU сървъри не образуват NVLink клъстер. Месечните тарифи покриват цялата фактурна период; съхранението и трафикът извън конфигурацията не са включени.