Навчання
Виділяйте пам’ять для вагів, стану оптимізатора та активацій. Мульти-GPU навчання також потребує відповідного інтерконекту.
HOPPER · ДАНІ ЦЕНТР
NVIDIA H100 для вимогливих AI-навантажень
80 GB пам’яті HBM3 для навантажень, де бюджет пам’яті визначає архітектуру. Плануйте сервер навчання або виведення з урахуванням моделі, набору даних та топології GPU.
Перегляд конфігураційВАШ СЕРВЕР
Будуйте навколо вашого навантаження
Пам’ять GPU — одна з частин сервера. Вкажіть CPU, системну RAM, зберігання та регіон для перевірки повної конфігурації.
- Розмір моделі та бюджет пам’яті
- CPU, RAM та зберігання даних
- Вимоги до регіону та розгортання
НАВАНТАЖЕННЯ
Коли пам’ять має найбільше значення
Інференс LLM
Заплануйте VRAM для моделі та кешу KV разом. Довжина контексту та одночасні запити впливають на потребу в пам’яті.
Наукові обчислення
Підбирайте числову точність та вимоги до програмного забезпечення CUDA перед вибором хоста.
ЛОКАЦІЯ
Обрати регіон для вашого навантаження
Зберігайте обчислення близько до ваших даних та користувачів. Потужність перевіряється для обраної моделі та регіону.
Європа
Доступність за запитом
США
Доступність за запитом
Азія
Доступність за запитом
ПОРІВНЯТИ
Рconsider інший бюджет пам’яті.
Ampere80 GB
NVIDIA A100
Встановлені навантаження CUDA та тренування моделей
- Пам’ять
- HBM2e
- Статус
- За запитом
Ціна за запитомКонфігурація та регіон, що підтверджуються
Досліджуйте модель Hopper141 GB
NVIDIA H200
Пам’ять для інференсу LLM та наукових обчислень
- Пам’ять
- HBM3e
- Статус
- За запитом
Ціна за запитомКонфігурація та регіон, що підтверджуються
Досліджуйте модель Ada Lovelace24 GB
NVIDIA RTX 4090
Прототипування, генерація зображень і рендеринг
- Пам’ять
- GDDR6X
- Статус
- За запитом
Ціна за запитомКонфігурація та регіон, що підтверджуються
Досліджуйте модель Який варіант H100 описаний?
Специфікація посилання — H100 SXM 80 GB. Варианти PCIe та NVL відрізняються; точний варіант GPU потрібно підтвердити у конфігурації сервера.
Чи гарантує 80 ГБ, що моя модель поміститься?
Немає. Ваги, точність, активації та кеш ділять бюджет пам’яті. Перевірте свій фреймворк та протестуйте заплановане навантаження.
Чи можу я запитати кілька GPU?
Так, включіть кількість GPU та вимоги до міжз’єднань у запит. Ємність і топологія потребують підтвердження перед розгортанням.
Ваша конфігурація
Запросити кошторис інфраструктури
Оберіть ресурси та час роботи. Ми підтвердимо ціну для вашої конфігурації.
Кожен ресурс має свою конфігурацію. Багатографічні GPU-сервери не формують кластер NVLink. Місячні тарифи охоплюють весь період виставлення рахунків; сховище та трафік поза конфігурацією не включені.