Обучување
З allocate меморија за тежини, состојба на оптимизаторот и активирања. Мулти-GPU тренирањето исто така бара соодветна меѓусебна врска.
HOPPER · Центар за податоци
NVIDIA H100 за барања за напредна AI работни товари
80 GB HBM3 меморија за работни оптоварувања каде мемориската буџет ја обликува архитектурата. Планирајте го вашиот сервер за тренирање или инференција според моделот, сетот на податоци и топологијата на GPU.
Погледнете конфигурацииВашиот сервер
Изградете околу вашето работно оптоварување
Меморијата на GPU е дел од серверот. Наведете CPU, системска RAM, складиште и регион за да проверите целосната конфигурација.
- Големина на модел и буџет за меморија
- CPU, RAM и складиштење на податоци
- Регион и барања за дистрибуција
Работни оптоварувања
Кога меморијата е најважна
Инференца на LLM
Планирај VRAM за моделот и KV кешот заедно. Должината на контекстот и паралелните барања влијаат на побарувачката за меморија.
Научно пресметување
Парирајте ја нумеричката прецизност и барањата за CUDA со вашите пресметки пред да изберете хост.
Локација
Избери регион за твоето работно оптоварување
Задржете пресметка блиску до вашите податоци и корисници. Капацитетот се проверува за избраниот модел и локација.
Европа
Достапност по барање
САД
Достапност по барање
Азија
Достапност по барање
Споредете
Разгледајте различен буџет за меморија
Ampere80 GB
NVIDIA A100
Потврдено CUDA работни оптоварувања и обука на модели
- Меморија
- HBM2e
- Статус
- По барање
Цена по барањеКонфигурација и регион за потврда
Истражувајте модел Hopper141 GB
NVIDIA H200
Инференца и научни пресметки со меморија-интензивни LLM
- Меморија
- HBM3e
- Статус
- По барање
Цена по барањеКонфигурација и регион за потврда
Истражувајте модел Ada Lovelace24 GB
NVIDIA RTX 4090
Прототипирање, генерирање на слики и рендерирање
- Меморија
- GDDR6X
- Статус
- По барање
Цена по барањеКонфигурација и регион за потврда
Истражувајте модел Кој H100 модел е опишан?
Референтната спецификација е H100 SXM 80 GB. PCIe и NVL варијанти се разликуваат; прецизниот GPU модел мора да се потврди во конфигурацијата на серверот.
Дали 80 GB гарантира дека моделот ќе се вклопи?
Не. Тежините, прецизноста, активирањата и кешот делат буџет за меморија. Проверете го вашиот фрејмворк и тестирајте го работниот товар што го планирате.
Може ли да побарам неколку GPU?
Да, вклучете број на GPU и барања за интерконекција во вашата побарувачка. Капацитетот и топологијата треба да се потврдат пред распоредување.
ВАША КОНФИГУРАЦИЈА
Побарајте понуда за инфраструктура
Изберете ресурси и време на работа. Ќе ја потврдиме цената за вашата конфигурација.
Секој ресурс има своја листа конфигурации. Многу GPU сервери не формираат NVLink кластер. Месечните цени ги покриваат целосниот период на наплата; складиштето и сообраќајот надвор од конфигурацијата не се вклучени.