Оқыту
Салмақтар, оңтайландыру күйі және активация үшін жады бөлу. Көп-GPU оқыту үшін сәйкес интерконнект қажет.
HOPPER · Деректер орталығы
Қажетті AI жүктемелері үшін NVIDIA H100
80 ГБ HBM3 жады — жад бюджеттің архитектураны анықтайтын жұмыс жүктемелері үшін. Оқу немесе тұжырымдама серверін модель, деректер жиынтығы және GPU топологиясы негізінде жоспарлаңыз.
Конфигурацияларды қарауСерверіңіз
Жүктемеңіз айналасында инфрақұрылымыңызды құрыңыз
GPU жады сервердің бір бөлігі. Толық конфигурацияны тексеру үшін CPU, жүйелік RAM, сақтау және аймақты көрсетіңіз.
- Модель көлемі және жады бюджеті
- CPU, RAM және мәліметтер қоймасы
- Аймақ және орналастыру талаптары
Жүктемелер
Жад ең маңызды болғанда
LLM inference
Модель мен KV кэшін бірге VRAM-ды жоспарлаңыз. Контекст ұзындығы мен бір уақытта сұраулар жады талаптарына әсер етеді.
Ғылыми есептеу
Есептеу алдында сандық дәлдік пен CUDA бағдарламалық талаптарын сәйкестендіріңіз.
Орналасқан жері
Жүктеме үшін аймақты таңдаңыз
Есептеу қуатын деректер мен пайдаланушыларға жақын ұстаңыз. Таңдалған модель мен орынды тексеру үшін сыйымдылық қаралады.
Еуропа
Қол жетімділік сұрау бойынша
АҚШ
Қол жетімділік сұрау бойынша
Азия
Қол жетімділік сұрау бойынша
Салыстыру
Басқа жад бюджетін қарастырыңыз
Ampere80 GB
NVIDIA A100
CUDA жүктемелері мен модель оқытуды орнату
- Жады
- HBM2e
- Күйі
- Талап бойынша
Талап бойынша бағаКонфигурация және аймақты растау керек
Модельді зерттеу Hopper141 GB
NVIDIA H200
Жадыға бай LLM inference және ғылыми есептеулер
- Жады
- HBM3e
- Күйі
- Талап бойынша
Талап бойынша бағаКонфигурация және аймақты растау керек
Модельді зерттеу Ada Lovelace24 GB
NVIDIA RTX 4090
Прототиптеу, сурет генерациясы және рендеринг
- Жады
- GDDR6X
- Күйі
- Талап бойынша
Талап бойынша бағаКонфигурация және аймақты растау керек
Модельді зерттеу Қандай H100 нұсқасы сипатталған?
Сілтеме сипаттамасы H100 SXM 80 ГБ. PCIe және NVL нұсқалары әртүрлі; нақты GPU нұсқасын сервер конфигурациясында растау керек.
80 ГБ менің моделімнің сыйымдылығын қамтамасыз етеді ме?
Жоқ. Салмақтар, дәлдік, активациялар және кэш жады бюджетін бөліседі. Құрылымды тексеріңіз және жоспарланған жүктемені сынақтан өткізіңіз.
Бірнеше GPU сұрауға бола ма?
Иә, сұрауыңызға GPU саны мен интерконнек талаптарын қосыңыз. Қуаттылық пен топологияны орналастырмас бұрын растау керек.
Сіздің конфигурацияңыз
Инфрақұрылым бойынша баға ұсынысын сұрау
Ресурстар мен жұмыс уақытын таңдаңыз. Сіздің конфигурацияңызға бағаны растаймыз.
Әр ресурс өзінің конфигурациясын көрсетеді. Көп GPU серверлері NVLink кластерін құрамайды. Айлық тарифтер толық төлем кезеңін қамтиды; конфигурациядан тыс сақтау және трафик кірмейді.