Tréning
Prideliť pamäť na váhy, stav optimalizátora a aktivácie. Tréning s viacerými GPU tiež vyžaduje vhodné prepojenie.
HOPPER · DÁTOVÉ CENTRUM
NVIDIA H100 pre náročné AI pracovné zaťaženia
80 GB HBM3 pamäte pre pracoviská, kde veľkosť pamäte formuje architektúru. Plánujte tréning alebo inferenčný server podľa modelu, datasetu a topológie GPU.
Zobraziť konfigurácieVÁŠ SERVER
Vytvorte okolo vašej záťaže
Pamäť GPU je súčasťou servera. Špecifikujte CPU, systémovú RAM, úložisko a región pre kompletnú konfiguráciu.
- Veľkosť modelu a rozpočet pamäte
- CPU, RAM a úložisko datasetu
- Požiadavky na región a nasadenie
ZAŤAŽENIA
Kedy je pamäť najdôležitejšia
Inferencia LLM
Naplánujte VRAM pre model a KV cache spolu. Dĺžka kontextu a súbežné požiadavky ovplyvňujú požiadavky na pamäť.
Vedecké výpočty
Zladenie požiadaviek na numerickú presnosť a softvérových požiadaviek CUDA s vaším výpočtom pred výberom hostiteľa.
LOKALITA
Vybrať región pre vašu záťaž
Udržujte výpočty blízko vašich dát a používateľov. Kapacita je kontrolovaná pre vybraný model a lokalitu.
Európa
Dostupnosť na požiadanie
USA
Dostupnosť na požiadanie
Ázia
Dostupnosť na požiadanie
POROVNAŤ
Zvážte iný rozpočet pamäte
Ampere80 GB
NVIDIA A100
Už zavedené záťaže CUDA a tréning modelov
- Pamäť
- HBM2e
- Stav
- Na požiadanie
Cena na požiadanieKonfigurácia a región na potvrdenie
Preskúmať model Hopper141 GB
NVIDIA H200
Pamäťovo náročná inferencia LLM a vedecké výpočty
- Pamäť
- HBM3e
- Stav
- Na požiadanie
Cena na požiadanieKonfigurácia a región na potvrdenie
Preskúmať model Ada Lovelace24 GB
NVIDIA RTX 4090
Prototypovanie, generovanie obrázkov a rendering
- Pamäť
- GDDR6X
- Stav
- Na požiadanie
Cena na požiadanieKonfigurácia a región na potvrdenie
Preskúmať model Ktorá verzia H100 je opísaná?
Špecifikácia referencie je H100 SXM 80 GB. Varianty PCIe a NVL sa líšia; presný GPU variant musí byť potvrdený v konfigurácii servera.
Zaručuje 80 GB, že sa model zmestí?
Nie. Váhy, presnosť, aktivácie a cache zdieľajú rozpočet pamäte. Skontrolujte svoj rámec a otestujte zamýšľanú pracovnú záťaž.
Môžem požadovať niekoľko GPU?
Áno, zahrňte počet GPU a požiadavky na prepojenie do vašej požiadavky. Kapacita a topológia musia byť potvrdené pred nasadením.
VAŠA KONFIGURÁCIA
Požiadať o cenovú ponuku infraštruktúry
Vyberte zdroje a dobu prevádzky. Cenu vašej konfigurácie potvrdíme.
Každý zdroj má svoju vlastnú uvedenú konfiguráciu. Viacero GPU serverov nevytvára klaster NVLink. Mesačné sadzby pokrývajú celé fakturačné obdobie; úložisko a prenos mimo konfigurácie nie sú zahrnuté.