Trénink
Alokujte paměť pro váhy, stav optimalizátoru a aktivace. Více-GPU trénink vyžaduje vhodné propojení.
HOPPER · DATOVÉ CENTRUM
NVIDIA H100 pro náročná AI pracovní zatížení
80 GB HBM3 paměti pro pracovní zatížení, kde velikost paměti ovlivňuje architekturu. Naplánujte trénink nebo inferenční server podle modelu, datasetu a topologie GPU.
Zobrazit konfiguraceVÁŠ SERVER
Vytvořit kolem vaší pracovní zátěže
Paměť GPU je součástí serveru. Uveďte CPU, systémovou RAM, úložiště a region pro kompletní konfiguraci.
- Velikost modelu a rozpočet paměti
- CPU, RAM a úložiště dat
- Požadavky na region a nasazení
ZÁTĚŽE
Kdy je paměť nejdůležitější
Inferování LLM
Naplánujte VRAM pro model a KV cache dohromady. Délka kontextu a současné požadavky ovlivňují spotřebu paměti.
Vědecké výpočty
Přiřaďte numerickou přesnost a požadavky na CUDA software k vašemu výpočtu před výběrem hostitele.
LOKALITA
Vybrat region pro vaši pracovní zátěž
Udržujte výpočet blízko vašich dat a uživatelů. Kapacita je kontrolována pro vybraný model a lokalitu.
Evropa
Dostupnost na požádání
USA
Dostupnost na požádání
Asie
Dostupnost na požádání
POROVNAT
Zvažte jiný rozpočet paměti
Ampere80 GB
NVIDIA A100
Zavedené pracovní zátěže CUDA a trénink modelů
- Paměť
- HBM2e
- Stav
- Na požádání
Cena na vyžádáníKonfigurace a region k potvrzení
Prozkoumat model Hopper141 GB
NVIDIA H200
Paměťově náročné inferování LLM a vědecké výpočty
- Paměť
- HBM3e
- Stav
- Na požádání
Cena na vyžádáníKonfigurace a region k potvrzení
Prozkoumat model Ada Lovelace24 GB
NVIDIA RTX 4090
Prototypování, generování obrázků a rendering
- Paměť
- GDDR6X
- Stav
- Na požádání
Cena na vyžádáníKonfigurace a region k potvrzení
Prozkoumat model Která varianta H100 je popsána?
Specifikace reference je H100 SXM 80 GB. Varianty PCIe a NVL se liší; přesná varianta GPU musí být potvrzena v konfiguraci serveru.
Zaručí 80 GB, že se model vejde?
Ne. Váhy, přesnost, aktivace a cache sdílejí rozpočet paměti. Zkontrolujte svůj rámec a otestujte zamýšlené pracovní zatížení.
Mohu požadovat několik GPU?
Ano, zahrňte počet GPU a požadavky na propojení do vaší žádosti. Kapacita a topologie musí být potvrzeny před nasazením.
VAŠE KONFIGURACE
Požádat o cenovou nabídku infrastruktury
Vyberte zdroje a dobu provozu. Potvrdíme cenu vaší konfigurace.
Každý zdroj má vlastní uvedenou konfiguraci. Více GPU serverů nevytváří NVLink cluster. Měsíční sazby pokrývají celé fakturační období; úložiště a přenos mimo konfiguraci nejsou zahrnuty.