Training
Speicher für Gewichte, Optimierer-Status und Aktivierungen zuweisen. Multi-GPU-Training benötigt auch eine geeignete Verbindung.
HOPPER · DATENCENTER
NVIDIA H100 für anspruchsvolle KI-Workloads
80 GB HBM3-Speicher für Workloads, bei denen das Speicherbudget die Architektur bestimmt. Planen Sie Ihr Trainings- oder Inferenz-Server basierend auf Modell, Datensatz und GPU-Topologie.
Konfigurationen anzeigenIHR SERVER
Bauen Sie um Ihre Arbeitslast herum
GPU-Speicher ist ein Teil des Servers. Geben Sie CPU, Systemspeicher, Speicher und Region an, um die vollständige Konfiguration zu prüfen.
- Modellgröße und Speicherbudget
- CPU, RAM und Datensatzspeicherung
- Regionale und Bereitstellungsanforderungen
WORKLOADS
Wenn Speicher am wichtigsten ist
LLM-Inferenz
VRAM für Modell und KV-Cache gemeinsam planen. Kontextlänge und gleichzeitige Anfragen beeinflussen den Speicherbedarf.
Wissenschaftliches Rechnen
Numerische Präzision und CUDA-Softwareanforderungen vor der Host-Auswahl abstimmen.
STANDORT
Wählen Sie eine Region für Ihre Arbeitslast
Halten Sie die Rechenleistung nahe bei Ihren Daten und Nutzern. Kapazität wird für das gewählte Modell und den Standort geprüft.
Europa
Verfügbarkeit auf Anfrage
USA
Verfügbarkeit auf Anfrage
Asien
Verfügbarkeit auf Anfrage
VERGLEICHEN
Berücksichtigen Sie ein anderes Speicherbudget
Ampere80 GB
NVIDIA A100
Etablierte CUDA-Workloads und Modelltraining
- Speicher
- HBM2e
- Status
- Auf Anfrage
Auf Anfrage erhältlichKonfiguration und Region, die bestätigt werden muss
Modell erkunden Hopper141 GB
NVIDIA H200
Speicherintensive LLM-Inferenz und wissenschaftliches Rechnen
- Speicher
- HBM3e
- Status
- Auf Anfrage
Auf Anfrage erhältlichKonfiguration und Region, die bestätigt werden muss
Modell erkunden Ada Lovelace24 GB
NVIDIA RTX 4090
Prototyping, Bilderzeugung und Rendering
- Speicher
- GDDR6X
- Status
- Auf Anfrage
Auf Anfrage erhältlichKonfiguration und Region, die bestätigt werden muss
Modell erkunden Welche H100-Variante ist beschrieben?
Die Referenzspezifikation ist H100 SXM 80 GB. PCIe- und NVL-Varianten unterscheiden sich; die genaue GPU-Variante muss in der Serverkonfiguration bestätigt werden.
Garantiert 80 GB, dass mein Modell passt?
Nein. Gewichte, Präzision, Aktivierungen und Cache teilen sich das Speicherbudget. Framework prüfen und die geplante Arbeitslast testen.
Kann ich mehrere GPUs anfordern?
Ja, fügen Sie GPU-Anzahl und Interconnect-Anforderungen in Ihre Anfrage ein. Kapazität und Topologie müssen vor der Bereitstellung bestätigt werden.
IHRE KONFIGURATION
Infrastrukturangebot anfordern
Wählen Sie Ressourcen und Betriebszeit. Wir bestätigen den Preis für Ihre Konfiguration.
Jede Ressource hat ihre eigene aufgeführte Konfiguration. Mehrere GPU-Server bilden kein NVLink-Cluster. Monatliche Tarife decken den vollen Abrechnungszeitraum; Speicher und Traffic außerhalb der Konfiguration sind nicht enthalten.