Formation
Allouer mémoire pour poids, état de l’optimiseur et activations. La formation multi-GPU nécessite également une interconnexion adaptée.
HOPPER · CENTRE DE DONNÉES
NVIDIA H100 pour charges de travail IA exigeantes
80 GB de mémoire HBM3 pour charges de travail où le budget mémoire façonne l’architecture. Planifiez votre entraînement ou votre serveur d’inférence en fonction du modèle, du jeu de données et de la topologie GPU.
Voir les configurationsVOTRE SERVEUR
Construire autour de votre charge de travail
La mémoire GPU fait partie du serveur. Spécifiez le CPU, la RAM système, le stockage et la région pour vérifier la configuration complète.
- Taille du modèle et budget mémoire
- CPU, RAM et stockage de données
- Exigences de région et de déploiement
CHARGES DE TRAVAIL
Quand la mémoire est la plus importante
Inférence LLM
Planifiez la VRAM pour le modèle et le cache KV ensemble. La longueur du contexte et les requêtes simultanées influencent la demande en mémoire.
Calcul scientifique
Associez la précision numérique et les exigences logicielles CUDA à votre calcul avant de choisir l'hôte.
EMPLACEMENT
Choisir une région pour votre charge de travail
Gardez le calcul proche de vos données et utilisateurs. La capacité est vérifiée pour le modèle et la localisation sélectionnés.
Europe
Disponibilité sur demande
États-Unis
Disponibilité sur demande
Asie
Disponibilité sur demande
COMPARER
Considérez un budget mémoire différent.
Ampere80 GB
NVIDIA A100
Charges CUDA établies et entraînement de modèles
- Mémoire
- HBM2e
- Statut
- Sur demande
Prix sur demandeConfiguration et région à confirmer
Explorer modèle Hopper141 GB
NVIDIA H200
Inférence LLM intensive en mémoire et calcul scientifique
- Mémoire
- HBM3e
- Statut
- Sur demande
Prix sur demandeConfiguration et région à confirmer
Explorer modèle Ada Lovelace24 GB
NVIDIA RTX 4090
Prototypage, génération d'images et rendu
- Mémoire
- GDDR6X
- Statut
- Sur demande
Prix sur demandeConfiguration et région à confirmer
Explorer modèle Quelle variante H100 est décrite ?
La spécification de référence est H100 SXM 80 GB. Les variantes PCIe et NVL diffèrent ; la variante GPU précise doit être confirmée dans la configuration du serveur.
80 Go garantissent-ils que mon modèle tiendra ?
Non. Les poids, la précision, les activations et le cache partagent le budget mémoire. Vérifiez votre framework et testez la charge de travail prévue.
Puis-je demander plusieurs GPU ?
Oui, incluez le nombre de GPU et les exigences d’interconnexion dans votre demande. La capacité et la topologie doivent être confirmées avant le déploiement.
VOTRE CONFIGURATION
Demander un devis d’infrastructure
Choisissez les ressources et le temps de fonctionnement. Nous confirmerons un prix pour votre configuration.
Chaque ressource a sa propre configuration listée. Plusieurs serveurs GPU ne forment pas un cluster NVLink. Les tarifs mensuels couvrent toute la période de facturation ; le stockage et le trafic hors configuration ne sont pas inclus.