Εκπαίδευση
Κατανομή μνήμης για βάρη, κατάσταση optimizer και ενεργοποιήσεις. Η εκπαίδευση πολλαπλών GPU χρειάζεται επίσης κατάλληλη διασύνδεση.
HOPPER · ΚΕΝΤΡΟ ΔΕΔΟΜΕΝΩΝ
NVIDIA H100 για απαιτητικά φορτία εργασίας AI
80 GB HBM3 μνήμης για εργασίες όπου ο προϋπολογισμός μνήμης διαμορφώνει την αρχιτεκτονική. Σχεδιάστε τον διακομιστή εκπαίδευσης ή inference γύρω από το μοντέλο, το dataset και τη διαμόρφωση GPU.
Προβολή διαμορφώσεωνΟ ΔΙΑΚΕΝΤΡΩΜΕΝΟΣ ΣΑΣ ΔΙΑΚΟΜΙΣΤΗΣ
Οικοδόμηση γύρω από τη φόρτωση εργασίας σας
Η μνήμη GPU αποτελεί μέρος του διακομιστή. Καθορίστε CPU, RAM συστήματος, αποθήκευση και περιοχή για να ελέγξετε την πλήρη διαμόρφωση.
- Μέγεθος μοντέλου και προϋπολογισμός μνήμης
- CPU, RAM και αποθήκευση dataset
- Απαιτήσεις περιοχής και ανάπτυξης
ΦΟΡΤΙΟ ΕΡΓΑΣΙΑΣ
Όταν η μνήμη έχει μεγαλύτερη σημασία
Εξαγωγή LLM
Σχεδιάστε VRAM για το μοντέλο και την προσωρινή μνήμη KV μαζί. Το μήκος πλαισίου και τα παράλληλα αιτήματα επηρεάζουν τη ζήτηση μνήμης.
Επιστημονικός υπολογισμός
Ταιριάξτε την αριθμητική ακρίβεια και τις απαιτήσεις λογισμικού CUDA με τον υπολογισμό σας πριν επιλέξετε τον host.
ΤΟΠΟΘΕΣΙΑ
Επιλογή περιοχής για το φόρτο εργασίας σας
Διατηρήστε την υπολογιστική ισχύ κοντά στα δεδομένα και τους χρήστες σας. Η χωρητικότητα ελέγχεται για το επιλεγμένο μοντέλο και περιοχή.
Ευρώπη
Διαθεσιμότητα κατόπιν αιτήματος
ΗΠΑ
Διαθεσιμότητα κατόπιν αιτήματος
Ασία
Διαθεσιμότητα κατόπιν αιτήματος
ΣΥΓΚΡΙΣΗ
Λάβετε υπόψη διαφορετικό προϋπολογισμό μνήμης
Ampere80 GB
NVIDIA A100
Εγκεκριμένες εργασίες CUDA και εκπαίδευση μοντέλων
- Μνήμη
- HBM2e
- Κατάσταση
- Κατόπιν αιτήματος
Τιμή κατόπιν αιτήσεωςΔιαμόρφωση και περιοχή προς επιβεβαίωση
Εξερεύνηση μοντέλου Hopper141 GB
NVIDIA H200
Εξαρτήσεις μνήμης για εξαγωγή LLM και επιστημονικούς υπολογισμούς
- Μνήμη
- HBM3e
- Κατάσταση
- Κατόπιν αιτήματος
Τιμή κατόπιν αιτήσεωςΔιαμόρφωση και περιοχή προς επιβεβαίωση
Εξερεύνηση μοντέλου Ada Lovelace24 GB
NVIDIA RTX 4090
Πρωτοτυπία, δημιουργία εικόνων και απόδοση
- Μνήμη
- GDDR6X
- Κατάσταση
- Κατόπιν αιτήματος
Τιμή κατόπιν αιτήσεωςΔιαμόρφωση και περιοχή προς επιβεβαίωση
Εξερεύνηση μοντέλου Ποια παραλλαγή H100 περιγράφεται;
Η προδιαγραφή αναφοράς είναι H100 SXM 80 GB. Οι παραλλαγές PCIe και NVL διαφέρουν· η ακριβής παραλλαγή GPU πρέπει να επιβεβαιωθεί στη διαμόρφωση διακομιστή.
Το 80 GB εγγυάται ότι το μοντέλο μου θα χωρέσει;
Όχι. Τα βάρη, η ακρίβεια, οι ενεργοποιήσεις και η cache μοιράζονται τον προϋπολογισμό μνήμης. Ελέγξτε το πλαίσιο εργασίας και δοκιμάστε το φόρτο εργασίας που προορίζεται.
Μπορώ να ζητήσω πολλαπλές GPU;
Ναι, συμπεριλάβετε τον αριθμό GPU και τις απαιτήσεις διασύνδεσης στην αίτησή σας. Η χωρητικότητα και η τοπολογία χρειάζονται επιβεβαίωση πριν την ανάπτυξη.
Η ΔΙΑΜΟΡΦΩΣΗ ΣΑΣ
Ζητήστε προσφορά υποδομής
Επιλέξτε πόρους και χρόνο λειτουργίας. Θα επιβεβαιώσουμε τιμή για τη διαμόρφωσή σας.
Κάθε πόρος έχει τη δική του καταγεγραμμένη διαμόρφωση. Πολλαπλοί διακομιστές GPU δεν σχηματίζουν cluster NVLink. Οι μηνιαίες τιμές καλύπτουν ολόκληρη την περίοδο χρέωσης· η αποθήκευση και η κυκλοφορία εκτός διαμόρφωσης δεν περιλαμβάνονται.