Szkolenie
Przydziel pamięć na wagi, stan optymalizatora i aktywacje. Trening wielogPU wymaga odpowiedniej łączności.
HOPPER · CENTRUM DANYCH
NVIDIA H100 do wymagających obciążeń AI
80 GB pamięci HBM3 do obciążeń, w których budżet pamięci kształtuje architekturę. Zaplanuj trening lub serwer inferencyjny wokół modelu, zbioru danych i topologii GPU.
Wyświetl konfiguracjeTWÓJ SERWER
Buduj wokół swojego obciążenia
Pamięć GPU jest częścią serwera. Podaj CPU, RAM, storage i region, aby sprawdzić pełną konfigurację.
- Rozmiar modelu i budżet pamięci
- CPU, RAM i przechowywanie danych
- Wymagania dotyczące regionu i wdrożenia
ZADANIA
Gdy pamięć ma największe znaczenie
Inferencja LLM
Zaplanuj VRAM dla modelu i pamięci podręcznej KV razem. Długość kontekstu i równoczesne żądania wpływają na zapotrzebowanie na pamięć.
Obliczenia naukowe
Dopasuj precyzję numeryczną i wymagania oprogramowania CUDA do swoich obliczeń przed wyborem hosta.
LOKALIZACJA
Wybierz region dla swojego obciążenia
Utrzymuj obliczenia blisko danych i użytkowników. Pojemność jest sprawdzana dla wybranego modelu i lokalizacji.
Europa
Dostęp na żądanie
USA
Dostęp na żądanie
Azja
Dostęp na żądanie
PORÓWNAJ
Rozważ inny budżet pamięci.
Ampere80 GB
NVIDIA A100
Ugruntowane obciążenia CUDA i trening modeli
- Pamięć
- HBM2e
- Status
- Na żądanie
Cena na żądanieKonfiguracja i region do potwierdzenia
Eksploruj model Hopper141 GB
NVIDIA H200
Inwazyjne LLM i obliczenia naukowe z dużym zapotrzebowaniem na pamięć
- Pamięć
- HBM3e
- Status
- Na żądanie
Cena na żądanieKonfiguracja i region do potwierdzenia
Eksploruj model Ada Lovelace24 GB
NVIDIA RTX 4090
Prototypowanie, generowanie obrazów i rendering
- Pamięć
- GDDR6X
- Status
- Na żądanie
Cena na żądanieKonfiguracja i region do potwierdzenia
Eksploruj model Która wersja H100 jest opisana?
Specyfikacja referencyjna to H100 SXM 80 GB. Warianty PCIe i NVL różnią się; dokładny wariant GPU musi być potwierdzony w konfiguracji serwera.
Czy 80 GB gwarantuje, że mój model się zmieści?
Nie. Wagi, precyzja, aktywacje i cache dzielą budżet pamięci. Sprawdź swój framework i przetestuj zamierzone obciążenie.
Czy mogę zamówić kilka GPU?
Tak, uwzględnij liczbę GPU i wymagania dotyczące interkonektu w żądaniu. Pojemność i topologia muszą być potwierdzone przed wdrożeniem.
TWOJA KONFIGURACJA
Poproś o wycenę infrastruktury
Wybierz zasoby i czas działania. Potwierdzimy cenę Twojej konfiguracji.
Każdy zasób ma własną wymienioną konfigurację. Wielu serwerów GPU nie tworzy klastra NVLink. Stawki miesięczne obejmują cały okres rozliczeniowy; przechowywanie i ruch poza konfiguracją nie są wliczone.