GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB er GPU-hukommelse, ikke system-RAM. Bekræft antallet af GPU'er og den nødvendige interconnect, før du vælger en træningstopologi.

Hopper141GB VRAM
Hukommelsesteknologi
HBM3e
Arbejdsbelastninger
Hukommelsestung inference af LLM og videnskabelig computing

Mere plads til vægte og kontekst

  1. 01

    141 GB HBM3e referencehukommelse

  2. 02

    Kombineret model- og KV-cache-budget

  3. 03

    Nøjagtigt GPU-antal og servicerings-topologi

H200 er en kandidat, når H100-hukommelsesbudgettet er begrænset. Dets større VRAM etablerer ikke automatisk flere forespørgsler pr. sekund.

Regionale konfigurationer

Europa

Tilgængelighed på anmodning

Pris på forespørgselKonfiguration og region skal bekræftes

USA

Tilgængelighed på anmodning

Pris på forespørgselKonfiguration og region skal bekræftes

Asien

Tilgængelighed på anmodning

Pris på forespørgselKonfiguration og region skal bekræftes

Valg H200

Hvornår er ekstra hukommelse relevant?

Når modelvægte, kontekstcache og arbejdspuffer ikke kan passe i den mindre konfiguration. Mål den samlede hukommelsestop, før du beslutter at flytte fra H100.

Tekniske referencer

Specifikation 1 →

DIN KONFIGURATION

Anmod om et infrastrukturt tilbud

Vælg ressourcer og driftstid. Vi bekræfter en pris for din konfiguration.

Hvert resource har sin egen angivne konfiguration. Flere GPU-servere danner ikke en NVLink-klynge. Månedlige priser dækker hele faktureringsperioden; lagring og trafik uden for konfigurationen er ikke inkluderet.