GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB és memòria GPU, no RAM del sistema. Confirmeu el nombre de GPUs i la interconnexió requerida abans de triar una topologia d'entrenament.

Hopper141GB VRAM
Tecnologia de memòria
HBM3e
Càrregues de treball
Inferència de LLM intensiva en memòria i càlcul científic

Més espai per a pesos i context

  1. 01

    141 GB HBM3e de memòria de referència

  2. 02

    Pressupost combinat per a model i memòria cau KV

  3. 03

    Nombre exacte de GPU i topologia de servei

H200 és una opció quan un pressupost de memòria H100 és restrictiu. La seva VRAM més gran no estableix automàticament més sol·licituds per segon.

Configuracions regionals

Europa

Disponibilitat a petició

Preu a peticióConfiguració i regió a confirmar

EUA

Disponibilitat a petició

Preu a peticióConfiguració i regió a confirmar

Àsia

Disponibilitat a petició

Preu a peticióConfiguració i regió a confirmar

Tria H200

Quan és rellevant la memòria extra?

Quan els pesos del model, la memòria cau de context i els buffers de treball no poden encaixar en la configuració més petita. Mesureu el pic de memòria complet abans de decidir passar de H100.

Referències tècniques

Especificació 1 →

LA VOSTRA CONFIGURACIÓ

Sol·licita un pressupost d’infraestructura

Tria recursos i temps d’operació. Confirmarem un preu per a la teva configuració.

Cada recurs té la seva pròpia configuració listada. Els servidors de GPU múltiples no formen un clúster NVLink. Les tarifes mensuals cobreixen tot el període de facturació; l'emmagatzematge i el trànsit fora de la configuració no estan inclosos.