GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB huwa memorja tal-GPU, mhux RAM tas-sistema. Iċċekkja n-numru ta’ GPU u l-konnessjoni meħtieġa qabel ma tagħżel topoloġija ta’ taħriġ.

Hopper141GB VRAM
Teknoloġija tal-memorja
HBM3e
Xogħolijiet
Inferenza ta' LLM b'ħafna memorja u kalkulazzjoni xjentifika

Aktar spazju għall-piżijiet u l-kuntest

  1. 01

    141 GB HBM3e memorja ta’ referenza

  2. 02

    Mudell magħqud u baġit ta' KV-cache

  3. 03

    Numru eżatt ta' GPU u topoloġija tas-servizz

H200 huwa kandidat meta l-baġit tal-memorja H100 ikun restrittiv. Il-VRAM akbar tiegħu ma tistax tiġġenera aktar talbiet kull sekonda awtomatikament.

Konfigurazzjonijiet reġjonali

Ewropa

Disponibilità fuq talba

Prezz fuq talbaKonfigurazzjoni u reġjun li għandha tiġi kkonfermata

USA

Disponibilità fuq talba

Prezz fuq talbaKonfigurazzjoni u reġjun li għandha tiġi kkonfermata

Asja

Disponibilità fuq talba

Prezz fuq talbaKonfigurazzjoni u reġjun li għandha tiġi kkonfermata

Agħżel H200

Meta l-memorja extra tkun rilevanti?

Meta l-piżijiet tal-mudell, il-kaxxa tal-kuntest u l-buffers li jaħdmu ma jistgħux jaqgħu fil-konfigurazzjoni iżgħar. Ikejjel il-qafas ta' memorja sħiħ qabel ma tiddeċiedi li tittrasferixxi minn H100.

Referenzi tekniċi

Speċifikazzjoni 1 →

KONFIGURAZZJONI TIEGĦEK

Itlob kwotazzjoni tal-infrastruttura

Agħżel ir-riżorsi u l-ħin operattiv. Aħna nikkonfermaw prezz għall-konfigurazzjoni tiegħek.

Kull riżorsa għandha l-konfigurazzjoni tagħha stess elenkwata. Servers multipli ta' GPU ma jiffurmawx klaster NVLink. Ir-rati ta' kull xahar jkopru l-perjodu sħiħ tal-ħlas; ħażna u traffiku barra mill-konfigurazzjoni ma jinkludux.