GLOBALATLAS AI · H200

NVIDIA H200 · 141 GB

141 GB ir GPU atmiņa, nevis sistēmas RAM. Apstipriniet GPU skaitu un nepieciešamo savienojumu pirms apmācības topoloģijas izvēles.

Hopper141GB VRAM
Atmiņas tehnoloģija
HBM3e
Darba slodzes
Atmiņā intensīva LLM inferenču un zinātniskās skaitļošanas

Vairāk vietas svaru un konteksta glabāšanai

  1. 01

    141 GB HBM3e atsauces atmiņa

  2. 02

    Apvienotais modelis un KV kešatmiņas budžets

  3. 03

    Precīzs GPU skaits un apkalpošanas topoloģija

H200 ir kandidāts, ja H100 atmiņas budžets ir ierobežots. Tā lielāka VRAM automātiski nenodrošina vairāk pieprasījumu sekundē.

Reģionālās konfigurācijas

Eiropa

Pieejams pēc pieprasījuma

Cena pēc pieprasījumaKonfigurācija un reģions jāapstiprina

ASVAS

Pieejams pēc pieprasījuma

Cena pēc pieprasījumaKonfigurācija un reģions jāapstiprina

Āzija

Pieejams pēc pieprasījuma

Cena pēc pieprasījumaKonfigurācija un reģions jāapstiprina

Izvēloties H200

Kad ir svarīga papildu atmiņa?

Kad modeļa svara, konteksta kešatmiņas un darba buferi nevar ietilpt mazākā konfigurācijā. Izmēriet pilnu atmiņas maksimumu pirms pārejas uz H100.

Tehniskās atsauces

Specifikācija 1 →

JŪSU KONFIGURĀCIJA

Pieprasīt infrastruktūras cenu piedāvājumu

Izvēlieties resursus un darbības laiku. Mēs apstiprināsim jūsu konfigurācijas cenu.

Katrs resurss ir ar savu norādīto konfigurāciju. Vairāki GPU serveri neveido NVLink klasteri. Mēneša likmes sedz visu rēķinu periodu; glabāšana un trafiks ārpus konfigurācijas nav iekļauts.