Euroopa
Saadavus päringul
Hind päringulKonfiguratsioon ja piirkond tuleb kinnitada
GLOBALATLAS AI · H200
NVIDIA H200 · 141 GB
141 GB on GPU mälu, mitte süsteemi RAM. Kinnitage GPU-de arv ja vajaliku ühenduse tüüp enne treeningu topoloogia valimist.
Hopper141GB VRAM
- Mälu tehnoloogia
- HBM3e
- Töökoormused
- Mäluintensiivne LLM inferents ja teaduslik arvutus
Rohkem ruumi kaalude ja konteksti jaoks
- 01
141 GB HBM3e viitamine mälu
- 02
Kombineeritud mudeli ja KV-vahemälu eelarve
- 03
Täpsed GPU arv ja teenindusvõrgu topoloogia
H200 on kandidaat, kui H100 mälu eelarve on piiratud. Selle suurem VRAM ei taga automaatselt rohkem taotlusi sekundis.
Piirkondlikud konfiguratsioonid
USA
Saadavus päringul
Hind päringulKonfiguratsioon ja piirkond tuleb kinnitada
Aasia
Saadavus päringul
Hind päringulKonfiguratsioon ja piirkond tuleb kinnitada
Valides H200
Millal on lisamälu oluline?
Kui mudeli kaalud, kontekstiküpsised ja tööpuhvrid ei mahu väiksemasse konfiguratsiooni. Mõõda kogu mälu tipp enne, kui otsustad H100-st üle minna.
Tehnilised viited
Spetsifikatsioon 1 →Teie konfiguratsioon
Taotlege taristuhinnapakkumist
Valige ressursid ja tööaeg. Kinnitame teie konfiguratsiooni hinna.
Iga ressurss on oma konfiguratsiooniga. Mitmed GPU-serverid ei moodusta NVLink klastrit. Kuumahinnad katavad kogu arveldusperioodi; salvestus ja liiklus väljaspool konfiguratsiooni ei kuulu.