Ուսուցում
Նվիրեք հիշողություն քաշերի, օպտիմիզատորի վիճակի և ակտիվացումների համար։ Բազմա-GPU ուսուցումը նաև պահանջում է համապատասխան միջանցք։
ՀՈՊԵՐ · ՏԵՂԱՀԱՏԿՈՒԹՅԱՆ ԿԵՆՏՐՈՆ
NVIDIA H100 պահանջվող AI բեռների համար
80 GB HBM3 հիշողություն՝ այն աշխատանքների համար, որտեղ հիշողության բյուջեն ձևավորում է ճարտարապետությունը։ Պլանավորեք ձեր ուսուցման կամ կանխատեսման սերվերը մոդելի, տվյալների հավաքածուի և GPU տոպոլոգիայի շուրջ։
Տեսնել կոնֆիգուրացիաներըՁԵՐ ՍԵՎԵՐԸ
Կառուցեք ձեր աշխատանքային բեռի շուրջ
GPU հիշողությունը server-ի մի մաս է։ Սահմանեք CPU-ն, համակարգային RAM-ը, պահեստը և տարածաշրջանը՝ ամբողջական կոնֆիգուրացիան ստուգելու համար։
- Մոդելի չափը և հիշողության բյուջեն
- CPU, RAM և տվյալների հավաքածուի պահեստավորում
- Տարածաշրջան և տեղադրման պահանջներ
ԲԱՐԵԼԱՐԱՐՆԵՐ
Երբ հիշողությունը կարևոր է ամենաշատը
LLM ինֆերանս
Նախագծել VRAM՝ մոդելին և KV կեշին միասին։ Կոնտեքստի երկարությունը և միաժամանակյա հարցումները ազդում են հիշողության պահանջների վրա։
Գիտական հաշվարկում
Համապատասխանեցրեք թվային ճշգրտությունը և CUDA ծրագրային պահանջները ձեր հաշվարկին՝ նախքան հոստ ընտրելը։
ՏԵՂԱՀԱՏԿՈՒԹՅՈՒՆ
Ընտրեք ձեր աշխատանքային բեռի տարածաշրջանը
Պահեք հաշվարկը մոտ ձեր տվյալների և օգտվողների։ Հզորությունը ստուգվում է ընտրված մոդելի և տարածաշրջանի համար։
Եվրոպա։
Հասանելիության պահանջով
ԱՄՆ
Հասանելիության պահանջով
Ասիա
Հասանելիության պահանջով
Համեմատել
Հաշվի առեք այլ հիշողության բյուջե։
Ampere80 GB
NVIDIA A100
Հաստատված CUDA բեռներ և մոդելների ուսուցում։
- Հիշողություն
- HBM2e
- Կարգավիճակ
- Հայցման դեպքում
Գինք ըստ պահանջիԿոնֆիգուրացիա և տարածաշրջան՝ հաստատելու համար
Ուսումնասիրել մոդելը։ Hopper141 GB
NVIDIA H200
Հիշողության ծանր LLM ինֆերանս և գիտական հաշվարկներ
- Հիշողություն
- HBM3e
- Կարգավիճակ
- Հայցման դեպքում
Գինք ըստ պահանջիԿոնֆիգուրացիա և տարածաշրջան՝ հաստատելու համար
Ուսումնասիրել մոդելը։ Ադա Լովլեյս24 GB
NVIDIA RTX 4090
Նախագծում, պատկերների ստեղծում և ռենդերավորում
- Հիշողություն
- GDDR6X
- Կարգավիճակ
- Հայցման դեպքում
Գինք ըստ պահանջիԿոնֆիգուրացիա և տարածաշրջան՝ հաստատելու համար
Ուսումնասիրել մոդելը։ Ո՞ր H100 տարբերակն է նկարագրված:
Հղումը H100 SXM 80 GB է։ PCIe և NVL տարբերակները տարբեր են; ճշգրիտ GPU տարբերակը պետք է հաստատվի սերվերի կոնֆիգուրացիայում։
Արդյոք 80 ԳԲ-ն երաշխավորում է, որ իմ մոդելը տեղավորվում է։
Ոչ։ Քաշերը, ճշգրտությունը, ակտիվացումները և կեշը բաժանում են հիշողության բյուջեն։ Ստուգեք ձեր ֆրեյմվերը և փորձեք նախատեսված բեռը։
Կարո՞ղ եմ պահանջել մի քանի GPU։
Այո, ներառեք GPU քանակը և ինտերակտիվ կապի պահանջները ձեր հարցումում: Ծավալը և տոպոլոգիան պետք է հաստատվեն նախքան գործարկումը:
Ձեր կոնֆիգուրացիան
Պահանջել ենթակառուցվածքային գնառաջարկ
Ընտրեք ռեսուրսներ և աշխատանքի ժամանակը։ Մենք կհաստատենք ձեր կոնֆիգուրացիայի գինը։
Յուրաքանչյուր ռեսուրս ունի իր ցուցադրված կարգավորումը։ Բազմա GPU սերվերները չեն կազմում NVLink խմբավորում։ Ամսական գները ծածկում են ամբողջ բիլինգի ժամանակահատվածը; պահեստը և երթևեկությունը դուրս են մնում կարգավորումից։