آموزش
تخصیص حافظه برای وزن‌ها، وضعیت بهینه‌ساز و فعال‌سازی‌ها. آموزش چند GPU نیازمند اتصال مناسب است.
HOPPER · مرکز داده
NVIDIA H100 برای بارهای کاری demanding AI
80 گیگابایت حافظه HBM3 برای وظایف که در آن بودجه حافظه معماری را شکل می‌دهد. سرور آموزش یا استنتاج خود را بر اساس مدل، مجموعه داده و توپولوژی GPU برنامه‌ریزی کنید.
پیکربندی‌ها را مشاهده کنیدسرور شما
ساختن بر اساس بار کاری شما
حافظه GPU یکی از اجزای سرور است. برای بررسی پیکربندی کامل، CPU، رم سیستم، ذخیره‌سازی و منطقه را مشخص کنید.
- اندازه مدل و بودجه حافظه
- CPU، RAM و ذخیره‌سازی مجموعه داده‌ها
- نیازهای منطقه و استقرار
بارهای کاری
وقتی حافظه بیشترین اهمیت را دارد
استنتاج LLM
برنامه‌ریزی VRAM برای مدل و کش KV به همراه. طول زمینه و درخواست‌های همزمان بر نیاز حافظه تأثیر می‌گذارند.
محاسبات علمی
تطابق دقت عددی و نیازهای نرم‌افزار CUDA با محاسبات خود قبل از انتخاب میزبان.
مکان
انتخاب منطقه برای بار کاری خود
محاسبات را نزدیک به داده‌ها و کاربران نگه دارید. ظرفیت برای مدل و منطقه انتخاب شده بررسی می‌شود.
اروپا
در دسترس بودن بر اساس درخواست
ایالات متحده آمریکا
در دسترس بودن بر اساس درخواست
آسیای شرقی
در دسترس بودن بر اساس درخواست
مقایسه
بودجه حافظه متفاوت در نظر بگیرید.
Ampere80 GB
NVIDIA A100
بارهای کاری CUDA تثبیت شده و آموزش مدل
- حافظه
- HBM2e
- وضعیت
- درخواست شده
درخواست قیمت به صورت درخواستپیکربندی و منطقه باید تأیید شود
مدل بررسی Hopper141 GB
NVIDIA H200
استنتاج LLM با حافظه‌بر و محاسبات علمی فشرده
- حافظه
- HBM3e
- وضعیت
- درخواست شده
درخواست قیمت به صورت درخواستپیکربندی و منطقه باید تأیید شود
مدل بررسی Ada Lovelace24 GB
NVIDIA RTX 4090
نمونه‌سازی، تولید تصویر و رندرینگ
- حافظه
- GDDR6X
- وضعیت
- درخواست شده
درخواست قیمت به صورت درخواستپیکربندی و منطقه باید تأیید شود
مدل بررسی کدام نسخه H100 توصیف شده است؟
مشخصات مرجع H100 SXM 80 گیگابایت است. نسخه‌های PCIe و NVL متفاوت هستند؛ واریانت GPU دقیق باید در پیکربندی سرور تأیید شود.
آیا 80 گیگابایت تضمین می‌کند که مدل من جا می‌شود؟
خیر. وزن‌ها، دقت، فعال‌سازی‌ها و کش، بودجه حافظه را به اشتراک می‌گذارند. چارچوب خود را بررسی و بار کاری مورد نظر را آزمایش کنید.
آیا می‌توانم چندین GPU درخواست دهم؟
بله، تعداد GPU و نیازهای اتصال داخلی را در درخواست خود وارد کنید. ظرفیت و توپولوژی قبل از استقرار باید تأیید شوند.
پیکربندی شما
درخواست قیمت زیرساخت
منابع و مدت‌زمان کار را انتخاب کنید. برای پیکربندی شما قیمت را تأیید خواهیم کرد.
هر منبع پیکربندی خود را دارد. سرورهای GPU متعدد خوشه NVLink تشکیل نمی‌دهند. نرخ‌های ماهانه کل دوره صورتحساب را پوشش می‌دهند؛ فضای ذخیره‌سازی و ترافیک خارج از پیکربندی شامل نمی‌شود.