การฝึกอบรม
จัดสรรหน่วยความจำสำหรับน้ำหนัก สถานะตัวปรับแต่ง และการเปิดใช้งาน การฝึกแบบหลาย GPU ยังต้องการการเชื่อมต่อที่เหมาะสม
HOPPER · ศูนย์ข้อมูล
NVIDIA H100 สำหรับงาน AI ที่ต้องการประสิทธิภาพสูง
80 GB ของหน่วยความจำ HBM3 สำหรับงานที่หน่วยความจำเป็นตัวกำหนดสถาปัตยกรรม วางแผนเซิร์ฟเวอร์ฝึกอบรมหรืออนุมานของคุณรอบโมเดล ชุดข้อมูล และโครงสร้าง GPU
ดูการกำหนดค่าเซิร์ฟเวอร์ของคุณ
สร้างรอบเวิร์กโหลดของคุณ
หน่วยความจำ GPU เป็นส่วนหนึ่งของเซิร์ฟเวอร์ ระบุ CPU, RAM ระบบ, ที่เก็บข้อมูล และภูมิภาค เพื่อดูการกำหนดค่าทั้งหมด
- ขนาดโมเดลและงบประมาณหน่วยความจำ
- CPU, RAM และการจัดเก็บข้อมูลชุดข้อมูล
- ความต้องการภูมิภาคและการใช้งาน
งานของคุณ
เมื่อหน่วยความจำสำคัญที่สุด
การอนุมาน LLM
วางแผน VRAM สำหรับโมเดลและแคช KV พร้อมกัน ความยาวบริบทและคำขอพร้อมกันมีผลต่อความต้องการหน่วยความจำ
การคำนวณทางวิทยาศาสตร์
จับคู่ความแม่นยำเชิงตัวเลขและความต้องการซอฟต์แวร์ CUDA กับการคำนวณของคุณก่อนเลือกโฮสต์
ตำแหน่งที่ตั้ง
เลือกภูมิภาคสำหรับเวิร์กโหลดของคุณ
รักษาการคำนวณใกล้ข้อมูลและผู้ใช้ ความสามารถจะถูกตรวจสอบสำหรับโมเดลและตำแหน่งที่เลือก
ยุโรป
ความพร้อมใช้งานตามคำขอ
สหรัฐอเมริกา
ความพร้อมใช้งานตามคำขอ
เอเชีย
ความพร้อมใช้งานตามคำขอ
เปรียบเทียบ
พิจารณางบหน่วยความจำที่แตกต่างกัน
Ampere80 GB
NVIDIA A100
งาน CUDA ที่ตั้งขึ้นแล้วและการฝึกโมเดล
- หน่วยความจำ
- HBM2e
- สถานะ
- ตามคำขอ
ขอราคาสอบถามการกำหนดค่าและภูมิภาคที่จะต้องยืนยัน
สำรวจโมเดล Hopper141 GB
NVIDIA H200
การอนุมาน LLM ที่ใช้หน่วยความจำสูงและการคำนวณทางวิทยาศาสตร์
- หน่วยความจำ
- HBM3e
- สถานะ
- ตามคำขอ
ขอราคาสอบถามการกำหนดค่าและภูมิภาคที่จะต้องยืนยัน
สำรวจโมเดล Ada Lovelace24 GB
NVIDIA RTX 4090
ต้นแบบ การสร้างภาพ และการเรนเดอร์
- หน่วยความจำ
- GDDR6X
- สถานะ
- ตามคำขอ
ขอราคาสอบถามการกำหนดค่าและภูมิภาคที่จะต้องยืนยัน
สำรวจโมเดล เวอร์ชัน H100 ใดที่อธิบายไว้?
สเปคอ้างอิงคือ H100 SXM 80 GB รุ่น PCIe และ NVL แตกต่างกัน ต้องยืนยันรุ่น GPU ที่แน่นอนในกำหนดค่าของเซิร์ฟเวอร์
80 GB รับประกันว่าโมเดลของฉันจะพอดีหรือไม่
ไม่ใช่ น้ำหนัก ความแม่นยำ การเปิดใช้งาน และแคชแชร์งบประมาณหน่วยความจำ ตรวจสอบเฟรมเวิร์กของคุณและทดสอบงานที่ตั้งใจไว้
ฉันจะขอ GPU หลายตัวได้ไหม?
ใช่ รวมจำนวน GPU และความต้องการการเชื่อมต่อในคำขอของคุณ ความจุและโครงสร้างต้องได้รับการยืนยันก่อนการปรับใช้
การกำหนดค่าของคุณ
ขอใบเสนอราคาโครงสร้างพื้นฐาน
เลือกทรัพยากรและระยะเวลาการใช้งาน เราจะยืนยันราคาสำหรับการกำหนดค่าของคุณ
ทรัพยากรแต่ละรายการมีการกำหนดค่าที่แสดงอยู่ การใช้เซิร์ฟเวอร์ GPU หลายเครื่องไม่ได้สร้างคลัสเตอร์ NVLink อัตราค่าบริการรายเดือนครอบคลุมระยะเวลาการเรียกเก็บเงินเต็มรูปแบบ การจัดเก็บและการรับส่งข้อมูลนอกเหนือจากการกำหนดค่าไม่ได้รวมอยู่ด้วย