H100
อ้างอิงคือ H100 SXM 80 GB H100 NVL ใช้การกำหนดค่าหน่วยความจำที่แตกต่างกัน ข้อเสนอจะต้องระบุรุ่นที่แน่นอน
สำรวจ H100 →GLOBALATLAS AI · H100 เทียบกับ H200
H100 เทียบกับ H200
เปรียบเทียบหน่วยความจำ H100 และ H200, สถาปัตยกรรม และการพิจารณาการปรับใช้งานโดยใช้ข้อมูลจำเพาะของผู้ผลิต
| พารามิเตอร์ | H100 | H200 |
|---|---|---|
| หน่วยความจำ GPU | 80 GB | 141 GB |
| เทคโนโลยีหน่วยความจำ | HBM3 | HBM3e |
| สถาปัตยกรรม | Hopper | Hopper |
| โปรไฟล์งาน | การฝึกอบรม AI, การอนุมาน และการคำนวณเร่งความเร็ว | การอนุมาน LLM ที่ใช้หน่วยความจำสูงและการคำนวณทางวิทยาศาสตร์ |
| เวอร์ชันอ้างอิง | อ้างอิงคือ H100 SXM 80 GB H100 NVL ใช้การกำหนดค่าหน่วยความจำที่แตกต่างกัน ข้อเสนอจะต้องระบุรุ่นที่แน่นอน | 141 GB คือหน่วยความจำ GPU ไม่ใช่ RAM ระบบ ยืนยันจำนวน GPU และการเชื่อมต่อที่ต้องการก่อนเลือกโครงสร้างการฝึกอบรม |
| ราคา | ขอราคาสอบถามการกำหนดค่าและภูมิภาคที่จะต้องยืนยัน | ขอราคาสอบถามการกำหนดค่าและภูมิภาคที่จะต้องยืนยัน |
การกำหนดค่าที่เหมาะสมกับงานของคุณคืออะไร?
H200
H200 เป็นตัวเลือกเมื่อขีดจำกัดหน่วยความจำ H100 มีผลกระทบ VRAM ที่มากขึ้นไม่ได้รับประกันคำขอที่ต่อเนื่องมากขึ้น
สำรวจ H200 →เปรียบเทียบเวิร์กโหลดเดียวกัน
ใช้โมเดลหรือฉากเดียวกัน, ความแม่นยำ, ขนาดบัช และเวอร์ชันซอฟต์แวร์ บันทึกอัตราการส่งข้อมูล, ความหน่วง, หน่วยความจำสูงสุด และต้นทุนเซิร์ฟเวอร์รวม ตารางนี้แสดงสเปคฮาร์ดแวร์ ไม่ใช่ประสิทธิภาพแอปพลิเคชันที่วัดได้