GLOBALATLAS AI · โครงสร้างพื้นฐานสำหรับ DeepSeek

โครงสร้างพื้นฐานสำหรับ DeepSeek

DeepSeek-R1 และโมเดลกลั่นของมันเป็นงานโหลดงานที่แตกต่างกัน รุ่นกลั่นมีพารามิเตอร์ตั้งแต่ 1.5B ถึง 70B; โมเดลเต็มต้องการการประเมินขนาดแยกต่างหาก

เริ่มจากเวอร์ชัน DeepSeek ที่แน่นอน

  1. 01

    รุ่นเต็มหรือรุ่นกลั่น

  2. 02

    รูปแบบน้ำหนักและเฟรมเวิร์คการดำเนินการ

  3. 03

    งบประมาณบริบทและคำขอพร้อมกัน

การตัดสินใจด้านสถาปัตยกรรม

รุ่นกลั่นและโมเดลเต็มต้องการสถาปัตยกรรมที่แตกต่างกัน บันทึกระบุโมเดลที่แน่นอนพร้อมคำขอด้านโครงสร้างพื้นฐานของคุณ

ข้อกำหนดการกำหนดค่า

ระบุเวอร์ชันและความแม่นยำที่แน่นอน “DeepSeek สำหรับ 50 ผู้ใช้” ไม่เพียงพอที่จะสัญญาเกี่ยวกับการกำหนดค่าของ GPU หรือเวลาตอบสนอง

เอกสารอ้างอิงทางเทคนิค

ข้อกำหนด 1 →