Quyết định kiến trúc
Các phiên bản chưng cất và mô hình đầy đủ yêu cầu kiến trúc khác nhau. Lưu lại chính xác định danh mô hình cùng yêu cầu hạ tầng của bạn.
GLOBALATLAS AI · Hạ tầng cho DeepSeek
DeepSeek-R1 và các mô hình chưng cất của nó là các tải công việc khác nhau. Các phiên bản chưng cất có từ 1.5B đến 70B tham số; mô hình đầy đủ cần một bài tập kích thước riêng.
Phiên bản đầy đủ hoặc phiên bản chưng cất
Định dạng trọng lượng và khung thực thi
Ngân sách ngữ cảnh và yêu cầu đồng bộ truy cập
Các phiên bản chưng cất và mô hình đầy đủ yêu cầu kiến trúc khác nhau. Lưu lại chính xác định danh mô hình cùng yêu cầu hạ tầng của bạn.
Xác định phiên bản chính xác và độ chính xác. “DeepSeek cho 50 người dùng” không đủ để hứa hẹn cấu hình GPU hoặc thời gian phản hồi.