아키텍처 결정
증류 릴리스와 전체 모델은 서로 다른 아키텍처를 필요로 합니다. 인프라 요청 시 정확한 모델 식별자를 저장하세요.
GLOBALATLAS AI · DeepSeek용 인프라
DeepSeek-R1 및 그 증류 모델은 서로 다른 작업 부하입니다. 증류 릴리스는 1.5B에서 70B 파라미터를 포함하며, 전체 모델은 별도 크기 조정이 필요합니다.
전체 모델 또는 증류 릴리스
가중치 형식 및 실행 프레임워크
컨텍스트 예산 및 요청 동시성
증류 릴리스와 전체 모델은 서로 다른 아키텍처를 필요로 합니다. 인프라 요청 시 정확한 모델 식별자를 저장하세요.
정확한 릴리스와 정밀도를 명명하세요. “DeepSeek for 50 users”는 GPU 구성 또는 응답 시간을 약속하기에 불충분합니다.