GLOBALATLAS AI · AI 인프라
AI 인프라
훈련은 모델을 변경하며, 추론은 이를 실행합니다. 모델 제공, 데이터셋 및 애플리케이션 API는 별도 리소스 요구 사항이 있습니다.
AI 라이프사이클 단계 선택
훈련 및 적응
모델 제공
LLM 호스팅
모델 서비스는 메모리 내 가중치, 런타임 버퍼, KV 캐시, 애플리케이션 엔드포인트를 필요로 합니다.
탐색 →AI 추론
추론은 훈련된 모델을 실행합니다. 입력 크기, 배치 및 컨텍스트 길이가 작업 메모리와 모델 가중치를 결정합니다.
탐색 →DeepSeek용 인프라
DeepSeek-R1 및 그 증류 모델은 서로 다른 작업 부하입니다. 증류 릴리스는 1.5B에서 70B 파라미터를 포함하며, 전체 모델은 별도 크기 조정이 필요합니다.
탐색 →Llama용 인프라
Llama는 모델 계열입니다. Llama 3.1 8B는 8-십억 매개변수 모델의 예시이며, 모든 Llama 릴리스에 대한 용량 약속이 아닙니다.
탐색 →Mistral용 인프라
Mistral 7B 및 기타 Mistral 릴리스는 크기와 아키텍처가 다릅니다. 하드웨어 크기 조정을 위해 특정 모델 카드를 선택하세요.
탐색 →Qwen용 인프라
Qwen은 텍스트, 코드, 멀티모달 모델 계열을 포함. 정확한 모델 릴리스, 지원하는 서빙 런타임, 정밀도, 컨텍스트 예산으로 시작; 이 선택이 인프라 요구사항을 결정.
탐색 →Gemma용 인프라
Gemma는 여러 크기와 작업별 버전이 있습니다. 정확한 모델 카드를 선택하고, 해당 사용 조건을 수락하며, 런타임 지원 여부를 확인하세요.
탐색 →Stable Diffusion용 인프라
Stable Diffusion은 이미지 생성 워크로드를 지원합니다. SDXL Base, 선택적 정제기 및 추가 워크플로 구성 요소는 별도의 메모리 및 저장 요구 사항이 있습니다. 해상도와 배치 크기는 전체 파이프라인에 영향을 미칩니다.
탐색 →FLUX용 인프라
FLUX 릴리스는 아키텍처, 추론 코드 및 모델 라이선스가 다릅니다. 정확한 릴리스를 선택하고 지원 워크플로우를 선택한 후, 의도한 이미지 해상도와 정밀도에서 최대 메모리를 측정하세요.
탐색 →Whisper용 인프라
Whisper는 오픈 소스 음성 인식 모델 계열입니다. 자체 호스팅 전사 서비스는 다운로드된 모델 가중치와 로컬 추론 런타임을 사용하며, 호스팅된 음성 API 구독과 별개입니다.
탐색 →