아키텍처 결정
GPU 용량 추가 전에 가장 느린 단계 프로파일링. 데이터 로딩 병목이 가속기를 유휴 상태로 만들 수 있음.
GLOBALATLAS AI · 머신러닝 인프라
머신 러닝 인프라
데이터 준비, 훈련 및 서비스 단계를 분리하세요; 이 단계들은 서로 다른 컴퓨트 및 저장 프로필이 필요합니다.
데이터 준비, 훈련 및 평가
- 01
검증 및 전처리를 위한 CPU 파이프라인
- 02
훈련 호스트 및 영구 체크포인트
- 03
훈련 입력과 분리된 평가 데이터셋
구성 요구 사항
준비에는 CPU를 사용하고, 프레임워크가 가속을 지원하는 경우 GPU를 사용하며, 데이터셋과 체크포인트는 영구 저장소에 저장하세요. VRAM 선택 전에 학습 배치를 측정하세요.