GLOBALATLAS AI · 機器學習基礎設施

機器學習基礎設施

將資料準備、訓練與服務階段分開；這些階段需要不同的計算與存儲配置。

資料準備、訓練與評估

在加入 GPU 容量前，先分析最慢階段。資料載入瓶頸可能使加速器閒置。

使用 CPU 進行準備，當框架支援加速時使用 GPU，並使用持久存儲來存放資料集和檢查點。在選擇 VRAM 之前，請測量訓練批次。