Rozhodnutie o architektúre
Profilujte najpomalšiu fázu pred pridaním GPU kapacity. Bottleneck pri načítaní dát môže nechať akcelerátor nevyužitý.
GLOBALATLAS AI · Infrastruktúra strojového učenia
Oddeliť prípravu dát, tréning a obsluhu; tieto fázy vyžadujú odlišné výpočtové a úložiskové profily.
Pipeline CPU pre validáciu a predspracovanie
Hostiteľ tréningu a trvalé kontrolné body
Vyhodnotenie datasetu izolovaného od vstupov tréningu
Profilujte najpomalšiu fázu pred pridaním GPU kapacity. Bottleneck pri načítaní dát môže nechať akcelerátor nevyužitý.
Použite CPU na prípravu, GPU keď framework podporuje akceleráciu a trvalé úložisko pre dataset a kontrolné body. Zmerajte dávku tréningu pred výberom VRAM.