Decyzja architektoniczna
Profiluj najwolniejszy etap przed dodaniem pojemności GPU. Wąskie gardło w ładowaniu danych może pozostawić akcelerator nieużywanym.
GLOBALATLAS AI · Infrastruktura uczenia maszynowego
Infrastruktura uczenia maszynowego
Oddziel przygotowanie danych, trening i serwowanie; te etapy wymagają różnych profili obliczeniowych i pamięciowych.
Przygotowanie danych, trening i ewaluacja
- 01
Pipeline CPU do walidacji i wstępnego przetwarzania
- 02
Host szkoleniowy i trwałe punkty kontrolne
- 03
Zbiór danych ewaluacyjnych odizolowany od danych treningowych
Wymagania dotyczące konfiguracji
Używaj CPU do przygotowania, GPU gdy framework obsługuje akcelerację oraz trwałej pamięci do zbiorów danych i punktów kontrolnych. Zmierz partię treningową przed wyborem VRAM.