Rozhodnutie o architektúre
Začať od merateľného pilotného projektu. Model nasadiť až po testoch kvality a záťaže, s dostupnými artefaktmi na rollback.
GLOBALATLAS AI · AI startupy
Oddeliť experimenty od inferencie pre zákazníka, aby zmeny modelu nezasahovali do aplikácie.
Projekt experimentu: dataset a behy tréningu
Projekt aplikácie: API a inferencia
Zdieľané verziované artefakty a limity výdavkov
Začať od merateľného pilotného projektu. Model nasadiť až po testoch kvality a záťaže, s dostupnými artefaktmi na rollback.
GPU pre model, CPU pre API, objektové úložisko pre dataset a zálohy pre stav. Začnite s malým meraným zaťažením.