Architektūros sprendimas
Išmatuokite visą darbo eigą, įskaitant papildomus modelius. Sėkmingas vieno vaizdo apdorojimas neužtikrina talpumo paraleliniams darbams.
GLOBALATLAS AI · Vaizdų generavimo infrastruktūra
Vaizdo generavimo atmintis priklauso nuo modelio, raiškos, partijos dydžio ir inferencijos proceso.
Modelis, raiška ir pasirinktini apdorojimo etapai
Darbo eilė ir matomas VRAM kiekis pagal partiją
Objektų saugykla įvestims ir sugeneruotoms nuotraukoms
Išmatuokite visą darbo eigą, įskaitant papildomus modelius. Sėkmingas vieno vaizdo apdorojimas neužtikrina talpumo paraleliniams darbams.
Pradėti nuo atkuriamo pavyzdžio ir matuoti viršutinį VRAM kiekį. Išsaugokite rezultatus atskirai nuo GPU serverio įkrovos disko.