Arhitektūras lēmums
GPU jauda nosaka iekļaušanas darbu; indeksa izmērs un vaicājumu uzvedība nosaka datubāzes resursus. Plānojiet tos atsevišķi.
GLOBALATLAS AI · Iegultnes infrastruktūra
Iegultās infrastruktūras
Iegultās caurules kodē ievadi vektoriem un parasti apvieno modeļa izpildi ar atsevišķu indeksu vai datu bāzi.
Veidot atgūšanas līniju
- 01
Sadali avotu dokumentus ievadās
- 02
Ģenerējiet vektorus ar noteiktu modeļa versiju
- 03
Glabā vektorus un metadatus atsevišķā indeksā
Konfigurācijas prasības
Norādīt modeli, ievades garumu, partiju lielumu un indeksu pieaugumu. GPU inferenču un vektoru glabāšanas izmēriem jābūt atsevišķiem.