Architektúra döntés
GPU kapacitás határozza meg a beágyazási feladatokat; a index mérete és lekérdezési viselkedés a adatbázis erőforrásokat. Tervezze külön.
GLOBALATLAS AI · Beágyazási infrastruktúra
Beágyazási infrastruktúra
Beágyazási csatornák kódolják a bemenetet vektorokká, és általában a modell végrehajtását egy külön index vagy adatbázis kombinálják.
Építsen lekérdező csővezeték (retrieval pipeline)
- 01
Forrásdokumentumok szétválasztása bemenetekké
- 02
Vektorok generálása egy adott modellverzióval
- 03
Vektorok és metaadatok tárolása külön indexben
Konfigurációs követelmények
Modell, bemeneti hossz, kötegméret és index növekedés megadása. GPU következtetés és vektor tárolás külön méretezést igényel.