Arhitektuuripõhimõte
GPU maht määrab embedimise töö; indeksi suurus ja päringukäitumine määravad andmebaasi ressursid. Planeeri need eraldi.
GLOBALATLAS AI · Embedding infrastruktuur
Sissejuhatus infrastruktuuri
Sissejuhatus torujuhtmetesse, mis kodeerivad sisendi vektoriteks ning tavaliselt ühendavad mudeli täitmise eraldi indeksiga või andmebaasiga.
Ehita otsingupüünis
- 01
Jaga allikadokumendid sisenditeks
- 02
Genereeri vektoreid fikseeritud mudeli versiooniga
- 03
Salvesta vektoreid ja metaandmeid eraldi indeksis
Nõuded konfiguratsioonile
Määra mudel, sisendi pikkus, partii suurus ja indeksikasv. GPU inferents ja vektorsalvestus peaksid olema eraldi suurendatud.