Arkkitehtuuripäätös
GPU-kapasiteetti määrittää upotustyön; indeksin koko ja kyselykäyttäytyminen määrittelevät tietokantavarat. Suunnittele ne erikseen.
GLOBALATLAS AI · Upotuskohteen infrastruktuuri
Upotusinfrastruktuuri
Upotussarjat koodaa syötteen vektoreiksi ja yhdistävät yleensä mallin suorituksen erilliseen indeksiin tai tietokantaan.
Rakenna hakuprosessi
- 01
Jaa lähdedokumentit syötteisiin
- 02
Luo vektoreita kiinteällä malliversiolla
- 03
Tallenna vektorit ja metatiedot erilliseen indeksiin
Kokoonpanovaatimukset
Määritä malli, syötteen pituus, eräkoko ja indeksin kasvu. GPU-inferenssi ja vektorivarastot tulee mitoittaa erikseen.