Odločitev o arhitekturi
Kapaciteta GPU določa delo z vdelavami; velikost indeksa in vedenje poizvedb določata vire baze podatkov. Načrtujte jih ločeno.
GLOBALATLAS AI · Infrastruktura za vgrajevanje
Vgrajevalna infrastruktura
Vgrajevalni postopki kodirajo vhod v vektorje in običajno združujejo izvajanje modela z ločenim indeksom ali bazo podatkov.
Zgradite iskalni potek
- 01
Razdeli vhodne dokumente na vhodne podatke
- 02
Generirajte vektorje z določeno različico modela
- 03
Shranjujte vektorje in metapodatke v ločen indeks
Zahteve za konfiguracijo
Določite model, dolžino vhodnih podatkov, velikost serije in rast indeksa. inference na GPU in shranjevanje vektorjev naj bosta ločeno dimenzionirana.