Arkitekturbeslutning
GPU-kapacitet bestemmer embeddingsarbejde; indeksstørrelse og forespørgselsadfærd bestemmer database ressourcer. Planlæg dem separat.
GLOBALATLAS AI · Embedding-infrastruktur
Indlejring-infrastruktur
Indlejring pipelines koder input til vektorer og kombinerer ofte modeludførelse med en separat indeks eller database.
Opret en hentningspipeline
- 01
Opdel kilde-dokumenter i input
- 02
Generer vektorer med en fast modelversion
- 03
Opbevar vektorer og metadata i en separat indeks
Krav til konfiguration
Angiv model, inputlængde, batchstørrelse og indeksvækst. GPU-inferens og vektorlager skal størrelsesbestemmes separat.