Decisió d'arquitectura
La capacitat de GPU determina la feina d'embelliment; la mida de l'índex i el comportament de la consulta determinen els recursos de la base de dades. Planifiqueu-los per separat.
GLOBALATLAS AI · Infraestructura d'embedding
Infraestructura d'inserció
Les canonades d'inserció codifiquen la entrada en vectors i solen combinar l'execució del model amb un índex o base de dades separat.
Construeix una pipeline de recuperació
- 01
Divideix els documents font en entrades
- 02
Genera vectors amb una versió de model fixa
- 03
Emmagatzema vectors i metadades en un índex separat
Requisits de configuració
Especifica el model, la llargada d'entrada, la mida del lot i el creixement de l'índex. La inferència GPU i l'emmagatzematge vectorial s'han de dimensionar per separat.