Decisione di architettura
La capacità GPU determina il lavoro di embedding; la dimensione dell’indice e il comportamento delle query determinano le risorse del database. Pianificali separatamente.
GLOBALATLAS AI · Infrastruttura embedding
Infrastruttura di embedding
Le pipeline di embedding codificano l'input in vettori e di solito combinano l'esecuzione del modello con un indice o database separato.
Costruisci una pipeline di recupero
- 01
Dividi documenti sorgente in input
- 02
Genera vettori con una versione modello fissa
- 03
Archivia vettori e metadati in un indice separato
Requisiti di configurazione
Specifica modello, lunghezza input, dimensione batch e crescita dell'indice. L'inferenza GPU e lo storage vettoriale devono essere dimensionati separatamente.