Decizie de arhitectură
Capacitatea GPU determină sarcinile de embedding; dimensiunea indexului și comportamentul interogărilor determină resursele bazei de date. Planificați-le separat.
GLOBALATLAS AI · Infrastructură embedding
Infrastructură de embedding
Pipeline-urile de embedding encodează inputul în vectori și combină de obicei execuția modelului cu un index sau bază de date separat.
Construiți un pipeline de recuperare
- 01
Împarte documentele sursă în intrări
- 02
Generează vectori cu o versiune fixă a modelului
- 03
Stochează vectori și metadate într-un index separat
Cerinte de configurare
Specificați modelul, lungimea inputului, dimensiunea lotului și creșterea indexului. Inferența GPU și stocarea vectorilor trebuie dimensionate separat.