Rozhodnutí o architektuře
Kapacita GPU určuje práci s embeddingy; velikost indexu a chování dotazů určují zdroje databáze. Plánujte je samostatně.
GLOBALATLAS AI · Infrastruktura embeddingů
Infrastruktura vložení
Pipeline vložení kódu kódu zakóduje vstup do vektorů a obvykle kombinuje spuštění modelu s odděleným indexem nebo databází.
Vytvořit vyhledávací pipeline
- 01
Rozdělit zdrojové dokumenty na vstupy
- 02
Generujte vektory s pevnou verzí modelu
- 03
Ukládejte vektory a metadata v samostatném indexu
Požadavky na konfiguraci
Specifikujte model, délku vstupu, velikost dávky a růst indexu. Inferenci GPU a ukládání vektorů by měly být dimenzovány samostatně.