Rozhodnutie o architektúre
Kapacita GPU určuje spracovanie embeddingov; veľkosť indexu a správanie dotazov určujú zdroje databázy. Plánujte ich samostatne.
GLOBALATLAS AI · Embedding infraštruktúra
Infrastruktúra vloženia
Pipeline vloženia kódu kóduje vstup do vektorov a zvyčajne kombinuje vykonávanie modelu s samostatným indexom alebo databázou.
Vytvorte vyhľadávací pipeline
- 01
Rozdeliť zdrojové dokumenty na vstupy
- 02
Generujte vektory s pevnou verziou modelu
- 03
Ukladať vektory a metadata v samostatnom indexe
Požiadavky na konfiguráciu
Špecifikovať model, dĺžku vstupu, veľkosť dávky a rast indexu. Inferencia GPU a ukladanie vektorov by mali byť dimenzované samostatne.