Decyzja architektoniczna
Pojemność GPU decyduje o pracy osadzania; rozmiar indeksu i zachowanie zapytań określają zasoby bazy danych. Planuj je osobno.
GLOBALATLAS AI · Infrastruktura osadzania
Infrastruktura osadzeń
Pipeline'y osadzeń kodują wejście w wektory i zwykle łączą wykonanie modelu z osobnym indeksem lub bazą danych.
Buduj pipeline wyszukiwania
- 01
Podziel dokumenty źródłowe na wejścia
- 02
Generuj wektory z określoną wersją modelu
- 03
Przechowuj wektory i metadane w osobnym indeksie
Wymagania dotyczące konfiguracji
Określ model, długość wejścia, rozmiar partii i wzrost indeksu. Inferencja GPU i przechowywanie wektorów powinny być rozmiarowane osobno.