Рішення архітектури
Обчислювальна потужність GPU визначає обробку вбудовування; розмір індексу та поведінка запитів визначають ресурси бази даних. Плануйте їх окремо.
GLOBALATLAS AI · Інфраструктура для вбудовування
Інфраструктура вбудовування
Пайплайни вбудовування кодують вхід у вектори та зазвичай поєднують виконання моделі з окремим індексом або базою даних.
Побудуйте процес пошуку
- 01
Розділити джерела документів на входи
- 02
Генеруйте вектори з фіксованою версією моделі
- 03
Зберігайте вектори та метадані у окремому індексі
Вимоги до конфігурації
Вказати модель, довжину вхідних даних, розмір пакету та зростання індексу. Інференс на GPU та зберігання векторів слід розмірювати окремо.