Одлука за архитектура
Капацитетот на GPU одредува работи за вгнездени системи; големината на индексот и однесувањето при пребарување одредуваат ресурси за базата. Планирајте ги одделно.
GLOBALATLAS AI · Инфраструктура за вгнездени системи
Инфраструктура за вметнување
Пипелини за вметнување кодираат влезни податоци во вектори и обично ги комбинираат извршувањето на моделот со посебен индекс или база на податоци.
Изградете процес за враќање на податоци
- 01
Подели извори на документи во влезови
- 02
Генерирајте вектори со фиксна верзија на моделот
- 03
Складирајте вектори и метаподатоци во посебен индекс
Барања за конфигурација
Постави модел, должина на влез, големина на партија и раст на индексот. Инференсот на GPU и складиштето на вектори треба да бидат соодветно големинирани.