アーキテクチャの決定
GPU容量は埋め込み作業を決定します。インデックスサイズとクエリ動作はデータベースリソースを決定します。別々に計画してください。
GLOBALATLAS AI · 埋め込みインフラストラクチャ
埋め込みインフラストラクチャ
埋め込みパイプラインは入力をベクトルにエンコードし、通常モデル実行と別のインデックスまたはデータベースと組み合わせて使用します。
リトリーバルパイプラインを構築
- 01
ソースドキュメントを入力に分割
- 02
固定モデルバージョンでベクトルを生成
- 03
ベクトルとメタデータを別のインデックスに保存
構成要件
モデル、入力長、バッチサイズ、インデックスの成長を指定。GPU推論とベクトルストレージは別々にサイズ設定。