Keputusan arsitektur
Kapasitas GPU menentukan pekerjaan embedding; ukuran indeks dan perilaku kueri menentukan sumber daya basis data. Rencanakan secara terpisah.
GLOBALATLAS AI · Infrastruktur embedding
Pipeline embedding mengkodekan input ke dalam vektor dan biasanya menggabungkan eksekusi model dengan indeks atau basis data terpisah.
Pecah dokumen sumber menjadi input
Hasilkan vektor dengan versi model tetap
Simpan vektor dan metadata dalam indeks terpisah
Kapasitas GPU menentukan pekerjaan embedding; ukuran indeks dan perilaku kueri menentukan sumber daya basis data. Rencanakan secara terpisah.
Tentukan model, panjang input, ukuran batch, dan pertumbuhan indeks. Inferensi GPU dan penyimpanan vektor harus disesuaikan secara terpisah.