Lewati ke konten
TEKNOIDTEKNOIDTEKNOID
Semua Repositori

VectifyAI/PageIndex

Vector database bukan masa depan RAG.

πŸ“… Status: βœ… Published | πŸ—‚οΈ Kategori: Memory & RAG Systems | ✍️ Kurator: Muh Habibie

Vector database bukan masa depan RAG. Vectorless RAG dengan PageIndex baru saja capai akurasi 98.7% di FinanceBench. TANPA vector database dan TANPA chunking. 100% Opensource.

Apakah kamu frustrasi dengan akurasi retrieval vector database untuk dokumen profesional panjang? RAG tradisional berbasis vector bergantung pada kesamaan semantik daripada relevansi sejati. Tapi kesamaan β‰  relevansi – yang sebenarnya kita butuhkan dalam retrieval adalah relevansi, dan itu butuh reasoning. Saat bekerja dengan dokumen profesional yang menuntut keahlian domain dan reasoning multi-langkah, similarity search sering kali kurang.

Terinspirasi dari AlphaGo, kami mengusulkan PageIndex – sistem RAG vectorless berbasis reasoning yang membangun hierarchical tree index dari dokumen panjang dan menggunakan LLM untuk melakukan reasoning atas index tersebut untuk retrieval agentic yang context-aware. Ini mensimulasikan bagaimana expert manusia menavigasi dan mengekstrak pengetahuan dari dokumen kompleks lewat tree search, mengaktifkan LLM untuk berpikir dan melakukan reasoning-nya ke bagian dokumen yang paling relevan. PageIndex melakukan retrieval dalam dua langkah:

  1. Menghasilkan struktur index pohon β€œTable-of-Contents” dari dokumen
  2. Melakukan retrieval berbasis reasoning lewat tree search

PageIndex cocok untuk developer yang bekerja dengan dokumen kompleks, mengatasi masalah vector search yang tidak akurat dengan menggunakan retrieval berbasis reasoning alih-alih similarity matching.

β€œMulti dokumen pendekatan ini gak jalan. Single dokumen - ya” β€” @probatum_

Tangkapan layar VectifyAI/PageIndex 1

Tangkapan layar VectifyAI/PageIndex 2