Beranda / Glosarium / Reranking
What is Reranking?
Reranking adalah langkah second-pass dalam RAG yang mengurutkan ulang top-k chunk yang diambil berdasarkan relevansi terhadap query, menggunakan model dedicated yang lebih kecil. Pipeline RAG osFoundry mencakup reranking via Voyage reranker secara default.
Detail
Retrieval berbasis embedding cepat tetapi kasar — ia mengembalikan chunk yang semantik dekat dengan query, tetapi top-3 tidak selalu paling relevan. Reranker memberi skor setiap pasangan (query, chunk) lebih presisi (sering menggunakan cross-encoder), lalu mengurutkan ulang.
Reranking menambahkan latency 50-200 ms tetapi secara dramatis meningkatkan presisi top-3, terutama pada konten teknis dengan kosakata yang tumpang tindih. Biaya umum: beberapa sen per juta token yang di-rerank.
How osFoundry approaches Reranking
Pipeline default osFoundry me-rerank dengan Voyage. Threshold dan top-k dapat dikonfigurasi. BYOK ke Cohere atau API rerank apa pun.
Related terms
Related features