← Resources
By Sora Kashiwagi
— Senior Engineer, Vector Search
·
· TUTORIAL
Hybride Suche: BM25 und Vektorsuche für RAG kombinieren
Schlüsselwortsuche (BM25) und Vektorsuche versagen auf entgegengesetzte Weise, und genau deshalb kombiniert produktives RAG beide. Dieser Leitfaden erklärt beide Methoden, wie die Fusion (RRF) ihre Ergebnisse zusammenführt, wo Reranking passt und wann hybride Suche reine Vektorsuche deutlich übertrifft.
Zwei Suchmethoden, die unterschiedlich versagen
BM25 (lexikalische oder Schlüsselwortsuche) bewertet Dokumente nach exakter Termübereinstimmung, gewichtet seltene Terme höher und bestraft die Länge. Sie ist deterministisch und läuft über einen invertierten Index. Die Vektorsuche (semantische Suche) kodiert Anfragen und Dokumente in dichte Embeddings und ruft per Nächste-Nachbarn-Ähnlichkeit ab, wobei sie Bedeutung, Synonyme und Paraphrasen erfasst — auch sprachübergreifend.
Ihre Schwächen sind Spiegelbilder. BM25 verfehlt Synonyme und Konzepte: Eine Anfrage nach «Datenbank-Speicherproblemen» findet keine Seite mit dem Titel «Cache-Eviction-Richtlinien», wenn die wörtlichen Begriffe abweichen. Die Vektorsuche verfehlt exakte Token — Akronyme, SKUs, Fehlercodes, IDs, Modellnummern — und leidet unter semantischer Drift, indem sie semantisch nahe, aber falsche Ergebnisse zurückgibt, etwa «Adidas Laufschuhe» bei einer Anfrage nach «Nike Laufschuhe». Da die Fehlermodi komplementär sind, reicht keiner allein aus.
Was hybride Suche leistet
Hybride Suche führt das lexikalische (BM25) und das dichte (Vektor-)Retrieval parallel aus und fügt deren zwei ranggeordnete Ergebnislisten zu einer zusammen. Der Zusammenführungsschritt ist der interessante Teil, da BM25-Scores und Vektorähnlichkeits-Scores auf völlig unterschiedlichen Skalen liegen — man kann sie nicht einfach addieren.
Deshalb verwendet die dominierende Fusionsmethode, Reciprocal Rank Fusion (RRF), nur die Rangposition, nicht die Rohwerte. Der fusionierte Score jedes Dokuments ist die Summe über beide Retriever von 1 geteilt durch (k plus sein Rang), wobei k eine kleine Konstante ist (üblicherweise 60; einige Studien verwenden 20). Da sie die Score-Verteilungen vollständig ignoriert, ist RRF normalisierungsfrei und funktioniert «out of the box» — weshalb sie in den meisten Vektordatenbanken der Standard ist.
RRF vs. gewichtete Fusion
RRF ist nicht die einzige Option. Die gewichtete (Alpha-)Fusion normalisiert die beiden Score-Sets und mischt sie mit einem einstellbaren Gewicht: Alpha 0 ist reine Schlüsselwortsuche, 1 ist reine Vektorsuche, 0,5 ist gleichgewichtet, und Standardwerte liegen oft bei etwa 0,75 in Richtung Semantik. Einige Engines bieten zudem eine fusion auf Basis relativer Scores und von Verteilungen an.
Der Kompromiss: RRF ist robust und parameterarm, ideal, wenn man keine korpusspezifische Abstimmung wünscht. Die gewichtete Fusion gibt Ihnen einen Regler, um exakte Termübereinstimmung zu bevorzugen (niedrigeres Alpha) bei bezeichnerreichen technischen Inhalten oder Semantik (höheres Alpha) bei Fragen in natürlicher Sprache. Beginnen Sie mit RRF; greifen Sie zur gewichteten Fusion, wenn Sie einen klaren Grund haben, einen der Retriever zu bevorzugen.
Wo Reranking passt
Hybrides Retrieval ist die erste Stufe; Reranking ist die zweite. Ein schneller Retriever (BM25, Vektor oder hybrid) zieht einen Kandidatensatz, dann bewertet ein Cross-Encoder jeden Kandidaten neu, indem er Anfrage und Dokument in einem einzigen Durchlauf mit vollständiger Cross-Attention gemeinsam kodiert. Cross-Encoder sind weit präziser als die Retriever der ersten Stufe, aber zu kostenintensiv, um über das gesamte Korpus zu laufen, daher bewerten sie nur die Top-k-Kandidaten neu.
Die kanonische Produktions-Pipeline lautet daher: hybrides Retrieval (BM25 + Vektor, fusioniert mit RRF) → Cross-Encoder oder LLM-Reranker → Top-Ergebnisse in den Modellkontext. Jede Stufe erledigt die Aufgabe, für die sie am besten geeignet ist — zuerst Recall, zuletzt Präzision.
Bringt es wirklich etwas? Und wie man es in osFoundry baut
Die Gewinne sind real, hängen aber von Ihren Daten ab. Elastics BEIR-Studie ergab, dass RRF-Hybrid den durchschnittlichen NDCG@10 um etwa 18% gegenüber BM25 allein und um eine kleinere Marge gegenüber einem starken gelernten Encoder verbesserte und bei jedem getesteten Datensatz genauso gut oder besser als BM25 war. Mit der Verbesserung der dichten Modelle ist der marginale Hybrid-Gewinn gesunken — oft wenige Prozentpunkte bei domäneninternen Daten — bleibt aber am größten bei domänenfremden Korpora, seltenen Termen und Anfragen, die natürliche Sprache mit exakten Bezeichnern mischen. Hybrid bleibt der Produktionsstandard.
Die benutzerdefinierte RAG-Pipeline von osFoundry stellt dies als komponierbare Stufen statt als Black Box bereit: Eine BM25-Stufe und eine Vektorstufe laufen parallel, eine Fusionsstufe (RRF standardmäßig, gewichtet als Option) führt sie zusammen, und eine Reranking-Stufe verfeinert das Ergebnis, bevor es das Modell erreicht. Sie passen das lexikalisch-semantische Gleichgewicht pro Wissensbasis in der Konfiguration an und folgen dem Retrieve-Fuse-Rerank-Muster, ohne die Infrastruktur selbst zu schreiben.
Frequently asked questions
- Was ist der Unterschied zwischen Schlüsselwortsuche und semantischer Suche?
- Die Schlüsselwortsuche (lexikalisch), wie BM25, gleicht exakte Terme ab und gewichtet seltene höher — präzise, aber blind für Synonyme. Die semantische (Vektor-)Suche kodiert Bedeutung in Embeddings und findet per Ähnlichkeit, erfasst also Paraphrasen und verwandte Konzepte, kann aber exakte Token wie IDs und Fehlercodes verfehlen. Sie sind in entgegengesetzten Situationen stark.
- Was ist hybride Suche?
- Hybride Suche führt sowohl das Schlüsselwort- (BM25) als auch das Vektor-Retrieval parallel aus und fügt deren ranggeordnete Ergebnisse mit einem Fusionsalgorithmus zu einer Liste zusammen. Sie existiert, weil die beiden Methoden unterschiedlich versagen — die Vektorsuche verarbeitet Synonyme und Konzepte, BM25 trifft exakte Terme, Bezeichner und seltenes Fachvokabular — daher verbessert ihre Kombination sowohl Recall als auch Präzision.
- Was ist Reciprocal Rank Fusion (RRF)?
- RRF führt zwei ranggeordnete Listen allein anhand der Rangposition zusammen, nicht anhand der Rohwerte. Der fusionierte Score jedes Dokuments ist die Summe über die Retriever von 1 geteilt durch (k plus sein Rang), wobei k eine kleine Konstante ist (üblicherweise 60). Da es die inkompatiblen Score-Skalen von BM25 und Vektorsuche ignoriert, benötigt es keine Normalisierung und funktioniert gut out of the box.
- Wann übertrifft hybride Suche reine Vektorsuche?
- Wenn Anfragen natürliche Sprache mit exakten Bezeichnern mischen, seltenes oder domänenspezifisches Fachvokabular verwenden, gegen domänenfremde Inhalte laufen oder mehrsprachig sind. Reine Vektorsuche kann für rein konzeptionelle Fragen über gut eingebettete, domäneninterne Daten ausreichen. Für technische Wissensbasen voller Codes und Produktnamen ist Hybrid klar überlegen.
- Warum verfehlt Vektorsuche exakte Terme und IDs?
- Embeddings komprimieren Text in einen Vektor fester Größe, der Bedeutung erfasst, nicht die exakte Schreibweise, daher werden seltene Token wie Fehlercodes, SKUs und Akronyme geglättet — eine Eigenschaft, die manchmal als strukturelle Blindheit bezeichnet wird. Das Modell weiß, worum es in einem Abschnitt geht, aber nicht, dass er die wörtliche gesuchte Zeichenkette enthält, was genau BM25 gut kann.
- RRF oder gewichtete Fusion — welche sollte ich verwenden?
- Beginnen Sie mit RRF: Es ist robust, parameterarm und benötigt keine korpusspezifische Abstimmung. Wechseln Sie zur gewichteten (Alpha-)Fusion, wenn Sie einen klaren Grund haben, einen Retriever zu bevorzugen — ein niedrigeres Alpha für exakte Termübereinstimmung bei bezeichnerreichen Inhalten, ein höheres Alpha für Semantik bei Fragen in natürlicher Sprache.
- Fügt hybride Suche Latenz oder Kosten hinzu, und lohnt es sich?
- Sie führt zwei Retrievals plus einen Fusionsschritt aus, daher gibt es etwas Overhead, und Reranking fügt weiteres hinzu. Für die meisten RAG-Systeme rechtfertigen die Recall- und Präzisionsgewinne dies, besonders bei technischen oder gemischten Korpora. Wenn Sie gut eingebettete, rein konzeptionelle Daten haben und die Latenz kritisch ist, kann reine Vektorsuche ausreichen — messen Sie an Ihren eigenen Anfragen.
Sources