Loading...đ€
19. April 2026
Nutzer formulieren ihre Fragen selten so, wie es die gespeicherten Dokumente tun. Fusion RAG umgeht das Problem, indem es jede Frage in mehrere Varianten zerlegt, parallel sucht und die Treffer fair zusammenfĂŒhrt.
Aus der ursprĂŒnglichen Anfrage werden mehrere alternative Formulierungen generiert. Jede Variante löst eine eigene Vektorsuche aus; die Ergebnislisten werden anschlieĂend per Reciprocal Rank Fusion zu einer einzigen, robusten Liste verschmolzen. Eine einzelne Formulierung trifft nie alle relevanten Aspekte â mehrere Perspektiven zusammen schon.
Ein LLM generiert mehrere (typischerweise 3-5) Umformulierungen der ursprĂŒnglichen Anfrage, die unterschiedliche Aspekte oder Formulierungen betonen. Jede dieser Varianten wird unabhĂ€ngig in der Vektordatenbank gesucht, wodurch unterschiedliche Dokumentmengen zurĂŒckkommen. Reciprocal Rank Fusion (RRF) kombiniert diese Ergebnislisten, indem Dokumente, die in mehreren Suchen weit oben stehen, einen höheren kombinierten Score erhalten. Die Top-k Dokumente aus dem fusionierten Ranking werden dann an das LLM ĂŒbergeben.
Fusion RAG liefert eine deutlich höhere Recall-Rate als eine einzelne Suche. Dokumente, die bei einer bestimmten Formulierung nicht gefunden worden wĂ€ren, tauchen durch alternative Perspektiven auf. RRF ist auĂerdem ein robustes, parameterfreies Ranking-Verfahren, das keine Kalibrierung erfordert. Die parallelen Suchen können gleichzeitig ausgefĂŒhrt werden, was die zusĂ€tzliche Latenz begrenzt.
Die mehrfachen Suchen erhöhen die Last auf der Vektordatenbank proportional zur Anzahl der Umformulierungen. Der LLM-Aufruf fĂŒr die Umformulierung fĂŒgt Latenz am Anfang der Pipeline hinzu. Bei sehr spezifischen Anfragen können die alternativen Formulierungen den Fokus verwĂ€ssern statt verbessern, was die Precision senken kann.
Fusion RAG lohnt sich, wenn Ihre Nutzer hĂ€ufig vage, mehrdeutige oder breit formulierte Fragen stellen. Es ist besonders wertvoll in heterogenen Wissensbasen, in denen das gleiche Konzept in unterschiedlichen Formulierungen beschrieben wird â etwa wenn technische Dokumentation, Marketing-Texte und Support-Tickets in derselben Datenbank indexiert sind.
Rackauckas â RAG-Fusion: a New Take on Retrieval-Augmented Generation (2024)
