Corrective RAG (CRAG): Eingebaute QualitÀtskontrolle
4. MĂ€rz 2025
Standard RAG verlĂ€sst sich blind darauf, was die Vektorsuche zurĂŒckliefert â und produziert Halluzinationen, sobald die Treffer schlecht sind. Corrective RAG schiebt eine QualitĂ€tsprĂŒfung dazwischen, bevor irgendetwas das Sprachmodell erreicht.
Was es ist
Direkt nach dem Retrieval bewertet ein Evaluator â meist ein eigenes LLM oder ein leichtgewichtiger Classifier â, ob die abgerufenen Chunks tatsĂ€chlich zur Frage passen. Auf Basis dieser Bewertung entscheidet das System: Ergebnisse direkt verwenden, die Suche nachschĂ€rfen oder als Fallback eine Websuche anstoĂen. Schlechtes Retrieval erreicht das LLM gar nicht erst.
Wie es funktioniert
Nach dem Retrieval bewertet der Evaluator jedes Dokument mit einem Relevanz-Score. Es gibt drei mögliche Pfade: Wenn die Dokumente hoch relevant sind (Correct), durchlaufen sie einen Verfeinerungsschritt â sie werden in feinkörnige Wissensstreifen zerlegt, irrelevante Teile werden herausgefiltert und die nĂŒtzlichen Teile neu zusammengesetzt. Wenn sie teilweise relevant sind (Ambiguous), werden sowohl die internen Ergebnisse verfeinert als auch eine externe Suche durchgefĂŒhrt â beide Quellen werden kombiniert. Wenn sie irrelevant sind (Incorrect), werden die internen Ergebnisse verworfen und durch Ergebnisse einer Websuche oder alternativer Quellen ersetzt.
StÀrken
CRAG reduziert Halluzinationen erheblich, indem es irrelevante Dokumente herausfiltert, bevor sie das LLM erreichen. Der Fallback-Mechanismus auf Websuche macht das System robuster gegenĂŒber LĂŒcken in der Wissensbasis. Es ist besonders wertvoll in Szenarien, in denen die Konsequenzen falscher Antworten hoch sind â etwa in juristischen oder medizinischen Anwendungen.
SchwÀchen
Die zusĂ€tzliche Bewertungsschicht erhöht Latenz und Kosten. Der Evaluator selbst kann Fehler machen â er könnte relevante Dokumente fĂ€lschlicherweise ablehnen oder irrelevante durchlassen. Die Schwellenwerte fĂŒr die drei Pfade mĂŒssen sorgfĂ€ltig kalibriert werden, was domĂ€nenspezifisches Tuning erfordert.
Wann Sie es einsetzen sollten
Setzen Sie CRAG ein, wenn Ihre Standard-RAG-Pipeline zwar oft gute Ergebnisse liefert, aber gelegentlich irrelevante Dokumente abruft, die zu fehlerhaften Antworten fĂŒhren. Es eignet sich besonders fĂŒr Anwendungen mit hohen QualitĂ€tsanforderungen, bei denen Sie bereit sind, zusĂ€tzliche Latenz fĂŒr bessere Genauigkeit in Kauf zu nehmen.
Quellen
Yan et al. â Corrective Retrieval Augmented Generation (2024)