Retrieval-Augmented Generation erklärt
RAG hilft einer KI-Anwendung, aus ausgewählten Dokumenten zu antworten, anstatt sich nur auf Muster zu verlassen, die während des Modelltrainings gelernt wurden.
Retrieval-Augmented Generation, oder RAG, durchsucht eine externe Wissensquelle nach relevantem Material und gibt dieses Material an ein KI-Modell weiter, bevor es eine Antwort generiert.
Retrieval erfolgt vor der Generierung
Der Prozess beginnt mit einer Frage. Ein Retriever durchsucht eine Wissensbasis und gibt Material zurück, das mit dieser Frage zusammenhängt. Die Anwendung fügt dieses Material zum Prompt des Modells hinzu.
Das Modell schreibt dann eine Antwort unter Verwendung der Frage und des abgerufenen Kontexts. Einige Anwendungen zeigen auch Quellenangaben, damit eine Person die Quelle überprüfen kann.
Bessere Quellen beseitigen nicht jeden Fehler
RAG kann aktuelle Richtlinien, interne Leitfäden oder spezialisierte Datensätze in eine Antwort einbringen, ohne das Modell neu zu trainieren. Die Qualität hängt dennoch davon ab, was die Wissensbasis enthält und was der Retriever findet.
Das Modell kann nützliches Material falsch interpretieren oder darüber hinaus schreiben. Wichtige Antworten erfordern weiterhin eine direkte Prüfung gegen die zugrunde liegende Quelle.
RAG-Begriffe
- Wissensbasis
- Die Dokumente oder Datensätze, die das System nach relevanten Informationen durchsuchen kann.
- Retriever
- Der Teil des Systems, der Material findet, das mit der Anfrage zusammenhängt.
- Grounding
- Dem Modell Quellmaterial zur Verfügung stellen, das die Antwort unterstützt, die es erzeugen soll.
Was die Antwortqualität bestimmt
Das Quellmaterial
Die Wissensbasis muss genaue und aktuelle Informationen für die Frage enthalten.
Die Suche
Der Retriever muss die Passagen finden, die tatsächlich auf die Anfrage eingehen.
Die abschließende Prüfung
Eine Person sollte wichtige Aussagen dennoch gegen die zitierte Quelle überprüfen.
Fragen zu Retrieval-Augmented Generation
Es gibt einem Modell zum Zeitpunkt einer Anfrage relevante externe Informationen. Dies kann Antworten zu aktuellem oder organisationsspezifischem Material unterstützen.
Nein. RAG ruft Informationen für einen Prompt ab. Training oder Fine-Tuning verändert das Modell selbst.
Nein. Es kann unbelegte Antworten reduzieren, indem es Quellmaterial bereitstellt, aber das Retrieval und die generierte Antwort können dennoch falsch sein.
Verwandte Glossarbegriffe
Setzen Sie Ihr Unternehmenswissen ein
Caffeine-Apps laufen auf dem Internet Computer, einem dafür gebauten öffentlichen Netzwerk.