Was bedeutet Retrieval Augmented Generation?
Retrieval Augmented Generation (RAG) verbindet eine Informationssuche mit der Antwort eines Sprachmodells. Zuerst sucht die Anwendung zur Frage passende Inhalte. Anschließend erhält das Modell diese Inhalte als Kontext für seine Antwort. Damit lässt sich zum Beispiel freigegebenes Unternehmenswissen einbeziehen.
EIN BEISPIEL AUS DER PRAXIS
So begegnet dir der Begriff
Dein Team fragt nach der Einrichtung eines Produkts. Die Anwendung sucht passende Stellen im aktuellen Handbuch und formuliert daraus eine Antwort mit Verweisen. Eine Person kann die verwendeten Stellen direkt nachlesen.
Warum ist das für dich relevant?
Aktuelle Informationen können genutzt werden, ohne dass bei jeder Änderung ein Modell neu trainiert wird. Gute Ergebnisse setzen geeignete Quellen und eine passende Suche voraus.
Verhindert RAG jede falsche Antwort?
Nein. Die Suche kann unpassende Stellen liefern und das Sprachmodell kann Informationen falsch verbinden. Prüfe deshalb die Suche und die Antwort getrennt. Ein Wissensassistent sollte fehlende Quellen klar benennen.
Häufige Fragen
Müssen meine Daten dafür ins Modelltraining?
RAG übergibt passende Inhalte zur jeweiligen Anfrage. Das ist vom Training zu unterscheiden. Wie der eingesetzte Dienst Eingaben verarbeitet und speichert, muss zusätzlich geklärt werden.
Welche Dokumente eignen sich?
Zum Beispiel geprüfte Handbücher, Produktinformationen und interne Anleitungen. Veraltete Versionen, widersprüchliche Inhalte und schlechte Scans sollten vorab bereinigt werden.
Darauf solltest du achten
- Dokumente aktuell und nachvollziehbar halten.
- Berechtigungen schon bei der Suche berücksichtigen.
- Quellen anzeigen und Antworten mit Testfragen prüfen.
Weiterführende Quellen
Aus dem NetzTurm-Glossar. Verständlich erklärt für deinen Unternehmensalltag.