Was sind KI-Halluzinationen?
Als KI-Halluzination wird eine Ausgabe bezeichnet, die plausibel wirkt, aber sachlich falsch, erfunden oder nicht durch die verfügbaren Informationen gedeckt ist. Ein Sprachmodell kann zum Beispiel nicht vorhandene Quellen oder Produkteigenschaften nennen. Eine überzeugende Formulierung ist deshalb kein Beleg für Richtigkeit.
EIN BEISPIEL AUS DER PRAXIS
So begegnet dir der Begriff
Ein Assistent nennt eine angebliche Funktion eines Produkts. In den freigegebenen Produktdaten ist diese Funktion nicht enthalten. Eine Prüfung gegen die tatsächlichen Angaben verhindert, dass der Entwurf unverändert an einen Kunden weitergegeben wird.
Warum ist das für dich relevant?
Wenn du dieses Verhalten einplanst, kannst du Kontrollen an den richtigen Stellen einbauen. Unsicherheit und fehlende Informationen sollten sichtbar werden, statt mit erfundenen Details verdeckt zu werden.
Welche Maßnahmen helfen im Unternehmensalltag?
RAG kann passende Quellen bereitstellen. Klare Prompts legen Grenzen fest. Eine menschliche Prüfung bleibt bei wichtigen Ergebnissen sinnvoll. Keine einzelne Maßnahme schließt alle Fehler aus.
Häufige Fragen
Erkenne ich eine falsche Antwort am Schreibstil?
Nicht zuverlässig. Auch eine falsche Antwort kann flüssig und selbstsicher formuliert sein. Prüfe die behaupteten Fakten und die tatsächlich verfügbaren Quellen.
Sind Quellenverweise immer ein Beweis?
Nein. Ein Verweis kann erfunden sein oder eine Aussage nicht stützen. Eine gute Anwendung verlinkt tatsächlich verwendete Stellen und ermöglicht deren Prüfung.
Darauf solltest du achten
- Wichtige Aussagen an nachlesbaren Quellen prüfen.
- Keine fehlenden Zahlen oder Eigenschaften ergänzen lassen.
- Tests auch mit unklaren und unbeantwortbaren Fragen durchführen.
Weiterführende Quellen
Aus dem NetzTurm-Glossar. Verständlich erklärt für deinen Unternehmensalltag.