Wat zijn AI-hallucinaties?
Een AI-hallucinatie is een resultaat dat aannemelijk lijkt, maar feitelijk onjuist, verzonnen of niet onderbouwd is door de beschikbare informatie. Een taalmodel kan bijvoorbeeld niet-bestaande bronnen of producteigenschappen noemen. Een overtuigende formulering bewijst dus niet dat iets klopt.
EEN VOORBEELD UIT DE PRAKTIJK
Waar je de term tegenkomt
Een assistent noemt een vermeende productfunctie. In de goedgekeurde productgegevens staat die functie niet vermeld. Door het resultaat te controleren aan de hand van de feitelijke informatie voorkom je dat het concept ongewijzigd naar een klant gaat.
Waarom is dit relevant voor jouw bedrijf?
Als je rekening houdt met dit gedrag, kun je controles op de juiste plekken inbouwen. Onzekerheid en ontbrekende informatie moeten zichtbaar worden, in plaats van met verzonnen details te worden verhuld.
Welke maatregelen helpen in de dagelijkse bedrijfsvoering?
RAG kan relevante bronnen aanleveren. Duidelijke prompts stellen grenzen. Een menselijke controle blijft zinvol bij belangrijke resultaten. Geen enkele maatregel sluit alle fouten uit.
Veelgestelde vragen
Herken ik een onjuist antwoord aan de schrijfstijl?
Niet betrouwbaar. Ook een onjuist antwoord kan vloeiend en zelfverzekerd zijn geformuleerd. Controleer de beweringen en de bronnen die daadwerkelijk beschikbaar zijn.
Zijn bronverwijzingen altijd bewijs?
Nee. Een verwijzing kan verzonnen zijn of een bewering niet onderbouwen. Een goede toepassing linkt naar daadwerkelijk gebruikte bronnen en maakt controle ervan mogelijk.
Waar je op moet letten
- Controleer belangrijke beweringen aan de hand van bronnen die je kunt raadplegen.
- Laat ontbrekende cijfers of eigenschappen niet aanvullen.
- Test ook met onduidelijke en onbeantwoordbare vragen.
Meer informatie
Uit NetzTurm Decode. Duidelijke uitleg voor jouw bedrijf.