Een taalmodel kan een onjuist antwoord formuleren dat precies klinkt als een deskundige uitleg. Lees hoe zulke hallucinaties ontstaan, welke omstandigheden de kans erop beïnvloeden en hoe u AI-uitvoer controleert voordat die onderdeel wordt van een besluit of proces.
Wat een hallucinatie in AI precies is
Een hallucinatie is een antwoord dat een AI-model presenteert als feit, terwijl de inhoud geheel of gedeeltelijk onjuist, verzonnen of niet onderbouwd is. Het kan gaan om een fout jaartal, een niet-bestaande bron, een verkeerd toegeschreven citaat of een redenering die een ontbrekende stap overslaat. De term klinkt alsof het model iets waarneemt, maar een taalmodel heeft geen menselijke waarneming of overtuiging. Het genereert tekst op basis van patronen in gegevens en de context van de opdracht.
Dat onderscheid is belangrijk bij het beoordelen van fouten. Een model kan dezelfde vraag bij een volgende poging anders beantwoorden, zonder zich te herinneren dat het eerder iets anders beweerde. Ook kan een antwoord feitelijk juist zijn maar een verzonnen bronverwijzing bevatten. De inhoud en de onderbouwing moeten daarom afzonderlijk worden gecontroleerd.
In de praktijk is niet elke fout even schadelijk. Een verkeerde suggestie voor een fictieve naam heeft andere gevolgen dan een onjuist advies over een contract, medische behandeling of productieomgeving. Beoordeel een antwoord daarom op twee assen: hoe waarschijnlijk is het dat de bewering onjuist is, en wat gebeurt er als iemand ernaar handelt? Die combinatie bepaalt hoeveel controle nodig is.
Waarom taalmodellen overtuigend klinkende onjuistheden produceren
Een taalmodel wordt getraind om waarschijnlijke tekst voort te zetten. Het voorspelt welk token logisch volgt op de eerdere tekst; het voert niet standaard een feitencontrole uit zoals een database of zoekmachine dat kan doen. Daardoor kan een vloeiende formulering ontstaan zonder dat de inhoud op dat moment aan een betrouwbare bron is getoetst. Taalvaardigheid en feitelijke betrouwbaarheid zijn verwante, maar verschillende eigenschappen.
Bij het trainen leert het model patronen uit grote hoeveelheden tekst. Die gegevens zijn onvolledig, kunnen verouderd zijn en bevatten tegenstrijdigheden en fouten. Het model neemt bovendien geen complete kopie van alle bronnen mee die het heeft gezien. Het abstraheert patronen, waardoor het soms details invult die passen bij een bekend format, maar niet bij de werkelijkheid. Een verzonnen publicatietitel kan bijvoorbeeld precies lijken op de titels die in een vakgebied gebruikelijk zijn.
Ook de instructie speelt mee. Wanneer een gebruiker om een stellig antwoord vraagt, kan het model eerder een plausibele formulering genereren dan aangeven dat informatie ontbreekt. Een opdracht om aannames expliciet te maken of onzekerheid te benoemen kan dat gedrag beïnvloeden, maar maakt de uitvoer niet vanzelf waar. De kern is dat een goed geschreven antwoord geen bewijs vormt voor de juistheid ervan.
Welke factoren de kans op hallucinaties vergroten
Een model loopt meer risico op een fout wanneer de vraag buiten zijn betrouwbare kennis valt. Dat kan komen doordat het onderwerp specialistisch is, de informatie recent is veranderd of de gevraagde details zelden voorkomen in trainingsmateriaal. Exacte gegevens, zoals wetsartikelen, versienummers, namen van auteurs en statistieken, zijn extra gevoelig: één verkeerd teken of detail kan de betekenis veranderen.
Ook de formulering van de opdracht beïnvloedt het antwoord. Een onduidelijke vraag, ontbrekende context of meerdere mogelijke interpretaties dwingen het model om aannames te maken. Een gebruiker kan dat risico verkleinen door doel, doelgroep, peildatum en gewenste afbakening te noemen. Toch kan een lange prompt het model ook afleiden wanneer instructies elkaar tegenspreken of belangrijke informatie diep in de tekst staat.
Technische instellingen en systeemopzet tellen eveneens mee. Hogere variatie-instellingen kunnen antwoorden minder voorspelbaar maken, terwijl een beperkte context belangrijke eerdere informatie buiten beeld kan laten vallen. Koppelingen met externe bronnen helpen alleen als die bronnen relevant, actueel en correct worden opgehaald. Een verouderde kennisbank of een zoekresultaat dat niet bij de vraag past, kan de uitvoer juist een schijn van onderbouwing geven. Risico beoordelen vraagt dus aandacht voor model, opdracht, gegevens en proces samen.
De rol van prompts, context en bronmateriaal
Een prompt kan richting geven, maar geen feiten in het model installeren. Beschrijf daarom welke taak het model uitvoert, welke informatie leidend is en wat het moet doen als gegevens ontbreken. Voor een analyse van een intern document kunt u bijvoorbeeld aangeven dat alleen dat document als bron geldt en dat conclusies zonder onderbouwing als onbevestigd moeten worden gemarkeerd. Dat beperkt ongewenste invulling, maar de aangehaalde passages moeten nog steeds worden gecontroleerd.
Bij retrieval-augmented generation (RAG) haalt een toepassing relevante passages uit een kennisbron op en voegt die toe aan de prompt. Het model kan zo antwoorden op basis van informatie die niet in de oorspronkelijke training zat. De kwaliteit hangt echter af van de bronselectie, actualiteit, toegangsrechten en de manier waarop documenten in stukken zijn verdeeld. Als een relevante passage niet wordt gevonden, kan het model alsnog zelf een antwoord aanvullen. Als een verkeerd document wordt opgehaald, kan het een fout juist overtuigend met bronvermelding presenteren.
Leg daarom vast hoe het systeem omgaat met lege of tegenstrijdige zoekresultaten. Laat het zo mogelijk verwijzen naar specifieke passages en maak zichtbaar wanneer het antwoord buiten die bronnen treedt. Controleer daarnaast of gebruikers de juiste versie van documenten zien. Bronmateriaal vermindert onzekerheid alleen wanneer de hele keten van documentbeheer tot antwoord traceerbaar is.
Signalen waaraan u een mogelijk verzonnen antwoord herkent
Een stellige toon, een nette opsomming of een precieze formulering zijn op zichzelf geen aanwijzingen voor betrouwbaarheid. Let eerder op controleerbare details die vreemd, inconsistent of opvallend specifiek zijn. Denk aan citaten zonder vindplaats, bronnen die niet terug te vinden zijn, een wet met een onjuiste titel of een technische functie die niet in de genoemde softwareversie bestaat. Juist details die gemakkelijk te verifiëren lijken, verdienen aandacht.
Vergelijk beweringen binnen hetzelfde antwoord. Een model kan eerst een datum noemen en later een afwijkende periode hanteren, of een conclusie trekken die niet volgt uit de beschreven feiten. Kijk ook naar de vraag die het antwoord niet beantwoordt: soms vult het model ontbrekende gegevens stilzwijgend in en presenteert het de uitkomst alsof die uit de opdracht kwam. Aannames over locatie, doelgroep of toepasselijke regelgeving kunnen zo onzichtbaar blijven.
Een nuttige werkwijze is beweringen opdelen in afzonderlijke claims. Markeer welke uitspraken feitelijk, interpretatief of adviserend zijn. Controleer vervolgens eerst de claims die de conclusie dragen, in plaats van het hele antwoord vluchtig te lezen. Afwezigheid van zichtbare fouten is geen bewijs van correctheid; sommige hallucinaties zijn intern consistent. De herkenning is daarom een selectiemethode voor nader onderzoek, geen vervanging van verificatie.
AI-antwoorden controleren met onafhankelijke bronnen
Begin met het omzetten van een antwoord in toetsbare beweringen. Een algemene alinea kan meerdere claims bevatten over definities, oorzaken en uitzonderingen. Splits die op en noteer per claim welk bewijs nodig is. Voor actuele feiten zijn primaire bronnen doorgaans geschikter dan samenvattingen: raadpleeg bijvoorbeeld de actuele documentatie van een softwareleverancier, de tekst van een wet of de publicatie van de instantie die een statistiek heeft opgesteld.
Controleer vervolgens of de bron precies ondersteunt wat het model beweert. Een gevonden pagina over hetzelfde onderwerp bevestigt niet automatisch de aangehaalde datum, uitzondering of causale relatie. Let op publicatiedatum, versie, jurisdictie en context. Bij belangrijke claims is een tweede onafhankelijke bron nuttig, vooral wanneer primaire gegevens interpretatie vragen. Twee websites die dezelfde foutieve bron overschrijven, gelden niet als onafhankelijke bevestiging.
Maak ook onderscheid tussen controle van feiten en controle van redenering. Een bron kan de gebruikte gegevens bevestigen, terwijl de conclusie niet logisch uit die gegevens volgt. Laat daarom waar nodig een deskundige de interpretatie beoordelen. Bewaar voor beslissingen met grote gevolgen de gebruikte bronnen en de versie van het AI-antwoord. Zo kan later worden nagegaan waarop een keuze was gebaseerd en of gewijzigde informatie aanleiding geeft tot herbeoordeling.
Risico’s beperken wanneer AI onderdeel is van een proces
Een proces moet duidelijk maken welke taken AI zelfstandig mag uitvoeren en waar menselijke goedkeuring verplicht is. Conceptvorming, rubriceren of het samenvatten van interne stukken vraagt een andere controle dan het afwijzen van een aanvraag of het genereren van een configuratie voor een productiesysteem. Beoordeel per stap de mogelijke schade, de omkeerbaarheid van een fout en de kans dat iemand de uitvoer zonder controle overneemt.
Beperk waar mogelijk de handelingsruimte van het model. Een systeem dat antwoorden mag geven maar geen dossiers kan wijzigen, heeft een ander risicoprofiel dan een agent met toegang tot e-mail, klantgegevens of financiële transacties. Gebruik minimale toegangsrechten, valideer invoer en uitvoer en laat risicovolle acties pas doorgaan na expliciete controle. In technische toepassingen kunnen schema’s, typecontroles en toegestane waarden fouten afvangen die in vrije tekst moeilijk te herkennen zijn.
Leg ook vast wat er gebeurt bij ontbrekende of tegenstrijdige informatie. Een proces dat altijd een antwoord eist, stimuleert ongefundeerde invulling. Een gecontroleerde uitkomst kan ook zijn dat een taak wordt doorgestuurd, een vraag om aanvullende gegevens vraagt of geen beslissing neemt. Die optie moet functioneel zijn, niet alleen in een prompt staan. Documenteer daarnaast wie verantwoordelijk is voor de controle en hoe afwijkingen worden gemeld, zodat incidenten tot aanpassingen in het proces leiden.
Evaluatie en monitoring van AI-systemen in gebruik
Test een AI-toepassing met voorbeelden die lijken op het werkelijke gebruik, niet alleen met een kleine verzameling eenvoudige vragen. Neem dubbelzinnige opdrachten, ontbrekende gegevens, verouderde broninformatie en uitzonderingssituaties op. Meet niet uitsluitend of het antwoord correct is; kijk ook naar verzonnen bronverwijzingen, ongefundeerde zekerheid, weglatingen en de manier waarop het systeem reageert wanneer het geen betrouwbaar antwoord kan geven.
Een evaluatieset moet representatief blijven voor de gebruikers, talen en onderwerpen waarop het systeem wordt ingezet. Bewaar moeilijke voorbeelden als regressietests, zodat een wijziging in model, prompt, zoekindex of documentatie opnieuw kan worden getoetst. Een nieuwe modelversie kan op één taak verbeteren en op een andere verslechteren. Vergelijk daarom resultaten per taaktype en risicoklasse, niet alleen met één gemiddeld cijfer.
Monitoring na ingebruikname is nodig omdat vragen, bronnen en softwareversies veranderen. Analyseer meldingen en steekproeven van antwoorden, met passende bescherming van persoonsgegevens en vertrouwelijke informatie. Registreer genoeg context om fouten te onderzoeken, zoals modelversie, opgehaalde bronnen en relevante instellingen, maar vermijd het opslaan van gevoelige gegevens zonder noodzaak. Stel vooraf criteria vast voor escalatie of tijdelijke uitschakeling, bijvoorbeeld bij herhaalde fouten in een kritieke categorie. Zo wordt controle een doorlopend onderdeel van technisch beheer in plaats van een eenmalige test.
Veelgestelde vragen
Wat is het verschil tussen een AI-hallucinatie en AI-bias?
Een AI-hallucinatie is een onjuiste of niet-onderbouwde bewering, terwijl AI-bias een systematische vertekening in uitkomsten is. Bias kan bijvoorbeeld ontstaan doordat bepaalde groepen in trainingsgegevens minder goed vertegenwoordigd zijn. Een bevooroordeeld antwoord hoeft niet volledig verzonnen te zijn: het kan echte informatie selectief of ongelijk toepassen. De verschijnselen kunnen wel samengaan, bijvoorbeeld wanneer een model een stereotype aanneemt en daar vervolgens een onjuist feit bij verzint.
- Controleer bij een mogelijke hallucinatie of de concrete bewering klopt.
- Onderzoek bij mogelijke bias of vergelijkbare gevallen consequent anders worden behandeld.
Kunnen AI-hallucinaties ook voorkomen in afbeeldingen en audio?
Ja, generatieve AI kan ook in afbeeldingen, audio en video details verzinnen of verkeerd weergeven. Een beeldmodel kan bijvoorbeeld een voorwerp toevoegen dat niet in de opdracht stond, terwijl een spraakmodel woorden kan transcriberen die niet zijn uitgesproken. Bij multimodale systemen kan bovendien een beschrijving niet overeenkomen met wat daadwerkelijk in een afbeelding of opname staat. Controleer daarom niet alleen tekstuele antwoorden, maar vergelijk gegenereerde of beschreven inhoud waar mogelijk met het oorspronkelijke materiaal.
Werkt een AI-detector om hallucinaties op te sporen?
Een AI-detector kan hallucinaties niet betrouwbaar vaststellen, omdat zulke detectors doorgaans proberen te herkennen hoe tekst is gemaakt en niet of de beweringen waar zijn. Een tekst kan door AI zijn geschreven en toch kloppen, of door een mens zijn geschreven en onjuist zijn. Gebruik een detector dus niet als bewijs van feitelijke juistheid. Controleer afzonderlijke claims aan de hand van passende bronnen en beoordeel ook of die bronnen de bewering werkelijk ondersteunen.
Wie is aansprakelijk voor schade door een fout AI-antwoord?
Wie aansprakelijk is voor schade door een fout AI-antwoord hangt af van de situatie, de toepasselijke wetgeving en de rol van de betrokken partijen. De verantwoordelijkheid ligt niet automatisch uitsluitend bij de maker van het AI-model: ook een organisatie die het systeem inzet of iemand die op het antwoord handelt, kan een rol spelen. Belangrijke factoren zijn onder meer het doel van de toepassing, de gegeven waarschuwingen en de manier waarop het antwoord is gecontroleerd. Vraag bij een concreet juridisch geschil advies aan een gekwalificeerde jurist.
Mag ik een AI-antwoord als bron gebruiken in een schoolopdracht of rapport?
Een AI-antwoord is meestal geen sterke vervanging voor de oorspronkelijke bronnen waarop controleerbare beweringen moeten rusten. Raadpleeg waar mogelijk de publicatie, dataset, wetstekst of documentatie waar de informatie vandaan komt en citeer die rechtstreeks. Vermeld daarnaast het gebruik van AI als de regels van je school, opleiding of organisatie dat vragen of verplicht stellen. Controleer vooraf welke richtlijnen gelden: die kunnen bepalen of AI-gebruik is toegestaan en hoe je het moet verantwoorden.
