AI-hallucinatie

Wat is een AI-hallucinatie?

Een AI-hallucinatie is zelfverzekerde output van een model die feitelijk fout of volledig verzonnen is: een functie die niet bestaat in de library, een parameter die de API nooit accepteerde, een package die niemand heeft gepubliceerd, een citaat naar een paper dat nooit geschreven is. De output is vloeiend en aannemelijk, en precies dat maakt het gevaarlijk. Het probleem is meetbaar op schaal: een Stanford-studie uit 2024 vond dat LLM's hallucineerden bij 58 procent (ChatGPT) tot 88 procent (Llama 2) van verifieerbare vragen over willekeurige federale rechtszaken [1].

De belangrijkste punten

• In softwarewerk concentreren hallucinaties zich op interfaces: verzonnen methoden, foute argumentnamen, verouderde signaturen gepresenteerd als actueel, en imports van packages die niet bestaan.
• Hallucinatie is een structurele eigenschap van hoe taalmodellen tekst genereren, aannemelijke vervolgen voorspellen, dus kan het scherp verminderd maar niet naar nul geëngineerd worden.
• De ernstladder loopt van vervelend (code die niet compileert) via gevaarlijk (code die draait maar het verkeerde doet) naar exploiteerbaar (een gehallucineerde packagenaam installeren die een aanvaller heeft geregistreerd, de aanval bekend als slopsquatting).
• Verdedigingen zijn systemisch: grounding in echte context, tooltoegang zodat het model kan controleren in plaats van onthouden, compilers en tests als verificatie, en review door iemand die aannemelijk-maar-fout kan opsporen.
• Vloeiendheid en nauwkeurigheid correleren niet. De zelfverzekerde toon van een gehallucineerd antwoord draagt geen informatie over zijn waarheid.

Hoe het werkt

Een taalmodel genereert tekst door te voorspellen wat aannemelijk vervolgt, gegeven zijn trainingsdata en de huidige context, en het heeft geen ingebouwd mechanisme dat onthouden onderscheidt van verzinnen. Wanneer je vraagt om een functie uit een library die het duizenden keren zag, vallen voorspelling en feit meestal samen. Wanneer je vraagt naar een niche-library, een recente versie, of je private codebase, interpoleert het model: het produceert de methode die zou bestaan als de library ontworpen was zoals vergelijkbare libraries. Daarom is gehallucineerde code zo overtuigend. client.messages.list(page_size=50) ziet er precies uit als echte SDK-code, of de SDK die methode ooit heeft uitgeleverd of niet.

Codehallucinaties clusteren op voorspelbare plekken. Versiegrenzen, waar de trainingsdata van het model verschillende API-generaties mengt en het zelfverzekerd de signature van 2023 aflevert. Cross-taal-vervuiling, waar een Python-idioom doorsijpelt in de JavaScript-SDK. Aannemelijke aanvullingen van je eigen codebase, die een utils.formatCurrency-helper verzinnen omdat de meeste codebases zoals de jouwe er een hebben. En afhankelijkheidssuggesties, waar een model aanraadt een package te installeren wiens naam het samenstelde uit fragmenten van echte, het ruwe materiaal voor supply-chain-aanvallen. Een studie uit 2024 van 576.000 gegenereerde codevoorbeelden vond dat minstens 5,2 procent van de packageaanbevelingen van commerciële LLM's, en 21,7 procent van open-sourcemodellen, wees naar gehallucineerde packages die niet bestaan [2]. Dezelfde onderzoekers catalogiseerden 205.474 unieke gehallucineerde packagenamen over 16 populaire codegeneratiemodellen, een kant-en-klaar aanvalsoppervlak voor wie ze wil registreren [3].

Mitigatie stapelt zich in lagen. Grounding zet echte documentatie, typedefinities, en bronbestanden in het contextvenster zodat het model leest in plaats van onthoudt; retrieval-augmented generation automatiseert dit. Agentic tooling helpt verder, want een AI-coding-agent die de codebase kan grep'en en de compiler kan draaien, vangt zijn eigen verzinsels in de lus. Dan verificatie: typecheckers, tests, en dependency-allowlists zetten stille hallucinaties om in luide mislukkingen. Menselijke review behandelt het residu, de code die compileert en draait en nog steeds fout is.

Voorbeeld

Een engineer vraagt een coding-agent om retry-logica toe te voegen aan een service met een populaire HTTP-clientlibrary. De agent schrijft schone code die client.request(retries=3, backoff="exponential") aanroept. De parameters zien er idiomatisch uit, de code leest goed in review, en geen van beide parameters heeft ooit bestaan in die library; retries leven in een aparte adapterklasse. In een gewone chatworkflow wordt dat snippet geplakt, faalt tijdens runtime in een codepad dat alleen bij netwerkfouten wordt geraakt, en levert kapot retry-gedrag uit dat niemand opmerkt tot een uitval. In een agentic workflow met guardrails signaleert de typechecker de onbekende parameters onmiddellijk, leest de agent de daadwerkelijke bron van de library, vindt het adapterpatroon, en herschrijft. Dezelfde hallucinatie in beide gevallen; het verschil is of het systeem het binnen seconden omzet in een zichtbare mislukking of weken later in een productie-incident.

Veelvoorkomende misvattingen

De hardnekkige misvatting is dat hallucinatie een bug is die betere modellen zullen oplossen, dus teams stellen het bouwen van verdedigingen uit en wachten op de volgende release. Modelgeneraties hebben hallucinatiepercentages substantieel verlaagd, en de mislukkingen die overblijven zijn gevaarlijker, niet minder, omdat hogere algemene nauwkeurigheid meer vertrouwen en minder controle verdient. Een tool die een derde van de tijd fout zit, wordt gecontroleerd; een tool die twee procent van de tijd fout zit, wordt geloofd, en die twee procent belandt in productie. Behandel hallucinatie als netwerkfouten: een permanente eigenschap van het medium waar je omheen architecteert, met grounding, verificatie, en review, in plaats van een defect dat je uitwacht.

FAQ

Waarom gebeuren LLM-hallucinaties zelfs wanneer het model de correcte informatie heeft gezien? Omdat het model statistische patronen opslaat, geen opzoektabel. Correcte en incorrecte vervolgen concurreren op generatiemoment, en context, formulering, of ambiguïteit kunnen de balans doen doorslaan naar een aannemelijk verzinsel, zelfs wanneer de waarheid in de trainingsdata zat. Dit is ook waarom dezelfde vraag op twee manieren geformuleerd, één juist en één fout antwoord kan opleveren.

Worden AI-hallucinaties erger of beter? Beter qua percentage, vooral in code, waar modellen uit het 2026-tijdperk met tooltoegang veel minder API's hallucineren dan hun voorgangers omdat ze documentatie kunnen controleren en code kunnen draaien in plaats van te onthouden. Het risicoprofiel is verschoven in plaats van verdwenen: minder mislukkingen, elk individueel meer vertrouwd, plus nieuwe oppervlakken zoals gefabriceerde tooloutput in agentpipelines.

Is een hallucinatie hetzelfde als AI slop? Nee. Een hallucinatie is een specifieke valse bewering, één verzonnen functie, één nep-citaat. AI slop is een volume-en-procesprobleem: laagwaardige gegenereerde content uitgeleverd zonder review. Slop bevat vaak hallucinaties, maar een zorgvuldig gereviewd systeem kan nog steeds af en toe een hallucinatie uitzenden, en slop kan technisch accuraat zijn terwijl het waardeloos is.

Bronnen

1. Dahl et al., Stanford. "Large Legal Fictions: LLM's hallucineerden bij 58% (ChatGPT) tot 88% (Llama 2) van verifieerbare vragen over willekeurige federale rechtszaken." https://arxiv.org/abs/2401.01301. Geraadpleegd augustus 2026.
2. Spracklen et al., USENIX Security. "Studie van 576.000 codevoorbeelden: minstens 5,2% van commerciële-LLM- en 21,7% van open-source-model-packageaanbevelingen waren gehallucineerd." https://arxiv.org/abs/2406.10279. Geraadpleegd augustus 2026.
3. Spracklen et al., USENIX Security. "205.474 unieke gehallucineerde packagenamen gecatalogiseerd over 16 codegeneratie-LLM's." https://arxiv.org/abs/2406.10279. Geraadpleegd augustus 2026.