Een hallucination (of hallucinatie) treedt op wanneer een AI-taalmodel een antwoord geeft dat feitelijk onjuist is, maar dat vol vertrouwen presenteert alsof het waar is. Het model verzint informatie — bronnen, namen, data, feiten — die simpelweg niet kloppen.

Dit gebeurt omdat taalmodellen werken op basis van statistische patronen in tekst, niet op basis van een echte kennisbank of begrip van de werkelijkheid. Het model kiest altijd het meest waarschijnlijke volgende woord, ook als dat leidt tot iets dat niet bestaat.

Hallucinations zijn een van de belangrijkste redenen waarom je AI-antwoorden altijd kritisch moet controleren, zeker als het gaat om feiten, cijfers of bronvermeldingen. Het besef dat AI kan hallucineren maakt je een betere en veiligere gebruiker.