L036

LLM-hallucinatie — Begrip en juridische betekenis

Rechtsgebied

AI-recht / ICT-recht

Rechtsvraag

Wat is een 'hallucinatie' in de context van LLM's en waarom is dit juridisch relevant?

Kernantwoord

Een hallucinatie is feitelijk onjuiste, verzonnen of niet-onderbouwde LLM-output: verzonnen citaties, verkeerd weergegeven jurisprudentie, gefabriceerde feiten, foute attributies. In de VS zijn advocaten al bestraft voor AI-gefabriceerde citaties (Mata v. Avianca, 2023); zelfs professionele tools hallucineren 17-33% van de tijd.

Praktische betekenis voor REZA Legal

Hét fundamentele begrip achter waarom AI-tools nooit zonder meer juridische review vervangen — niet-verifiëren kan leiden tot tuchtrechtelijke sancties.