L055

Menselijke oversight in AI — Juridische analyse

Rechtsgebied

AI-recht / Arbeidsrecht

Rechtsvraag

Wat vereist de AI Act op het gebied van menselijke oversight?

Kernantwoord

Art. 14 AI Act vereist dat toezichthouders van hoog-risico systemen bevoegd zijn het systeem te overschrijven of uit te schakelen, proportioneel aan risico en autonomie. De oversight moet substantieel zijn — iemand die elke AI-aanbeveling klakkeloos goedkeurt voldoet niet.

Praktische betekenis voor REZA Legal

Bij AI-inzet in juridische praktijk moet worden vastgelegd wie AI-output controleert, met welke bevoegdheid, en hoe dit wordt gedocumenteerd — sluit aan bij de professionele zorgplicht van advocaten.