“Er kijkt altijd een mens naar.” Het is de geruststelling die je overal hoort waar AI wordt ingezet. Maar er is een groot verschil tussen een mens die écht meekijkt en een mens die vermoeid op “akkoord” klikt. De Europese AI-verordening (AI Act) maakt dat verschil juridisch relevant voor hoog-risico systemen — en het principe erachter is nuttig voor iedereen die AI gebruikt, ook ver buiten de hoog-risicocategorie.
Wat de AI Act zegt over menselijk toezicht
De AI Act deelt AI-systemen in naar risico. Voor systemen in de categorie hoog risico — denk aan AI die wordt ingezet bij bijvoorbeeld werving en selectie, toegang tot onderwijs, kredietbeoordeling of bepaalde overheidsbeslissingen — gelden strenge eisen. Eén daarvan is menselijk toezicht: hoog-risico AI-systemen moeten zó worden ontworpen en gebruikt dat mensen er effectief toezicht op kunnen houden.
Let op het woord effectief. De verordening bedoelt niet dat er ergens een mens in de buurt moet zitten. De toezichthoudende mens moet het systeem voldoende begrijpen, de output goed kunnen interpreteren, alert zijn op de neiging om automatisch op het systeem te vertrouwen, en kunnen ingrijpen: een uitkomst negeren, terugdraaien of het systeem stopzetten. Toezicht op papier telt niet; het moet in de praktijk iets voorstellen.
Waarom hamert de wetgever hier zo op? Omdat de risico’s van AI juist zitten in beslissingen over mensen: een sollicitant die wordt afgewezen, een lening die wordt geweigerd. Als niemand met verstand van zaken kan ingrijpen, worden fouten van het systeem automatisch fouten in mensenlevens.
Het echte probleem: automation bias
De AI Act benoemt expliciet een psychologisch verschijnsel dat iedereen kent die weleens blind zijn navigatie is gevolgd: automation bias, ofwel de neiging om te vertrouwen op wat een systeem zegt, juist omdat een systeem het zegt.
Dat mechanisme wordt sterker naarmate het systeem vaker gelijk heeft. Als de AI negen van de tien keer een prima voorstel doet, went de beoordelaar eraan om akkoord te geven — en mist hij precies die tiende keer. Zo verandert “menselijk toezicht” ongemerkt in een rubberen stempel: er kijkt formeel een mens naar, maar die voegt niets meer toe. Het toezicht bestaat nog wel op het organogram, maar niet meer in de werkelijkheid.
Moderne AI-chatbots maken dit extra verraderlijk: ze formuleren vloeiend en zelfverzekerd, ook wanneer ze er compleet naast zitten. De toon van de output zegt niets over de betrouwbaarheid ervan.
Waarom dit principe voor elke organisatie geldt
De juridische plicht uit de AI Act geldt voor hoog-risico systemen. Maar het onderliggende principe — een mens die betekenisvol in de loop zit — is gewoon verstandig beleid voor al het dagelijkse AI-gebruik: de offerte die een collega door een chatbot laat opstellen, de AI-samenvatting van een vergadering, de conceptmail aan een klant, de eerste selectie van binnengekomen reacties.
De redenering is overal hetzelfde. AI-output kan fouten bevatten, en de verantwoordelijkheid voor wat jouw organisatie verstuurt, besluit of publiceert ligt bij mensen — niet bij de tool. “De AI zei het” is naar klanten, medewerkers en toezichthouders nooit een excuus. Dat is overigens ook de geest van artikel 4 van de AI Act, dat van organisaties vraagt te zorgen voor voldoende AI-geletterdheid bij iedereen die namens hen met AI-systemen werkt: mensen moeten begrijpen waar ze mee werken.
Betekenisvol toezicht in de dagelijkse praktijk
Hoe zorg je dat menselijke controle echt iets voorstelt, zonder dat alles stroperig wordt? Een paar principes die het verschil maken:
- De beoordelaar moet het kunnen beoordelen. Laat AI-output nakijken door iemand die het werk ook zelf had kunnen doen. Wie de materie niet kent, kan alleen op toon en opmaak controleren — en dat is precies waar AI sterk in is.
- Maak de check specifiek. “Even doorlezen” werkt niet. Wat moet er gecontroleerd worden? Feiten en cijfers? Namen en bedragen? Toon richting de klant? Een korte checklist per taak verslaat een vaag “kijk er even naar”.
- Zwaarder besluit, zwaardere controle. Een interne brainstorm hoeft niemand na te lopen. Alles wat naar buiten gaat, geld kost of over personen gaat, verdient serieuze menselijke review. Leg die lat vooraf vast in werkafspraken.
- Maak afwijken normaal. Als in jouw team nog nooit iemand een AI-voorstel heeft teruggedraaid, is dat geen bewijs dat de AI perfect is — het is een signaal dat het toezicht is ingeslapen. Vier het juist wanneer iemand een fout onderschept.
- Houd de mens wakker. Wie honderd AI-suggesties per dag afvinkt, ziet na een week niets meer. Wissel taken af, en overweeg steekproeven in plaats van honderd schijncontroles.
Drie vragen als snelle test
- Zou de controleur de fout kunnen zíen? Heeft diegene de kennis en de tijd om een fout in deze output op te merken?
- Mag de controleur ingrijpen? Kan hij of zij de uitkomst zonder gedoe aanpassen of tegenhouden, en is dat sociaal geaccepteerd?
- Gebeurt het ooit? Wordt er in de praktijk weleens iets afgekeurd of aangepast? Zo nee, dan is het toezicht waarschijnlijk een stempel geworden.
Drie keer “ja”? Dan zit er echt een mens in de loop. Bij een “nee” weet je waar je moet beginnen.
Toezicht is geen wantrouwen tegen AI
Een misverstand tot slot: menselijk toezicht is geen rem op AI-gebruik, maar de voorwaarde om AI met vertrouwen te kunnen gebruiken. Een team dat weet dat er een deskundige menselijke check op zit, durft AI juist váker in te zetten. Vergelijk het met de vier-ogen-controle bij betalingen: die bestaat niet omdat boekhouders onbetrouwbaar zijn, maar omdat belangrijke handelingen een tweede blik verdienen. Zo simpel — en zo oud — is het principe achter deze splinternieuwe wet eigenlijk.
Wil je dat jouw team AI-output leert beoordelen in plaats van blind vertrouwen? Precies daarvoor is onze cursus AI-geletterdheid gemaakt, met teamlicenties via de pagina voor werkgevers en een aanpak op maat voor scholen. Eerst even kijken waar je zelf staat? Doe de gratis quiz.