Door KienhuisHoving advocaten en notarissen
Door: Roeland de Bruin
Vrijwel iedereen die werkt met informatiesystemen, krijgt ermee te maken: de Europese AI-wet. Na turbulente onderhandelingen – de belangen zijn astronomisch – ligt er een akkoord. Daarop wordt een verordening gebaseerd, die dan na twee jaar ingaat. Voor ‘verboden AI’ gaat de wet al eerder in.
Verboden worden systemen die burgerrechten en de democratie in gevaar kunnen brengen, zoals biometrische identificatiesystemen waaruit gevoelige persoonsgegevens kunnen worden afgeleid, emotieherkenningsalgoritmes ingezet op de werkvloer of op school, social-scoring mechanismes en manipulatieve AI. Daarnaast onderscheidt de wet hoog-risico-, laag-risico- en generieke AI (bijvoorbeeld ChatGPT). Strengst gereguleerd worden hoog-risico AI-systemen, die gevaarlijk kunnen zijn voor de gezondheid, veiligheid, grondrechten, het milieu, democratie en rechtsstaat. Denk daarbij aan systemen gebruikt in transport (zelfrijdende voertuigen) of in medische toepassingen (waarbij AI de chirurg ondersteunt, of helpt diagnoses te stellen), aan AI die schooltoetsen beoordeelt of kredietwaardigheidsinschattingen maakt. Denk ook aan AI in HR-processen (die CV’s selecteert) of die werknemers monitort. Algoritmes ingezet door de overheid, bijvoorbeeld bij migratie, asiel en grenscontroles of het handhaven de wet, vallen ook in de categorie hoog-risico.
Als ontwikkelaar of gebruiker van hoog-risico AI krijg je te maken met veel verplichtingen. Op voorhand moet je bijvoorbeeld een grondrechtentoets uitvoeren, om te onderzoeken welke impact er kan zijn op burgerrechten. Ook moet je zeker weten dat je de juiste datasets gebruikt om algoritmes mee te ‘voeden’ en dien je een register te hanteren, uitvoering te monitoren en controleren, en dient er een ‘stopknop’ te worden ingebouwd. Ook moeten burgers inzage krijgen in de beslissingen die er over hen worden genomen. Vergelijkbare eisen gelden voor generieke AI met een hoge impact (zoals ChatGPT). Er komt een AI-autoriteit die boetes kan opleggen tot 35 miljoen euro of 7 procent van de jaaromzet. Ook worden aansprakelijkheidsregels aangepast om het makkelijker te maken voor burgers om hun rechten te handhaven.
KienhuisHoving volgt de ontwikkelingen op de voet. Mr. dr. Roeland de Bruin (gepromoveerd op AI-regulering) doet daarvan verslag, verzorgt trainingen en helpt organisaties om AI-systemen in lijn te brengen met de nieuwe (en bestaande) regels. Roeland is bereikbaar via roeland.debruin@kienhuishoving.nl \
