Staatssecretaris: verboden AI-systemen vinden heeft prioriteit

DEN HAAG (ANP) - Het vinden en schrappen van systemen met kunstmatige intelligentie die binnenkort verboden zijn volgens EU-regels heeft de "hoogste prioriteit". Dat schrijft staatssecretaris Zsolt Szabó (Digitalisering) in een reactie op het rapport van de Rekenkamer dat deze woensdag is gepubliceerd.

Op basis van EU-wetgeving zijn vanaf februari 2025 bepaalde systemen op basis van kunstmatige intelligentie (AI) verboden. Het gaat bijvoorbeeld om systemen die gezichten herkennen om mensen in te delen in bevolkingsgroepen, of systemen die mensen 'sociale scores' geven voor hun gedrag en daar negatieve gevolgen aan verbinden.

De Rekenkamer kwam zulke 'verboden' systemen niet tegen in haar onderzoek onder zeventig overheidsorganisaties, die 433 AI-systemen opgaven. Maar voor meer dan de helft van die systemen is geen aantoonbare risico-afweging gemaakt. Bij de 120 systemen die daadwerkelijk in gebruik zijn, is dat bij iets minder dan de helft niet gebeurd. Enkele instanties zeggen dan ook "niet zeker te weten" of ze AI-systemen gebruiken die binnenkort niet meer toegestaan zijn in de Europese Unie.

"Omdat de AI-verordening pas recentelijk in werking is getreden, worstelen organisaties soms nog met de beoordeling of een AI-systeem aan de definitie van een hoog-risico voldoet of zelfs verboden is", schrijft staatssecretaris Szabó. Als eerste stap belooft hij meer duidelijkheid over de definities in de EU-wet.