CTIVD: beheersing AI bij diensten loopt achter bij ontwikkeling

DEN HAAG (ANP) - De AIVD en MIVD hebben onvoldoende zicht op de ontwikkeling en het gebruik van kunstmatige intelligentie binnen de diensten, schrijft de Commissie van Toezicht op de Inlichtingen- en Veiligheidsdiensten (CTIVD). De ontwikkeling van nieuwe AI-toepassingen gaat sneller dan het maken van regels en het bedenken hoe het goed gebruikt moet worden, staat in een rapport van de toezichthouder.

De AIVD en MIVD gebruiken AI onder meer om snel data te kunnen sorteren en analyseren (geautomatiseerde data-analyse), maar ook onder meer voor het maken van samenvattingen. CTIVD schrijft dat de diensten de AI-toepassingen meestal zelf ontwikkelen, of een systeem aankopen, maar dat dan grotendeels zelf inrichten zodat het geschikt is voor het werk van de diensten.

Het gebruik van AI wordt volgens de CTIVD steeds verder ontwikkeld, "terwijl de daarvoor benodigde kaders en waarborgen niet tijdig en in samenhang zijn ingericht". Dat betekent onder meer dat de regels voor AI-gebruik niet bij elke afdeling hetzelfde zijn, dat niet elke medewerker weet welke systemen AI gebruiken en dat de regels soms onduidelijk zijn.

Doordat de regels niet duidelijk zijn, komt er volgens de toezichthouder veel verantwoordelijkheid te liggen bij medewerkers die de systemen beheren. CTIVD stelt dat dit kundige mensen zijn, maar dat de afhankelijkheid van hen een kwetsbaarheid is die moet worden opgelost door "centrale inbedding van kaders en werkwijzen".

De CTIVD schrijft dat de diensten waarschijnlijk nog meer AI willen gaan gebruiken. "Het is daarom van belang te voorkomen dat de reeds opgebouwde achterstand verder oploopt."