Waakhond: samenleving moet zich voorbereiden op incidenten met AI

18 jul , 15:36 Landelijk
waakhond samenleving moet zich voorbereiden op incidenten met ai
ANP
De Nederlandse samenleving moet zich voorbereiden op incidenten met kunstmatige intelligentie (AI). Organisaties moeten terughoudend zijn met het gebruik van de technologie, zolang ze twijfelen of ze de risico's wel onder controle hebben. Daarvoor pleit de Autoriteit Persoonsgegevens (AP) donderdag.
De privacytoezichthouder van de overheid komt voor de derde keer met een 'risicobeeld' over kunstmatige intelligentie. Iedereen moet waakzaam zijn, is de boodschap van de autoriteit. Dat geldt voor ministers en grote bedrijven, maar net zo goed voor burgers. "Het is moeilijk in te schatten of AI-toepassingen voldoende beheerst zijn, en AI-incidenten kunnen zich steeds vaker voordoen, zeker omdat AI zich steeds dieper verweeft in de samenleving".
Als voorbeeld van zo'n incident noemt de Autoriteit de recente oplichting van een bedrijf in Azië. Een financiële medewerker kreeg een mail om omgerekend zo'n 23 miljoen euro over te maken. Hij wantrouwde het, maar werd gerustgesteld in een onlinegroepsvergadering binnen het bedrijf en maakte het geld daarom over. Uiteindelijk bleek dat de financiële topman en alle rechtstreekse collega's in de vergadering nep waren. Cybercriminelen hadden ze nagemaakt met deepfaketechnologie. De opgelichte medewerker was de enige echte persoon in de groep.
Overheden gaan tot nu toe "daadkrachtig" om met AI, vindt de toezichthouder. Niet alleen in het toezicht zelf, maar ook in het bestrijden van nieuwe risico's, zoals cybercrime. Het is wel een zaak van de lange adem, benadrukt de autoriteit. Bovendien ontwikkelt de technologie zich sneller dan de beheersing ervan.
Over de grote bedrijven is de waakhond minder te spreken. Zij willen toepassingen zo snel mogelijk op de markt brengen. "Dit is de afgelopen periode vaak gepaard gegaan met missers en kwetsbaarheden die leidden tot noodreparatie of zelfs het terugtrekken van systemen." Bovendien krijgen ze een steeds belangrijkere positie in het aanbod van informatie aan burgers, maar hebben ze steeds minder beheerders die het Nederlands beheersen.
Het Rijk, provincies, gemeenten, waterschappen en andere overheidsdiensten houden bij welke algoritmes ze gebruiken. Die komen in een register. De AP wil dat ook semipublieke organisaties hierin delen wat ze doen. Dit gaat bijvoorbeeld om het onderwijs, de zorg, woningcorporaties en het openbaar vervoer.