Waakhond: laat organisaties algoritmes verantwoorden

Organisaties die "serieus persoonsgegevens verwerken" moeten voor, tijdens en na het gebruik van algoritmes en kunstmatige intelligentie (AI) verantwoording over dit gebruik afleggen, als dit grote impact op burgers kan hebben. Daarvoor pleit de Autoriteit Persoonsgegevens (AP), die toezicht houdt op de verwerking van persoonsgegevens. De zogeheten sets van instructies die een computer volgt hebben nog te veel risico's, concludeert de waakhond in een nieuw rapport. Dan gaat het bijvoorbeeld om het risico op discriminatie, kansenongelijkheid, misleiding en gebrek aan transparantie en uitleg over algoritmes.

Volgens de waakhond werken inmiddels bijna alle organisaties met algoritmes: van banken en ziekenhuizen tot bouwbedrijven. "Veel klanten betekent veel data van klanten in je bestanden", zegt AP-voorzitter Aleid Wolfsen. De toeslagenaffaire is het bekendste voorbeeld van een algoritme dat burgers benadeelde. Bij de Belastingdienst kwamen mensen met een dubbele nationaliteit eerder uit het systeem rollen. Onlangs gingen DUO en het UWV ook de fout in met algoritmes.

Duidelijke regels vanuit de overheid zijn "nu cruciaal", staat in het rapport. Er ontbreken nog te vaak instrumenten om risicovolle algoritmes te controleren en beheersen. Totdat die er zijn moeten organisaties in Nederland ook terughoudend zijn met nieuwe toepassingen, zoals slimme chatbots.

Het demissionaire kabinet moet "voortgang maken en versnellen met inspanningen voor beleid", vindt de AP. Dat onderschrijft demissionair staatssecretaris Alexandra van Huffelen (Digitalisering) via een woordvoerder. Wolfsen is niet bang dat de Tweede Kamer algoritmes en kunstmatige intelligentie controversieel verklaart. "Juist in een demissionaire periode mag de bescherming van burgers niet stilliggen."

In het bestaande register voor algoritmes die overheidsinstellingen gebruiken moeten over een jaar alle hoogrisico-algoritmes staan, zegt Wolfsen. Invullen is nu nog niet verplicht, maar de AP ziet daar ruimte voor nu een Kamermeerderheid ook voor verplichting pleit. De NOS meldde eerder dat het register nauwelijks werd ingevuld en informatie ontbrak.

Organisaties en bedrijven kunnen zelf al onderzoeken welke algoritmes ze gebruiken en hoeveel risico ze bevatten, zegt Wolfsen. "Als je dat niet doet kunnen er serieuze rampen gebeuren", verwijst hij naar de toeslagenaffaire. Bedrijven moeten ook zorgen dat in "de hoogste leiding" mensen zitten die snappen hoe algoritmes werken.