Verbod op uitkleedfunctie Grok is baanbrekend, zegt Offlimits

AMSTERDAM (ANP) - Het is baanbrekend dat een omstreden 'uitkleedfunctie' in de chatbot Grok wordt verboden. Dat zegt Robbert Hoving, directeur van Offlimits, een kenniscentrum over onlinemisbruik. Die organisatie spande met Fonds Slachtofferhulp een kort geding aan tegen de dienst en kreeg donderdag gelijk van de rechtbank in Amsterdam.

Gebruikers van Grok kunnen met kunstmatige intelligentie (AI) naaktbeelden maken, niet alleen van volwassenen maar ook van kinderen. Volgens Hoving is het de eerste keer ter wereld dat zo'n dienst wordt verboden. "Fantastisch dat mensenrechten niet onderdoen voor commerciële belangen. Grok deed er alles aan om het te laten voortbestaan, met een zweem dat ze er alles aan deden om mensen te beschermen", zegt hij.

Eerder donderdag stemde het Europees Parlement voor een verbod op apps die met AI naaktbeelden maken. Ook daar is Hoving erg blij mee. "Alle wetgeving is er. Die is gebruikt om een streep te trekken. Nu is het een kwestie van handhaven. Zolang het grote bedrijven geld kost, luisteren ze", aldus Hoving.

Europa heeft macht, benadrukt Hoving. "We hebben zoveel gebruikers, meer dan in de Verenigde Staten. We kunnen een vuist maken tegen big tech. Als je ze in hun portemonnee raakt, kun je ze dwingen om mensenrechten te eerbiedigen."

Offlimits gaat er "100 procent zeker" van uit dat de makers van Grok in beroep gaan. "Zij willen ons vermoeien, maar ik weiger wakker te worden in een wereld waar mensen met diepe zakken bepalen of mensenrechten belangrijk zijn. De rechter heeft nu bepaald dat het niet mag. Dan moet je sanctioneren. En als de boetes niet hoog genoeg zijn, kunnen er hogere boetes komen."