Internationale pauzeknop kunstmatige intelligentie in de maak

Overheden kunnen binnenkort mogelijk ingrijpen om de ontwikkeling van kunstmatige intelligentie (AI) een halt toe te roepen. Europa werkt daarvoor met andere landen aan een internationaal verdrag. Het is de bedoeling dat daarin de mogelijkheid van een moratorium en eventueel een verbod komt te staan.

"Het gaat over het beschermen van de basiswaarden, een kaderverdrag waarin mensenrechten, democratie en de rechtsstaat vooropgesteld worden. Het is niet zo dat we daarom de vooruitgang van technologische innovaties willen tegengaan, integendeel", zei Patrick Penninckx donderdag tegen de commissie Digitale Zaken van de Tweede Kamer. De Vlaming is hoofd van de afdeling voor de informatiesamenleving van de Raad van Europa. Bij die organisatie zijn vrijwel alle landen in Europa aangesloten.

In het verdrag staat niet wanneer landen precies op de rem kunnen trappen, maar "het gaat in wezen om naleving van de mensenrechtenwetgeving, bescherming van de democratie en de verplichtingen van de rechtsstaat".

De Raad van Europa onderhandelt met de Verenigde Staten, Canada, Mexico, Japan en Israël over het AI-verdrag. Het is niet de bedoeling dat dit regels bevat voor elke mogelijke toepassing van kunstmatige intelligentie, zoals metaverse, ChatGPT, deepfake en gezichtsherkenning. "Het is onmogelijk voor een internationale instelling om in een algemeen verdrag in te gaan op alle mogelijke toepassingen van kunstmatige intelligentie", aldus Penninckx. "Het gaat erom dat we een systeem opzetten waarin we toekomstige ontwikkelingen kunnen duiden. We moeten zorgen dat vanuit democratische landen, waarin mensenrechten voorop staan, richtlijnen worden gegeven waar bedrijven zich aan moeten houden."

Bij kunstmatige intelligentie worden computersystemen ontwikkeld die dicht in de buurt van menselijke intelligentie komen. Ze kunnen dan bijvoorbeeld teksten schrijven die lijken alsof ze door een mens zijn geschreven. De technologie wordt ook gebruikt in zelfrijdende auto's, die elke milliseconde moeten uitrekenen waar ze rijden, hoe de omgeving eruit ziet, waar gevaar dreigt en hoe daarop moet worden gereageerd.

Eerder deze week riepen ongeveer 1400 mensen uit de techwereld op tot een pauze bij de ontwikkeling van kunstmatige intelligentie. Ze vinden dat er te weinig 'vangrails' zijn voor wanneer AI-systemen de maatschappij ontwrichten. De oproep is ondertekend door belangrijke ondernemers als Elon Musk (Tesla), Steve Wozniak (Apple), Jaan Tallinn (Skype) en Evan Sharp (Pinterest). Ook mensen die aan de basis van AI hebben gestaan steunen de oproep, zoals wetenschappers Yoshua Bengio en Stuart Russell. Onder de brief staan ook enkele mensen uit Nederland, zoals Jeroen Franse, die zich voor ABN Amro bezighoudt met kunstmatige intelligentie, Antoon Noij van chipmachinefabrikant ASML, Simon Friederich van de Rijksuniversiteit Groningen en Jeroen van den Hoven, hoogleraar ethiek en techniek aan de TU Delft.