Groep wetenschappers eist onafhankelijk toezicht op AI

DEN HAAG (ANP/RTR/AFP) - Een groep van honderden wetenschappers eist dat er onafhankelijk toezicht komt op de ontwikkeling van de geavanceerdste AI-modellen. Technologie die de cyberveiligheid in het gevaar kan brengen zou tijdens tests volledig van het internet moeten worden afgeschermd, betogen de ondertekenaars van een open brief. Onder hen zijn ook Geoffrey Hinton en Yoshua Bengio, die bekendstaan als 'peetvaders' van AI.

In de brief staat verder een voorstel voor een internationaal orgaan dat toeziet op standaarden om risico's van kunstmatige intelligentie in te dammen. In een register moeten grote incidenten worden bijgehouden.

De oproep volgt op incidenten waarbij AI-systemen in ontwikkeling bij OpenAI en Anthropic uit hun gecontroleerde omgeving braken en andere organisaties hackten. Dit toont aan dat er veel schort aan de beveiliging van nieuwe AI-modellen, schrijven de wetenschappers. "Zonder onmiddellijke aanpassingen aan de ontwikkeling en inzet van AI, blijven dit soort incidenten gebeuren en die zullen schadelijker zijn voor onze kritieke infrastructuur."