Universitair hoofddocent Natuurlijke Taalverwerking Jelle Zuidema maakt zich zorgen over de mogelijke gevaren van ChatGPT. Zo kan de chatbot kwetsende teksten produceren en worden misbruikt voor reclamedoeleinden. Ook kunnen andere wetenschappen worden verwaarloosd door de commerciële voordelen van ChatGPT. Om dat te voorkomen, moeten er (Europese) regels komen, zegt Zuidema.
ChatGPT, ontwikkeld door het bedrijf OpenAI, kan op basis van kunstmatige intelligentie (AI) leesbare teksten produceren. Het programma kan worden toegepast bij zoekmachines, maar ook worden geïntegreerd in games en als digitale huiswerkbegeleider. Als dit niet op de juiste manier gebeurt, kan de chatbot volgens Zuidema “gevaarlijk” zijn.
Een chatbot kan per ongeluk, maar ook expres, racistische en seksistische uitspraken doen. “Dat wil je voorkomen. Een depressieve scholier zit bijvoorbeeld niet te wachten op een toxisch gesprek”, aldus de universitair docent.
Volgens Zuidema moet het ontwikkelen van veiligheidstests niet worden overgelaten aan bedrijven. Die hebben vaak niet de capaciteit om zelf alle data te bekijken. Ook verdienen zoekmachines geld met advertenties, waardoor chatbots mogelijk op zoek gaan naar gesponsorde content, zegt hij.
Zonder regulering is het niet helder welke onwaarheden ChatGPT mogelijk verspreidt en welke commerciële doelen er zijn, zegt Zuidema. Daarom moeten er toezichthouders komen, en openheid over de gegevens die zijn gebruikt om de chatbot te trainen. “Bedrijven nemen zelf geen verantwoordelijkheid”, aldus Zuidema.
Ook de verstrengeling tussen het bedrijfsleven en de wetenschap vindt Zuidema een “zorgwekkende ontwikkeling”. Bedrijven die winst nastreven zetten wetenschappers in, waardoor onderwerpen die “commercieel minder interessant” zijn sterk onderbelicht blijven. “Zo gebeurt er enorm veel onderzoek naar hoe je taaltechnologie kunt gebruiken om biomedische, financiële of juridische teksten door te spitten, maar veel minder voor toepassingen voor de gewone burger of ngo’s.”
Vrijdag werd ChatGPT voorlopig verboden in Italië omdat OpenAI zich niet aan de regels voor vergaring van persoonsgegevens zou houden. Eerder werd al bekend dat overheden binnenkort mogelijk kunnen ingrijpen om de ontwikkeling van AI een halt toe te roepen met een internationaal verdrag. Ook riepen ongeveer 1400 mensen uit de techwereld op tot een pauze bij de ontwikkeling van AI.