Italiaanse privacywaakhond blokkeert AI-systeem ChatGPT

AI-systeem ChatGPT wordt voorlopig verboden in Italië. Volgens de Italiaanse privacytoezichthouder Garante per la Protezione dei Dati Personali (GPDP) houdt OpenAI, het bedrijf achter het systeem, zich niet aan de regels voor vergaring van persoonsgegevens. Ook zijn er geen systemen om de leeftijd van minderjarigen te controleren en legt het bedrijf niet goed uit aan gebruikers welke persoonlijke gegevens worden verzameld en wat er met die data gebeurt.

Volgens GPDP was er eerder deze maand ook een datalek bij ChatGPT. Daarbij zouden gegevens zijn gelekt over gesprekken die gebruikers met het systeem hadden gevoerd en betalingsgegevens van abonnees. Daarnaast klaagt de toezichthouder dat er helemaal geen juridische basis is voor het massaal verzamelen en opslaan van gegevens om de algoritmes "te trainen".

OpenAI krijgt twintig dagen de tijd om bekend te maken welke maatregelen zijn getroffen om de gebreken te verbeteren. Doet het bedrijf dit niet, dan dreigt een boete die kan oplopen tot 20 miljoen euro of 4 procent van de jaaromzet.

Naar schatting 100 miljoen mensen wereldwijd gebruiken maandelijks ChatGPT. Dat programma baarde wereldwijd opzien doordat het op basis van enkele eenvoudige aanwijzingen complete teksten kon maken die niet zijn te onderscheiden van teksten van mensen. Dat doet het programma onder andere door naar patronen te zoeken in gigantische hoeveelheden data.

De opkomst van dit soort "generatieve" kunstmatige intelligentie baart critici ook zorgen. Zo waarschuwde een agentschap van de Europese Unie voor misbruik van het programma bij oplichtingspogingen, verspreiding van onwaarheden en cybercriminaliteit. Ook zijn er ethische en juridische bezwaren tegen het inzetten van kunstmatige intelligentie die steeds geavanceerder wordt.