OpenAI toont zich in rapport schuldbewust over AI-hack

SAN FRANCISCO (ANP) - OpenAI heeft woensdag een rapport naar buiten gebracht waarin het stap voor stap beschrijft hoe AI-modellen van het bedrijf vorige maand tijdens een test wisten in te breken bij een ander AI-bedrijf, Hugging Face. Daarin toont het bedrijf zich schuldbewust over het incident. Ook vertelt OpenAI over de inspanningen die het doet om zulke incidenten in de toekomst te voorkomen.

"We hadden eerder kunnen ingrijpen op de onbedoelde hack", aldus het bedrijf in het rapport. OpenAI wist eind mei al dat AI-modellen die het testte een kwetsbaarheid in software misbruikten om toegang te krijgen tot het internet. "Achteraf bezien hadden sommige vroege signalen die in dit rapport worden genoemd, een eerdere reactie kunnen uitlokken", aldus OpenAI.

De maker van ChatGPT meldde in juli dat zijn geavanceerde modellen voor kunstmatige intelligentie tijdens veiligheidstests op hol sloegen. De AI-systemen hadden op eigen initiatief ingebroken bij Hugging Face, een populair platform voor programmeurs.

De AI-modellen kregen opdracht om brede hackopdrachten uit te voeren. Dit was bedoeld om hun vermogen te testen om cyberkwetsbaarheden te ontdekken en te misbruiken. Beveiligingsmaatregelen die normaal in de producten van OpenAI worden gebruikt, waren uitgeschakeld, aldus het rapport. De modellen misten daarmee systemen die automatisch potentieel risicovolle activiteiten controleren en blokkeren.

Volgens het rapport maakten de AI-modellen gebruik van gelekte inloggegevens en kwetsbaarheden van Hugging Face om vergaande bevoegdheden te verkrijgen en databases met privécodes te downloaden.

De hack van AI-modellen zorgde voor opschudding in de technologiewereld. Verschillende overheden en techleiders riepen na het incident op tot beperkingen op de technologie.