Anthropic pleit voor 'pauzeknop' bij ontwikkeling van AI

SAN FRANCISCO (ANP/BLOOMBERG) - Anthropic pleit voor een 'pauzeknop' bij de ontwikkeling van de geavanceerdste AI-systemen. Die moet mensen de mogelijkheid geven om na te gaan wat de gevolgen van de nieuwe technologie zijn. Wereldwijde afspraken daarover worden vooral belangrijk als AI-systemen steeds meer taken van mensen overnemen bij de verdere ontwikkeling van kunstmatige intelligentie, stelt medeoprichter Jack Clark in een blogpost.

In het stuk schetst Clark, samen met onderzoekster Marina Favaro, een toekomst waarin AI-systemen helemaal zelf aan hun eigen ontwikkeling werken. Als dat steeds sneller gebeurt, kunnen mensen niet in hetzelfde tempo beoordelen of die ontwikkelingen goed of slecht zijn.

"We denken dat het goed voor de wereld zou zijn om de optie te hebben om vooraanstaande AI-ontwikkelingen te vertragen of pauzeren, zodat maatschappelijke structuren en veiligheidsonderzoek de technologische voortgang kunnen bijbenen", schrijven Clark en Favaro.

Anthropic is op dit moment zelf een van de vooraanstaande bedrijven bij de ontwikkeling van AI en heeft veel succes met zijn assistent Claude. Tegelijkertijd is er commotie over zijn Mythos-model dat razendsnel zwakke plekken in softwarebeveiliging zou kunnen opsporen.