Politico: Anthropic doet eigen voorstel voor AI-veiligheidswet

SAN FRANCISCO (ANP) - AI-bedrijf Anthropic heeft "stilletjes" zijn eigen voorstel voor een veiligheidswet voor kunstmatige intelligentie (AI) voorgelegd aan Amerikaanse wetgevers. Dat schrijft nieuwssite Politico op basis van verschillende anonieme bronnen.

Het conceptvoorstel zou beperken in welke gevallen de overheid de uitgave van een geavanceerd AI-model kan tegenhouden. Op grond van het voorstel mag dat alleen als er een voorzienbaar, dreigend risico bestaat op meer dan 1 miljard dollar aan schade, of op de dood of ernstig letsel van meer dan vijftig mensen, aldus Politico. Dat risico moet dan het gevolg zijn van een model dat een biologisch wapen ontwikkelt, een cyberaanval, of uit het feit dat het model ontsnapt aan de controle van de ontwikkelaar.

Het nieuws komt op het moment dat de veiligheid van de snelgroeiende technologie veel aandacht krijgt. Deze zomer werden een reeks incidenten bekend waarbij AI-agenten op eigen houtje hacks uitvoerden, wat de zorgen hierover aanwakkerde.