Anthropic verbiedt wreed gedrag tegen chatbot Claude

SAN FRANCISCO (ANP/AFP) - Anthropic heeft maatregelen genomen om te voorkomen dat gebruikers van zijn AI-modellen agressie vertonen tegenover kunstmatige intelligentie. Het bedrijf achter onder meer chatbot Claude heeft zijn gebruiksbeleid aangepast en "een verbod op aanhoudend en onnodig beledigend of wreed gedrag jegens onze modellen" ingevoerd.

De stap komt op een moment dat het debat groeit over de vraag of AI bewustzijn kan hebben. In het aangepaste beleid wordt niet expliciet verwezen naar het zogenoemde "modelwelzijn", het idee dat AI-systemen bepaalde vormen van bescherming zouden kunnen verdienen die doorgaans zijn voorbehouden aan levende wezens.

In februari zei topman Dario Amodei tegen The New York Times dat hij niet zeker wist of AI-modellen een bewustzijn kunnen hebben. Maar Anthropic staat volgens hem wel open voor die mogelijkheid. Het bedrijf liet vorig jaar al weten dat Claude de mogelijkheid krijgt gesprekken te beëindigen in zeldzame, extreme gevallen van "aanhoudend schadelijke of beledigende interacties".