Anthropic stelt krachtigste AI-model beschikbaar met 'vangrails'

SAN FRANCISCO (ANP) - Anthropic zet zijn krachtigste AI-model op de markt, maar wel met veiligheidswaarborgen. Dat moet voorkomen dat het model wordt gebruikt voor geavanceerde cyberaanvallen of de ontwikkeling van biologische wapens, stelt het bedrijf. Eerder ontstond veel commotie om het Mythos-model, omdat het razendsnel zwakke plekken in softwarebeveiliging kon opsporen en zo ook voor cybercriminelen een machtig wapen kon worden.

Nu kondigt Anthropic een aangepaste versie van Mythos aan, Fable 5 genaamd. De veiligheidswaarborgen in dit model bestaan eruit dat het bij verzoeken die te maken hebben met cyberveiligheid, biologie of scheikunde terugvalt op antwoorden van zijn op een na geavanceerdste AI-model. Hetzelfde geldt voor vragen van gebruikers die te maken hebben met het kopiëren van het AI-model.

Anthropic zegt dat Fable 5 alle andere algemeen beschikbare modellen van het bedrijf overtreft. Zo zou het beter presteren bij softwareontwikkeling, wetenschappelijk onderzoek en visuele taken.

Het AI-bedrijf kondigde ook aan dat een kleine groep cyberbeveiligers en belangrijke organisaties toegang krijgt tot Mythos 5, zonder veiligheidswaarborgen. Het gaat om dezelfde groep die ook al mocht werken met de testversie van Mythos. Anthropic stelde dit AI-model maar beperkt beschikbaar uit angst dat kwaadwillenden er aanvallen mee kunnen uitvoeren op belangrijke systemen van bijvoorbeeld banken of stroomnetten.

Volgens Anthropic hebben uitvoerige tests geen lekken aangetoond die het mogelijk maken om de veiligheidswaarborgen van Fable 5 volledig ongedaan te maken. Toch is het niet uit te sluiten dat die mogelijkheid toch bestaat. Maar zo'n kraak moet volgens Anthropic zoveel moeite en geld gaan kosten dat die niet ongezien op grote schaal kan worden toegepast.