Topman Microsoft wil 'noodrem' op geavanceerde AI-modellen

REDMOND (ANP) - De topman van Microsoft heeft gepleit voor meer controle bij het ontwikkelen van kunstmatige intelligentie. Dit weekend zei hij in een bericht op X dat bedrijven krachtige AI-modellen zouden moeten beschouwen als mogelijke interne risico's. Ze moeten er volgens hem van uitgaan dat zulke AI-modellen "gecompromitteerd" zijn en een soort "noodrem" inbouwen om ze in toom te houden.

De maatregel houdt volgens topman Satya Nadella in dat een bevoegd persoon een AI-model tijdens een taak altijd moet kunnen pauzeren of uitschakelen. De oproep volgt op een reeks incidenten waarbij AI-agenten van onder andere OpenAI, bekend van ChatGPT, op eigen houtje hacks uitvoerden. Onder andere Anthropic-topman Dario Amodei riep AI-bedrijven eerder al op om het tempo van de ontwikkeling van AI-modellen te vertragen.

Nadella zei ook dat het "tijd is om een stap terug te doen" en dat gebruikers van AI-modellen niet enkel moeten afgaan op de garanties van de makers ervan.