AI op de werkvloer: wie is verantwoordelijk als het misgaat?

29 jul , 13:24 Zakelijk
pexels-bertellifotografia-16094043
Pexels

Steeds meer bedrijven maken gebruik van kunstmatige intelligentie (AI) om processen efficiënter te maken. Denk aan chatbots die klantvragen afhandelen, algoritmes die sollicitanten selecteren of software die automatisch offertes opstelt. Maar wat als zo’n systeem een fout maakt? Of erger: als er schade ontstaat bij een klant of medewerker? De opmars van AI roept een prangende vraag op: wie is er aansprakelijk als het misgaat?

Wetgeving loopt achter op technologie

De wetgeving rond AI loopt achter op de technologische ontwikkelingen. Dat blijkt onder meer uit recente voorvallen waarbij bedrijven werden aangeklaagd na fouten van hun eigen systemen. In een spraakmakend geval in Duitsland verstuurde een geautomatiseerde boekhoudtool foutieve aanmaningen, wat leidde tot reputatieschade bij klanten. In Nederland ging het mis bij een IT-bedrijf dat via AI een offerte genereerde die achteraf niet nagekomen kon worden. De klant claimde schadevergoeding — en kreeg gelijk.

AI-fouten vallen onder bedrijfsrisico’s

Juist in zulke situaties komt het belang van een goede aansprakelijkheidsverzekering voor bedrijven naar voren. Waar AI een rol speelt in het leveren van diensten of het verwerken van gegevens, is het risico op fouten of schade niet theoretisch, maar reëel. Veel ondernemers denken dat ze alleen aansprakelijk zijn voor menselijke fouten, maar dat is een misverstand. Ook bij geautomatiseerde processen blijft de eindverantwoordelijkheid bij het bedrijf liggen. Een zakelijke aansprakelijkheidsverzekering kan dan uitkomst bieden, vooral wanneer er sprake is van financiële of materiële schade bij derden.

Nieuwe regels in de maak, maar risico’s zijn nú al reëel

De AI-verordening die momenteel in Brussel besproken wordt, zal op termijn meer duidelijkheid geven over verantwoordelijkheid en zorgplicht. Maar zolang deze regelgeving nog niet van kracht is, moeten bedrijven zelf zorgen dat ze hun risico’s goed in kaart brengen. Zeker nu AI toegankelijker wordt en ook kleinere ondernemingen ermee experimenteren, is het belangrijk niet alleen te denken aan efficiëntie, maar ook aan juridische gevolgen.

Claims liggen op de loer

Schadeclaims worden tegenwoordig sneller en vaker ingediend dan voorheen. Dit komt onder andere doordat klanten beter geïnformeerd zijn over hun rechten en juridische ondersteuning steeds laagdrempeliger is. Wanneer een AI-systeem een fout maakt die leidt tot financiële schade, kan dit al voldoende aanleiding zijn voor een klant om een claim in te dienen. Denk bijvoorbeeld aan een verkeerd gegenereerde offerte, een fout in een automatisch rapport of onjuiste communicatie via een chatbot.

In veel gevallen blijft het bedrijf zelf verantwoordelijk voor het handelen van systemen die het inzet, ook als die op basis van algoritmes zelfstandig beslissingen nemen. Als die beslissingen leiden tot schade bij derden — bijvoorbeeld door verkeerde informatie, een fout advies of contractuele misverstanden — kan dat juridische en financiële gevolgen hebben. De impact hiervan is vaak groter dan ondernemers verwachten, zeker als er ook reputatieschade meespeelt.

Zorg dat je dekking up-to-date is

Daarom is het van belang om niet alleen intern afspraken te maken over het gebruik van AI, maar ook de juridische en financiële kant te dekken. Verzekeringsadviseurs raden ondernemers aan om hun polisvoorwaarden opnieuw te bekijken en na te gaan of nieuwe technologieën wel gedekt zijn. Want wie denkt kosten te besparen door te vertrouwen op slimme systemen, kan zich flink verkijken als de aansprakelijkheid niet goed geregeld is.

Of je nu werkt met AI of nog twijfelt over implementatie: de vraag is niet alleen wat de technologie voor je bedrijf kan betekenen, maar ook wat het je kan kosten als het misgaat.