Britse toezichthouder gaat AI-chatbot Snapchat mogelijk verbieden

Snapchat riskeert een verbod op zijn chatbot My AI in het Verenigd Koninkrijk. De functie die werkt met kunstmatige intelligentie (AI) vormt volgens een Britse datawaakhond, de Information Commissoner's Office, een gevaar voor minderjarigen.

Als het moederbedrijf van de video- en fotoapp, Snap, niet ingrijpt om de zorgen van de toezichthouder weg te nemen, verbiedt de toezichthouder My AI mogelijk. "De voorlopige resultaten van ons onderzoek wijzen op een zorgwekkend gebrek aan analyses van Snap om privacyrisico's bij kinderen en andere gebruikers te beoordelen", schrijft de organisatie.

Het is nog niet zeker dat de Information Commissoner's Office (ICO) zal ingrijpen. Uit de voorlopige conclusies wordt ook nog niet duidelijk of Snap Britse wetgeving voor gegevensbescherming heeft geschonden, zegt de instantie. Snap laat weten de melding van de ICO te bestuderen.

Snapchat introduceerde My AI in april. Diezelfde maand maakte de onder jongeren populaire app bekend de functie aan te passen, zodat de chatbot zich niet langer voor zou doen als een echt persoon. In gesprekjes met Nederlandse gebruikers probeerde de bot onder andere dates met kinderen te regelen.

Vorige maand zei de Autoriteit Persoonsgegevens bezorgd te zijn over AI-apps die zijn gericht op kinderen, omdat zij zich vaak niet bewust zijn van de risico's rond geavanceerde chatbots. De privacytoezichthouder van Nederland vroeg een niet bij naam genoemd techbedrijf om opheldering over de omgang met informatie die gebruikers van AI-programma's over zichzelf geven.