Twitter leunt zwaar op automatisering om inhoud van berichten te modereren. Het socialmediabedrijf van miljardair Elon Musk schaft bepaalde handmatige beoordelingen af en geeft de voorkeur aan het beperken van de verspreiding van berichten in plaats van uitingen volledig te verwijderen. Dat zei het nieuwe hoofd van de divisie die over veiligheid en vertrouwen gaat tegen persbureau Reuters.
Twitter zal ook misbruikgevoelige hashtags en zoekresultaten op gebieden als kinderuitbuiting strenger aanpakken, ongeacht de mogelijke gevolgen voor “goedaardig gebruik” van die termen. Dat zei Ella Irwin, ‘Vice President of Trust and Safety Product’ van Twitter.
Onderzoekers merken een toename van haatzaaiende taal op de sociale mediadienst. Dat gebeurde vooral nadat Musk een pardon had aangekondigd voor accounts die onder de vorige leiding van het bedrijf waren geschorst, maar die de wet niet hadden overtreden of zich schuldig hadden gemaakt aan “ernstige spam”.
Daarop kreeg het bedrijf veel vragen over zijn vermogen en bereidheid om schadelijke en illegale inhoud te modereren. Zeker nadat Musk de helft van het personeel van Twitter op straat gooide en een ultimatum stelde om lange werkdagen te maken. Door die laatste opmerking vertrokken nog eens honderden werknemers.
Ondertussen zijn adverteerders het platform ontvlucht uit bezorgdheid over de veiligheid. Advertenties zijn de belangrijkste bron van inkomsten van het bedrijf. Irwin zei dat Musk het team aanmoedigde om minder zorgen te hebben over hoe bepaalde acties de gebruikersgroei of inkomsten kunnen beïnvloeden. Ze zei dat veiligheid de topprioriteit van het bedrijf was.
Irwin, die in juni bij het bedrijf kwam en eerder veiligheidsfuncties bekleedde bij andere bedrijven, waaronder Amazon en Google, reageerde ook op de opmerkingen dat Twitter niet de middelen of bereidheid had om het platform te beschermen. Ze zei dat werknemers die zich juist bezighouden met het modereren van content op cruciale gebieden zoals kinderveiligheid, de zogenoemde Health-divisies van het bedrijf, goeddeels buiten schot bleven bij de ontslagronde.
Volgens bronnen is echter de helft van het personeel van deze divisie wel ontslagen. Irwin ontkende dat het Health-team zwaar getroffen werd door ontslagen. Zo zou het aantal mensen dat werkt aan kinderveiligheid niet verminderd zijn. Ook de productmanager voor het team is er nog steeds.