Foto: Getty
Negen maanden na Amnesty International riep op Twitter om meer openheid over misbruik op het platform, de organisatie heeft bekendgemaakt, een ander onderzoek dat aangeeft dat—zet je schrap—Twitter heeft nog steeds een vernietigend online misbruik probleem, en het overweldigende invloed op vrouwen van kleur.
Terwijl de resultaten zijn niet verwonderlijk als je hebt zelfs een half-afgestemd op het platform discours over de laatste paar jaar van het zien van de koude, harde cijfers is een ontnuchterende herinnering van Twitter ‘ s helse werkelijkheid. De studie, die werd uitgevoerd in combinatie met software bedrijf Element AI, is gebleken dat zwarte vrouwen waren 84 procent meer kans dan blanke vrouwen worden opgenomen in een verkeerde of problematisch tweet. “Een op de tien tweets met vermelding van zwarte vrouwen die beledigend of bezwaarlijk maakt,” Amnesty schrijft, “in vergelijking met één op de vijftien voor blanke vrouwen.”
Het onderzoek uit te voeren, meer dan 6.500 vrijwilligers uit 150 landen waadden door 228.000 dat werd tweets verstuurd naar 778 vrouwen politici en journalisten in de verenigde staten en het Verenigd Koninkrijk vorig jaar. In totaal zijn de onderzoekers schatten dat in de loop van het jaar, een problematische of beledigende tweet werd verstuurd naar de vrouw vrijwilligers elke 30 seconden, gemiddeld.
“Het rapport blijkt dat, naarmate een bedrijf, Twitter is niet in zijn verantwoordelijkheid om de rechten van vrouwen, online, door niet adequaat te onderzoeken en te reageren op meldingen van geweld en misbruik op een transparante wijze die leidt bij veel vrouwen tot zwijgen te verwijderen of te censureren zichzelf op het platform”, schrijft Amnesty.
De belangrijkste bevindingen van Amnesty ‘s zogenaamde ‘ Troll Patrol” project “zijn niet noodzakelijkerwijs de wereld-verbrijzelen—Twitter’ s welig toxiciteit is een donkere en slijmerige hoeksteen van de dienst voor het jaar. Maar ze voegen zuurverdiende gegevens aan de kritiek dat Twitter nog steeds niet kan krijgen greep op zijn slechtst gebruikers, die op hun beurt een negatieve invloed op de meest gemarginaliseerde mensen op het platform.
Volgens de studie, vrouwen van kleur waren 34 procent meer kans dan blanke vrouwen, vermeld te worden in een verkeerde of problematisch tweet. Het is ook gebleken dat een totaal van 7 procent van de tweets die vermelden vrouwen journalisten waren problematisch of beledigend zijn, vergeleken met 7.12 procent van de tweets met vermelding van politici. En de tweets beschouwd in deze studie niet zelfs verwijderde tweets of die van Twitter accounts geschorst of uitgeschakeld vorig jaar—waarschijnlijk de slechtste en meest flagrante voorbeelden.
“Door crowdsourcing onderzoek, waren we in staat op te bouwen cruciaal bewijsmateriaal in een fractie van de tijd dat een Amnesty-onderzoeker, zonder verlies van de menselijke oordeel, dat zo essentieel is als we kijken naar de context rond tweets,” Milena Marin, Senior Adviseur Tactische Onderzoek bij Amnesty International, zei in een verklaring.
Amnesty definieert beledigende tweets die “inhoud bevatten die geweld tegen of bedreigingen naar mensen op basis van ras, etniciteit, nationaliteit, seksuele geaardheid, geslacht, gender-identiteit, religieuze overtuiging, leeftijd, handicap of ernstige ziekte,” dat kan zijn “fysieke of seksuele bedreigingen, wensen voor het toebrengen van lichamelijk letsel of dood, een verwijzing naar de gewelddadige gebeurtenissen, gedrag dat aanzet tot angst of herhaalde beledigingen, scheldwoorden, racistische en seksistische stijlfiguren, of andere inhoud die degradeert iemand.”
Problematisch tweets, aan de andere kant, “bevatten kwetsende of vijandige inhoud, vooral als herhaald om een individu op meerdere of gelegenheden, maar niet per se te voldoen aan de drempel van misbruik’ en ‘ het versterken van negatieve of schadelijke stereotypen tegen een groep van personen (bijvoorbeeld negatieve stereotypen over een wedstrijd of mensen die een bepaalde religie).”
Als Amnesty opmerkingen, beledigende tweets in strijd Twitter-beleid maar problematisch zijn genuanceerder en zijn niet altijd in overtreding van het beleid van de onderneming. De organisatie toch besloten om ze op te nemen in deze studie, omdat, Amnesty schrijft, “het is belangrijk om te benadrukken de breedte en diepte van toxiciteit op Twitter in zijn diverse vormen en te herkennen aan het cumulatieve effect dat problematische inhoud kunnen hebben op het vermogen van vrouwen om vrij te uiten op het platform.”
Vijaya Gadde, Twitter juridische en beleid leiden, vertelde Gizmodo in een e-mail dat Amnesty ‘ s opname van problematische inhoud in haar rapport “warrants verdere discussie,” toevoegend dat “het is onduidelijk” hoe is de organisatie gedefinieerd of die dit inhoud en of hij denkt dat Twitter moet verwijderen problematische inhoud van het platform.
In de laatste halfjaarlijkse transparency report, bracht vorig week, Twitter zei het ontvangen van rapporten op meer dan 2.8 miljoen unieke accounts” voor misbruik (“een poging om lastig te vallen, te intimideren of silence iemand anders de stem”), bijna 2,7 miljoen accounts voor “hatelijk” spraak (tweets die het “stimuleren van geweld tegen of rechtstreeks aanvallen of bedreigen van andere mensen op basis van hun opname in een beschermde groep”), en 1,35 miljoen accounts voor gewelddadige bedreigingen. Van die nam het bedrijf actie—voorzien van up-to-opschorting van het account—op ongeveer 250.000 voor misbruik, 285,000 voor hatelijk gedrag, en iets meer dan 42.000 voor gewelddadige bedreigingen.
Gadde zei dat Twitter “heeft openlijk streeft naar verbetering van de collectieve gezondheid, openheid en beleefdheid van openbaar gesprek op onze service” en dat het bedrijf “toegewijd aan het houden van onszelf publiek verantwoorden in de richting van de vooruitgang” als het gaat om het handhaven van de “gezondheid” van gesprekken op haar platform.
Twitter, Gadde ook op gewezen, maakt gebruik van zowel machine learning en menselijke moderators om te beoordelen voor het online misbruik. Zoals we hebben gezien duidelijk op andere platformen zoals Facebook en Tumblr, artificial intelligence tools ontbreekt het vermogen om te begrijpen de nuances en context van de menselijke taal, waardoor het een onvoldoende instrument om te bepalen of bepaalde inhoud is wettig misbruik. Het is de details van deze tools die Amnesty wil Twitter om meer publiek.
“Troll Patrol is niet over het politiewerk Twitter of dwingen om inhoud te verwijderen,” Marin zei. “We vragen het transparanter worden, en we hopen dat de bevindingen van Troll Patrol zal dwingen om dat te veranderen. En dat is cruciaal, Twitter moet beginnen transparant zijn over hoe precies ze zijn met behulp van machine learning voor het detecteren van misbruik en publiceren van technische informatie over de algoritmes die ze vertrouwen.”
Deel Dit Verhaal