Foto: Getty
Ni måneder efter, at Amnesty International opfordrede Twitter til at være mere åbne om misbrug på sin platform, organisationen har offentliggjort en anden undersøgelse indikerer, at—klammeparentes selv—Twitter stadig har en fældende misbrug på problemet, og det er i overvældende grad rammer kvinder af farve.
Mens resultaterne er næppe overraskende, hvis du selv har en halv-tunet ind på den platform diskurs i løbet af de sidste par år, at se den kolde, hårde tal er en tankevækkende påmindelse om, Twitter helvedes virkelighed. Undersøgelsen, som er gennemført i samarbejde med software-selskab Element AI, fandt, at sorte kvinder var 84 procent mere tilbøjelige end hvide kvinder til at indgå i en krænkende eller problematisk tweet. “Én ud af ti tweets at nævne, sorte kvinder var krænkende eller problematisk,” Amnesty skriver, “i forhold til en i femten for hvide kvinder.”
For at udføre undersøgelsen, over 6.500 frivillige fra 150 lande vadede gennem 228,000 tweets sendt til 778 kvindelige politikere og journalister i USA og det Forenede Kongerige sidste år. I alt, vurderer forskere, at der i løbet af året, en problematisk eller misbrug tweet blev sendt til den kvinde, frivillige hver 30 sekunder i gennemsnit.
“Rapporten fandt, at som en virksomhed, Twitter er svigter sit ansvar for at respektere kvinders rettigheder online ved ikke tilstrækkeligt til at undersøge og reagere på rapporter om vold og misbrug i en gennemsigtig måde, der fører til, at mange kvinder til tavshed eller censurere sig selv på den platform,” skriver Amnesty.
De vigtigste resultater fra Amnesty ‘ s såkaldte “Trold Patrulje projekt” er ikke nødvendigvis verden-rystende—Twitter er løbet løbsk giftighed, har været en mørk og slimet hjørnestenen i tjeneste i mange år. Men de tilføjer hårdt tjente data til den kritik, at Twitter stadig ikke kan få styr på sin værste brugere, som igen negativt påvirker mest marginaliserede mennesker på sin platform.
Ifølge undersøgelsen, at kvinder i farve var 34 procent mere tilbøjelige end hvide kvinder til at blive nævnt i en krænkende eller problematisk tweet. Det er også konstateret, at i alt 7 procent af tweets at nævne kvindelige journalister var problematiske eller misbrug, i forhold til 7.12 procent af tweets at nævne politikere. Og tweets, der betragtes i denne undersøgelse ikke har sågar slettet tweets eller dem, fra konti på Twitter suspenderet eller handicappede sidste år—sandsynligvis den værste og mest åbenlyse eksempler.
“Ved crowdsourcing forskning, vi var i stand til at opbygge vigtigt bevismateriale i en brøkdel af den tid det ville tage en Amnesty forsker, uden at miste den menneskelige dom, som er så vigtig, når man ser på rammerne omkring tweets,” Milena Marin, Senior Advisor for Taktisk Forskning på Amnesty International, sagde i en erklæring.
Amnesty definerer misbrug tweets som dem, der “omfatter indhold, der opfordrer til vold mod eller trusler mod mennesker på grund af deres race, etnicitet, nationale oprindelse, seksuel orientering, køn, kønsidentitet, religiøse tilhørsforhold, alder, handicap eller alvorlig sygdom,” som kan omfatte “fysiske eller seksuelle trusler, ønsker for fysiske skader eller død, henvisning til voldelige hændelser, adfærd, der tilskynder til frygt eller gentagne nedværdigelser, skældsord, racistiske og sexistiske tropes, eller andet indhold, der nedbryder nogen.”
Problematisk tweets, på den anden side, “indeholde sårende eller fjendtlige indhold, især hvis den gentages for at en person på eller flere gange, men ikke nødvendigvis opfylder tærskelværdien for misbrug” og “kan forstærke negative eller skadelige stereotyper mod en gruppe af personer (fx negative stereotyper om en race eller mennesker, der følger en bestemt religion).”
Amnesty bemærker, misbrug tweets overtræder Twitter ‘ s politikker, men problematisk dem, der er mere nuanceret og ikke altid i strid med virksomhedens politikker. Organisationen stadig har besluttet at medtage dem i denne undersøgelse, fordi Amnesty skriver, “det er vigtigt at understrege bredden og dybden af toksicitet på Twitter i dets forskellige former, og til at anerkende den kumulative effekt, som problematisk indhold kan have på kvinders mulighed for at frit at udtrykke sig på den platform.”
Vijaya Gadde, Twitter ‘s juridiske og politiske fører, fortalte Gizmodo i en e-mail, som Amnesty’ s inddragelse af problematisk indhold i sin rapport “berettiger yderligere diskussion,” tilføjer, at “det er uklart”, hvordan organisationen har defineret, eller som er klassificeret dette indhold, og om den synes, at Twitter skal fjerne problematiske indhold fra sin platform.
I sin seneste halvårlige rapport om gennemsigtighed, frigivet i sidste uge, Kvidre sagde, at det, der er modtaget rapporter om over 2,8 millioner “unikke konti” for misbrug (“et forsøg på at chikanere, true eller stilhed en andens stemme”), næsten 2,7 millioner konti for “hadefulde” indlæg (tweets, at “fremme af vold mod eller direkte at angribe eller true andre mennesker på grundlag af deres integration i en beskyttet gruppe”), og 1.35 millioner konti for voldelige trusler. Af disse, har virksomheden taget handling—som omfatter op til suspendering af kontoen—på omkring 250.000 for misbrug, 285,000 for hadefulde adfærd, og lidt over 42.000 for voldelige trusler.
Gadde sagde, at Twitter “har offentligt forpligtet sig til at forbedre den kollektive sundhed, åbenhed, og dannelse af offentlige samtale om vores service”, og at selskabet er “forpligtet til at holde os selv offentligt til ansvar over for fremskridt”, når det kommer til at opretholde “sundhed” af samtaler på sin platform.
Twitter, Gadde også påpeget, bruger både machine learning og menneskelige moderatorer til at gennemgå online rapporter om misbrug. Som vi har set klart på andre platforme som Facebook og Tumblr, artificial intelligence-værktøjer kan mangle evnen til at forstå nuancerne og rammerne af det menneskelige sprog, hvilket gør det til et velegnet redskab til at afgøre, om et bestemt indhold er lovligt misbrug. Det er de detaljer af disse værktøjer, at Amnesty ønsker at Twitter til at gøre flere offentlige.
“Trold Patrulje handler ikke om politiarbejde Twitter eller ved at tvinge den til at fjerne indhold,” Marin sagde. “Vi stiller det til at blive mere gennemsigtig, og vi håber, at resultaterne fra Trold Patrulje vil tvinge det til at foretage denne ændring. Det afgørende er, at Twitter skal begynde at være åbne om, præcis hvordan de bruger machine learning til at opdage misbrug, og offentliggøre de tekniske oplysninger om de algoritmer, som de er afhængige af.”
Dele Denne Historie