Illustration: Jim Cooke (Gizmodo)
Chikane af Julia og hendes team startede i Maj.
Det er, når Facebook udvidet sin fact-kontrol forsøg på at Brasilien. Virkeligheden-brikker på en af de deltagende organisationer, hvor Julia (ikke hendes rigtige navn) fungerer som direktør, var målrettet mod grupper, der troede, at organisationen var at censurere den rigtige.
Den chikane, der blev så giftig, at det lille team lukke alle deres personlige sociale medie sider. De fik beskeder fra trolde “, og sagde, at de ville skyde os, ville vi ikke se Brasilien ‘ s næste præsident,” Julia fortalte Gizmodo. “Også folk sagde, at de var på vej til at følge os én efter én.”
“Hver dag får vi i det mindste to til fire tweets eller Facebook-beskeder sige, at vi enten censorer, at vi ikke fortjener at være online, vi skal dø…”
“Hver dag får vi i det mindste to til fire tweets eller Facebook-beskeder sige, at vi enten censorer, at vi ikke fortjener at være online, vi skal dø, eller noget i den retning,” Julia sagde. “Det er temmelig dårligt.” Hun tilføjede: “Brasilien er ved at blive skør lige nu. Du er enten mod kontrol, eller du er meget stille om det.”
Klimaet omkring valget er især flygtige i Brasilien, hvor politisk motiveret vold er ikke ualmindeligt. Brasilien er langt til højre præsidentkandidat Jair Bolsonaro blev for nylig anklaget “med tilskyndelse til had og diskrimination mod sorte, oprindelige folk, kvinder og bøsser,” rapporterede the New York Times. Hans søn, Eduardo, blev anklaget for at true en journalist. Virkeligheden-brikker til at spille en afgørende rolle i at holde disse typer af offentlige tal ansvarlig miskreditere faretruende vildledende eller helt falske påstande fremsat af politikere og deres tilhængere—positionere sig selv som mål for deres onde og opmuntret base. En base, der kan få vist den ikke-partisan handle for at kontrollere rigtigheden af en påstand, som en form for censur eller en forudindtaget angreb på deres gruppe og deres ideologier.
Det er en grov afvejning for, hvad der kommer til at være afgørende at arbejde i en alder af misinformation. Julia ‘ s organisation er blot en af mange rundt omkring i verden med indhold, der beskæftiger sig med Facebook. Tech giant iværksat et program med et par tredjeparts-virkeligheden-brikker ved udgangen af 2016 som en del af sin strategi for at bekæmpe falske nyheder på sin platform. Det sociale netværk har udråbt en række af taktik i sin krig mod bullshit, og det er virkeligheden-brikker som Julia, der har til opgave at udvælge og luge ud i visse falske påstande.
Facebook ‘ s program omfatter i øjeblikket 17 lande. De er alle certificeret af det Internationale Fact-Kontrol-Netværket, et ikke-partisan enhed af Poynter Institute lanceret i September 2015. Flere virkeligheden-brikker, der deltager i programmet bekræftet, at Gizmodo, at Facebook er at betale dem som en del af aftalen. Factcheck.org for eksempel bryder ned den støtte, den modtager, i en fremlæggelse af finansielle oplysninger, der viser, at Facebook betalt organisationen $188,881 i 2018 regnskabsår, der sluttede 30 juni 2018.
“Jeg tror ikke, vi kommer til at nå en tilstand af perfektion med ingen misinformation online.”
Disse er alle tredjeparts-eksperter; Facebook ikke har en in-house team, der er dedikeret til disse bestræbelser. Dets investering i dette program, er vokset betydeligt siden den blev lanceret for to år siden, ekspanderende globalt. Selvom holdene er stadig langt fra omfattende nok til at komme tæt på kontrol af alle anmeldte fordringer, der er en begrænsning Facebook selv erkendte i et Svært Spørgsmål, indlæg i juni, at bemærke, at der ikke er virkeligheden-brikker i hvert land, og at der i regioner, hvor der er, at de ikke har nok arbejdskraft eller tid til at fact-tjekke hver enkelt anmeldte krav. En Facebook-talsmand fortalte Gizmodo i en mail, at den faktisk-kontrol-programmet har været i stand til at “reducere fremtidige udsigt over debunked historier med 80%, men det er værd at bemærke, at vi ikke mener, det er en mirakelkur til at bekæmpe misinformation.” I stedet, den talsmand, der er anført en række metoder som en del af Facebook ‘ s strategi for bekæmpelse af falske nyheder, herunder fjernelse af falske konti og nedrykning misvisende indhold på News Feed. Virksomheden har også for nylig udtalt, at det ønsker at gøre brug af machine learning til at forhindre spredning af misinformation på platformen. Uddelegering af det problem, at maskiner er næppe en ny stemning for sociale medier monstrum.
De blev anlagt, efter at den offentlige—og Facebook—opdagede, at platformen var at blive udnyttet af dårlige skuespillere, som anvendes som et middel til udenlandske valget indblanding i 2016 AMERIKANSKE præsidentvalg. Da omfanget af, at udnyttelse kom i fokus, Facebook annoncerede, at det ville lean på disse organisationer for at forhindre sådanne udbredte misbrug af sin tjeneste sker igen, især omkring den politiske diskurs.
Facebook ‘ s manglende evne til at forhindre spredning af misinformation om its platform er et globalt problem. I en særlig farlig handling af uagtsomhed, Facebook ‘ s manglende evne til at beskæftige sig med misinformation og hader at tale i Myanmar har fungeret som en katalysator for vold mod den Muslimske befolkning i regionen. En Reuters-undersøgelse offentliggjort i denne måned viste, at de spørgsmål, der har været på Facebook ‘ s radar da i det mindste 2013, er stadig meget meget forkert. Reuters fundet mere end 1.000 eksempler på “af indlæg, kommentarer, billeder og videoer angriber Rohingya-eller andre Myanmar Muslimer, der var på Facebook” som af en uge, før historien blev udgivet, som var i midten af August. “Den anti-Rohingya-og anti-Muslimske skældsord analyseret for denne artikel – der blev indsamlet af Reuters og Menneskerettigheder Center på UC Berkeley School of Law – indeholder materiale, som er blevet op på Facebook, så længe seks år,” rapporterede Reuters. Mandag, Facebook meddelte, at det var ved at fjerne en række af Myanmar konti og sider fra service—herunder landets øverste militære embedsmand, Senior General Aung Min Hlaing—”for at forhindre dem fra at bruge vores service til yderligere at opflamme etniske og religiøse spændinger.”
Og en undersøgelse offentliggjort i Maj i år fra forskere ved University of Warwick fandt, at samfund i Tyskland med en højere end den gennemsnitlige Facebook bruger havde mere anti-flygtninge-angreb, et forhold, der “holdt tilfældet i stort set enhver form for fællesskab i en stor by eller lille by, velhavende eller kæmper; liberale har langt til højre højborg—hvilket tyder på, at sammenhængen gælder universelt,” rapporterede the New York Times. De data, der forbinder Facebook, at disse angreb er endnu mere foruroligende—”Hvor pr-person Facebook bruger steg til én standardafvigelse over det nationale gennemsnit, angreb på flygtninge steget med omkring 50 procent,” the Times rapporterede.
Facebook ‘ s partnerskab med virkeligheden-brikker er i stigende grad vigtigt som valget perioder, der begynder rundt omkring i verden, og i lande, hvor virkeligheden-brikker test-værktøjer, før de er tilgængelige til virkeligheden-brikker i Usa. Gizmodo talte med syv virkeligheden-brikker, der er baseret i forskellige dele af verden til at lære af den nuværende tilstand af Facebook ‘ s fact-kontrol indsats, som flere lande forberede sig til de kommende valg.
“Det er ligesom en whack-a-mole-spil.”
Flere virkeligheden-brikker udtrykt bekymring over den manglende gennemsigtighed fra Facebook med hensyn til specifikke data og generel information om virkningen af deres arbejde—klager virkeligheden-brikker til udtryk sidste år i en rapport fra Politisk. Fordi virkeligheden-brikker har underskrevet non-disclosure aftaler med Facebook, men de var ude af stand til at diskutere nogle emner offentligt. Mens de var åbenbart okay at diskutere visse dele af programmet, var der visse emner, de ville ikke dele på posten på grund af disse aftaler.
Dashboard
Det faktum-brikker, vi talte med detaljerede den nuværende tilstand af dashboard, der er et værktøj Facebook udviklet sig til den tredje-parts-forhold-brikker. Mens det varierer lidt, per region, fact-brikker beskrevet det som en side med en liste af artikel hyperlinks, der er blevet markeret ved en kombination af brugerne, og Facebook ‘ s algoritme, og rangeret baseret på, hvor meget de er ved at blive delt. Når virkeligheden-brikker beslutte, hvilke emner, på dashboard for at gennemgå, de giver Facebook med et af de otte tilgængelige niveauer, der spænder fra “False” til “Satire” til “Mening” at “Ikke Kvalificeret”. Når en kendsgerning-checker priser en historie som “Falsk”, det vil vise sig lavere i News Feed, og sider og domæner, der rutinemæssigt deler falske nyheder, vil få deres distribution degraderet og deres indtjening og reklame rettigheder fjernes.
Mens fact-brikker udtrykte taknemmelighed for dashboard, de fleste af dem ikke synes at finde, at det er særligt nyttigt som et seriøst værktøj til at bekæmpe misinformation. I stedet instrumentbrættet tilbudt dem et indblik i, hvilken type af historier, der var ved at blive markeret som falske—en proces, der udføres af både brugere og en algoritme. Men det er ikke en fejlfri system, især nu, at “fake news” er ofte fortolket af mennesker som nyheder, der ikke bekræfter deres stift overbevisninger. “Folk har en tendens til at flage indhold, at de er uenige med,” Angie Holan, PolitiFact redaktør, fortalte Gizmodo.
Saranac Hale Spencer af USA-baserede FactCheck.org en anden tredjepart fact-kontrol partner med Facebook, sagde dashboard er et nyttigt værktøj, når det kommer til at identificere, hvilke brugere der kan flag som mistænkelige, men karakteriserede det som “en slags tåler.” Hun sagde, at organisationens fokus er at holde offentlige embedsmænd til ansvar, og at Facebook projekt er bare en lille del af hvad de gør.
“Dashboard er egentlig ikke et værktøj til at hvis du er på udkig efter viral misinformation,” Phil Chetwynd, chefredaktør af Agence France-Presse, er en anden organisation, der er lejet af Facebook for sine fact-kontrol programmet, fortalte Gizmodo. Chetwynd tilføjede, at AFP har andre værktøjer og strategier til at identificere, hvilket indhold der er værd at fact-kontrol, herunder Facebook-ejede værktøjer som CrowdTangle, men at instrumentbrættet i sin nuværende tilstand “er ikke en enorm hjælp ofte” til dette formål. En Facebook-talsmand bekræftet, at Gizmodo, at instrumentbrættet værktøj i sin nuværende tilstand ikke prioritere indhold af hvordan viral det er.
AFP er en af de organisationer, der har evnen til at se på markerede fotos og videoer i betjeningspanelet. Julia ‘ s organisation også angav, at de havde denne evne, men faktum-brikker brug af betjeningspanelet på Filippinerne, Tyskland og USA sagde, at de ikke har denne adgang endnu, og var ikke sikker på en tidslinje for, hvornår de ville få det. En Facebook-talsmand sagde, at virkeligheden-brikker i Argentina, Brasilien, Frankrig, Indien, Indonesien, Irland, Mexico, Tyrkiet og i øjeblikket har evnen til at fact-tjekke fotos og videoer.
Fraværet af dette værktøj betyder ikke, at virkeligheden-brikker ikke finde fotos og videoer uden for Facebook ‘ s system. Ellen Tordesillas, en journalist, der hjalp med at grundlægge VERA Filer, en fact-kontrol nonprofit i Filippinerne, sagde, at de har været på fact-kontrol af fotos og videoer, da 2016. Organisationen startede sit partnerskab med Facebook i April i år, men de har gjort det fact-kontrol i henhold til den Nationale Fond for Demokrati siden præsidentvalget i 2016. Det er et selvstændigt projekt fra Facebook, men Tordesillas sagde, at de er “nært beslægtede.”
Evnen til at fact-tjekke fotos og videoer er en vigtig funktionalitet, især omkring politiske kampagner, som konspirationsteorier og skæmt i stigende grad bliver spredt gennem visuelle midler, uanset om det er et meme, et manipuleret billede, en Facebook Se video, eller papiret er taget ud af kontekst. Og der er også et stigende problem for deepfakes, ultrarealistic falske videoer, en dybt foruroligende ny måde at fremstille misinformation, et problem, selv Marco Rubio har taget på som hans pet-projektet. Mens ingen af virkeligheden-brikker, som er specifikt nævnt deepfakes, de nævner, manipulerede fotos, som en kilde af misinformation. En Facebook-talsmand sagde selskabet arbejder på tekniske og menneskelige løsninger til deepfakes, en indsats, der involverer sin AI Research Lab.
Anatomi af en løgn
Flere virkeligheden-brikker detaljeret, hvordan hoaxes er spredt sig visuelt i deres region, typisk omkring omstridte politiske emner og politiske kampagner. Agencia Lupa, en fact-kontrol organisation, der arbejder med Facebook i Brasilien, sagde, at de allerede har fact-tjekket to fotos via Facebook ‘ s dashboard. Begge billeder var reel, men sat ind i falske sammenhæng. Den ene var en anholdelse foto af journalist Miriam Leitão med ledsagende tekst, som hun hævdede, at hun var en del af et væbnet røveri i en bank, der fandt sted under diktatur i Brasilien, i oktober 1968. Kravet var helt forkert. På det tidspunkt, den angivne røveri, Leitão var 15 år gammel bor i Caratinga, Brasilien. Billedet blev taget fire år senere, da hun var 19 år gammel og blev anholdt og tilbageholdt i flere måneder mens du er gravid, ifølge Agencia Lupa. Det var i Brasilien ‘ s militære regime. Hun var angiveligt tortureret og truet med voldtægt under sin tilbageholdelse, i henhold til O Globo, en Brasiliansk avis, og efter hendes løsladelse, sagsøgt for at deltage i det Kommunistiske Parti i Brasilien. Leitão blev aldrig opkrævet eller anklaget for at tage del i en væbnet bankrøveri.
Det andet foto blev af Marco Antonio, søn af ex-guvernør i Rio de Janeiro, Sergio Cabral. Den ledsagende tekst til billedet, som var det virkelige, fremgik, at Antônio, der kører for kongressen, ikke kommer til at bruge hans sidste navn på den stemme, lovforslag med henblik på at tage afstand fra sin far, der nu i fængsel. Denne påstand er også falsk.
Billede: Lupa
Jacques Pezet, et faktum-checker for Tyskland-baseret CORRECTIV, en anden tredjepart virkeligheden-checker for Facebook, sagde, at han har arbejdet på at fact-tjekke en video, der er adskilt fra Facebook ‘ s dashboard—de ikke har den evne endnu. Den organisation, der er identificeret den video, fordi langt højre sider var at dele det. Det blev også markeret af en Twitter-bruger, der mærkede Correctiv ‘ s fact-kontrol-konto.
Den video blev taget af en tjekkisk turist, der indspillede film besætning skyde en scene af folk, der flyder i havet. Turist hævdet, at besætningen var iscenesætter falske dødsfald af flygtninge i havet i nærheden af Kreta. Kravet blev herefter rundsendt til at signalere, at medierne manipulerer med det offentlige med falske billeder. Men Pezet sagde, at organisationen ‘ s forskning viste, at filmholdet var i virkeligheden er at skyde en scene, men det var en dramatiseret historisk dokumentar, Jord af Smertefulde Mary, som handler om den græske flygtninge i 1920’erne flytter fra Anatolien til Kreta. Pezet havde kontaktet filmhold og direktør, for at bekræfte, at de blev filme en dokumentar, og for at bevise, at undertekster og sammenhæng, der deles blev taget ud af kontekst.
Chetwynd bemærkede også, at de har fact-tjekket virkelige billeder, der er taget ud af en sammenhæng, specielt til at manipulere indvandrer-diskussionen. For eksempel, sagde han, at de for nylig fact-tjekket en video, der hævder at skildre en Saudiarabisk mand, som angriber et hospital degnen i London. Det blev delt mere end 40.000 gange på under en måned på Facebook. Hændelsen skete, og videoen er reel, men det blev taget ud af sammenhæng “med den implikation af indvandrere, der kommer i, ballade,” Chetwynd sagde. Det var faktisk optagelser af en Kuwaitisk mand spyttede på og angribe en Australsk sygeplejerske under et skænderi over penge på en dyrlægeklinik i Kuwait.
Et andet eksempel indeholder en video af en beruset russisk mand, der angriber en sikkerhedsvagt og sygeplejersker i det nordvestlige Rusland. Det var delt på den nu hedengangne Facebook side “SOS anti-hvid racisme” mere end 100.000 gange, efter at Første Udkast til fejlagtigt at præsentere det som en udlænding, der angriber fransk hospital medarbejdere. Chetwynd sagde, at denne video blev brugt i forskellige lande med forskellige sammenhæng, herunder i Tyrkiet, Spanien, og Italien.
“Det er som om, vi kører efter steder hele tiden, og så ved vi ikke, hvis fordringen er stadig cirkulerer i systemet.”
“Når du ser visse typer af enkeltpersoner, for visse personer, at visse personligheder bliver en del af den diskurs, eller visse kritikere bliver fremtrædende for denne uge eller for en bestemt periode, så du mærke til de tal mere på disse hjemmesider, disse tvivlsomme steder, vi er overvågning,” Gemma Mendoza, der fører fact-kontrol af aktiviteter samt forskning på misinformation om sociale medier på Filippinerne-baseret Rappler, en anden fact-kontrol organisation, der er involveret med Facebook ‘ s program, fortalte Gizmodo. “Du ser disse mønstre. Det synes der er et indhold, plan, ligesom de er også i harmoni med aktuelle begivenheder, medmindre indholdet er, i mange tilfælde gøres op.” Det faktum-brikker har bemærket, at de steder rutinemæssigt udstationering vildledende eller falske indhold forbinde med visse aktuelle begivenheder—at de holder op med nyheder og ofte udgivelse af vildledende og urigtige oplysninger, der er relateret til aktuelle begivenheder, i overensstemmelse hermed.
“Vi er frenemies”
Bortset fra den udbredte evne til at fact-tjekke dine fotos og videoer, som tilsyneladende er i beta, og det faktum brikker stadig ønsker mere information fra Facebook om virkningen af deres arbejde. “De lovede nogle målinger til os,” Mendoza sagde. Mens de har set hypotetisk tal, sagde hun, de har ikke set præcise tal, specielt med hensyn til det materiale, de er faktisk-kontrol. Hun bemærkede også, at mange falske påstande ikke kommer fra blot en URL; de er cirkuleres gennem mange copycat steder, og hun ville gerne vide, hvis systemet er at spore fact-tjekket kravet i sig selv, snarere end blot den WEBADRESSE, som det er knyttet til. “Det er som om, vi kører efter steder hele tiden, og så ved vi ikke, hvis fordringen er stadig cirkulerer i systemet,” sagde hun. En Facebook-talsmand sagde, at selskabet ikke har “machine-learning drevet lighed opdagelse processer på plads til at fange to eksemplarer hoaxes.” I et blog-indlæg, der blev offentliggjort i juni, og som berører denne nye teknik, Facebook hævdede, at “en brik i Frankrig debunked den påstand, at du kan spare en person, som har et slagtilfælde ved at bruge en nål til at punktere deres finger og trække blod. Dette gav os mulighed for at identificere over 20 domæner, og over 1.400 links spredning, der samme krav.”
Det er uklart, om det er sofistikeret nok til at undersøge alle tilsvarende falske påstande fra forskellige domæner på internettet—men dets eksistens point til bredden af, hvad disse forhold-brikker er oppe imod. “Det er ligesom en whack-a-mole-spil,” Mendoza sagde, at karakterisere den indsats, der kræves for at holde op med disse fly-by-night hjemmesider, som er bestandigt dukker op på Facebook.
Chetwynd sagde, at “Hvad alle ønsker fra Facebook er en forbedring i kvaliteten af den information, kvaliteten af den misinformation, bliver signaleret til os,” hentyder til en forbedret markering af systemet for misinformation spredes på den platform. “Det er noget, de er stadig virkelig kæmper for at give os.”
“Vi er frenemies,” Mendoza sagde med henvisning til organisationens forhold til Facebook.
Gennemsigtighed er ikke en ophøjet spørge. Det faktum-brikker er effektivt at bede om dokumentation for, at det arbejde, de gør, er at gøre en forskel. Og når det omhyggelige arbejde—et arbejde, der for nogle fører til en litani af hade-beskeder og dødstrusler—det er langt fra et kompromis.
At tage ansvar
På en global skala, fact-kontrol partnerskab er måske en af Facebook ‘ s største selv-erklærede løsninger til udstedelse af misinformation på sin platform. Snarere end at udvikle en dedikeret in-house team til at løse problemet, Facebook har pådraget sig ud af problemet. Holan synes, det var smart. “Facebook har skabt platformen og forstår, hvordan platformen fungerer, og vi er det faktum-brikker, og vi fact-check indholdet,” sagde hun. (Selv om det kan hævdes, at Facebook virkelig ikke får hvordan dens platform fungerer.)
“Jeg tror ikke, vi kommer til at nå en tilstand af perfektion med ingen misinformation online,” Holan sagde, med henvisning til den menneskelige natur. Men hun sagde, at hun mener, tech platforme er begyndt at forstå, at de har kontrol over, hvilken type af oplysninger, der kan formere sig. “Jeg tror, at Alex Jones ting, der er sket … [for nylig],” Holan sagde, “hans indhold bliver fjernet fra platforme er meget interessant og et vendepunkt af platforme accept af den rolle, som de har som dørvogtere.”
Har du oplysninger om Facebook ‘ s fact-kontrol indsats? E-mail mig: melanie.ehrenkranz@gizmodo.com