Nye politik til at håndtere indhold, der kunne brændstof vold kan være velmenende, men kompleksiteten af opgaven er ufatteligt
@oliviasolon
Fre 20 Jul 2018 01.17 BST
Sidst opdateret Fre 20 Jul 2018 02.45 BST
Facebook står over for en særlig udfordring i WhatsApp, som er farlige rygter spredes via krypterede meddelelser.
Foto: Christophe Morin/IP3/Getty Images
Facebook har haft problemer med sin rolle i spredning af falske nyheder og misinformation, som i et par år, men en bølge af vold fra pøbelen i Indien, Sri Lanka og i Myanmar har ansporet til det sociale netværk i en knee-jerk politiske forandringer.
Indtil nu, at Facebook har beskæftiget sig med misinformation ved at gøre det mindre fremtrædende i folks news feeds. I denne uge, at selskabet meddelte, at det ville begynde at slette urigtige eller vildledende oplysninger, der er skabt eller delt “med det formål at bidrage til eller forværre vold eller fysisk skade”.
På baggrund af det, det virker som en rimelig og velmenende politik. Men den letteste forhør afslører en mind-bogglingly komplekse og utaknemmelig opgave.
Mark Zuckerberg ‘ s bemærkninger om Holocaust-benægtelse ‘uansvarligt’
Læs mere
Hertil kommer, at de succeser, vil blive undermineret af det faktum, at meget af den inflammatoriske misinformation i det Sydlige Asien er ved at blive spredt via Facebook ‘ s søster platform WhatsApp, hvor kryptering gør indhold moderation umuligt.
De politiske ændringer vil først blive gennemført i Sri Lanka, hvor skadelige usandheder om den platform, som den påstand, at Muslimer var ved at lægge til sterilisering piller i fødevarer, der er bestemt for landets Singalesiske flertal, har skabt optøjer, vold og ødelæggelse af moskeer og Muslimske-ejede virksomheder. Sri Lankas regering midlertidigt blokeret Facebook tjenester i Marts i et forsøg på at afdramatisere situationen.
Facebook sagde, at det var at arbejde med lokale grupper i civilsamfundet til at identificere, hvilket indhold der kan bidrage til at gøre fysisk skade. Når virksomheden har kontrolleret, at oplysningerne er urigtige, og kan være en medvirkende faktor til at “overhængende” vold eller skade på fysisk sikkerhed, Facebook vil tage det ned.
Sidste måned, selskabet sagde, det fjernede indhold, hvoraf det fejlagtigt hævdede, at Muslimer var forgiftning mad. Firmaet vil ikke afsløre det præcise indhold, den havde fjernet, eller navnene på de grupper i civilsamfundet var det at arbejde med. En repræsentant fra Center for Policy Alternatives, en af de mere højrøstede grupper i civilsamfundet i Sri Lanka, sagde: “Dette er ikke noget, vi blev fortalt om.”
Selv om Facebook revner misinformation om de vigtigste platform, det er et tricky problem på sine hænder med WhatsApp
Den politiske udmelding synes at have været, styrtede ud for at give nogle “nyheder” for snesevis af ikke-AMERIKANSKE journalister, som Facebook var fløjet ind fra Europa, Asien og latinamerika for en dag-lang media event på selskabets Menlo Park headquarters på onsdag.
Dette kunne forklare, hvorfor Facebook repræsentanter var ikke i stand til at besvare spørgsmål om detaljerne i den politik, som virksomheden har planer om at rulle ud i de kommende måneder. Hvad er grænsen for vold? En punch? Brandstiftelse? En lynchning? Vil det med tilbagevirkende kraft slette hoaxes som Pizzagate at boble op til måneder, før nogen skyder en pistol i en pizza parlour? Vil Facebook udskyde til grupper i civilsamfundet på alle sider? Hvis ja, hvad vil det gøre, hvis der ikke er enighed?
Ud over de praktiske muligheder for at gennemføre den politik, en af de mest iøjnefaldende udfordringer ser ud til at være, hvordan Facebook vil vide, om deres handlinger er virkelig med til at mindske volden.
“Du vil aldrig vide, at den skade du forhindre,” siger Joan Donovan fra Data og Samfund. “Det er en umådelig sejr og umulig at vurdere.”
Stadig, selv i sin messy form, opdateringen er blevet hilst velkommen af dem, der har vokset frustrerede over, at Facebook ‘ s passivitet i navn af ytringsfriheden.
“Dette er et positivt skridt fremad,” sagde Claire Wardle, der er research fellow ved Shorenstein Center for Medier, Politik og Offentlig Politik på Harvard, der har specialiseret sig i at sprede misinformation. “Det har været et wake-up-call i den sidste seks måneder for at se, hvordan rygterne er eskalerende i den virkelige verdens vold.”
“Det betyder ikke, at det kommer til at blive let. Det er massivt kompleks, og jeg håber, at de arbejder meget tæt sammen med lokale grupper i civilsamfundet og leje moderation stab af mennesker, der taler det lokale sprog,” tilføjede hun.
Mens grupper i civilsamfundet kan identificere indhold, der kan tilskynde til vold, de ikke har adgang til Facebook ‘ s sociale graf.
“Facebook kender de måder denne misinformation rejser,” siger Donovan. “Det ved, at der er nav og eger. Det nødt til at bruge sine egne data og investere i de grupper, som kan hjælpe dem til at forstå rammerne af deres data til spot faktiske manipulation og forpurre disse konti.”
Selv om Facebook revner misinformation om de vigtigste platform, det er et tricky problem på sine hænder med WhatsApp, hvor meget af de mest farlige rygte-mongering i det Sydlige Asien finder sted. WhatsApp beskeder har end-to-end kryptering, hvilket betyder, at Facebook ikke kan se eller moderat deres indhold.
I lande som Sri Lanka, Indien, folk bruger messaging app forskelligt fra den typiske Amerikanske. Brugerne vil deltage i grupper med mere end 100 deltagere (WhatsApp caps grupper på 256 medlemmer), der anvendes til at sende og drøfte lokale forhold – og misinformation.
“Netværk er som en honeycomb, med politiske agenter med 10-20 telefoner netværks-i alle de forskellige grupper. De vil starte en brand i hver af disse grupper, og så er der andre politiske agenter vil videresende meddelelsen til andre grupper,” siger Donovan.
“Fordi kontakten er ikke algoritmisk, men menneskelige, det betyder, at Facebook i realiteten forsøger at politiet menneskelige adfærd,” sagde hun.
Pankaj Jain, der kører Indisk kontrol websted SM Hoax Slayer dedikeret til debunking falske nyheder online, sagde, at WhatsApp blev “naturligvis” værre end Facebook til at sprede misinformation. Han sagde, at dette var til dels fordi messaging app var så let at bruge, og havde den største rækkevidde blandt landdistrikterne, og dels fordi data afgifter var så lav.
Hans tredje årsag vedrører et grundlæggende personlige funktion i appen. “Mennesker, der skaber og sprede falske nyheder er klar over, at de ikke kan spores, så WhatsApp er deres første valg for falske nyheder.”
Harssh Poddar, en højtstående politimand i byen Malegaon i den Indiske stat Maharashtra, der har beskæftiget sig med gruppevold af ubegrundet frygt over barnet, kidnapninger, der er aftalt. Men han bemærkede, at det nye Facebook politik, der kunne være nyttige på at eliminere en del af den kilde, videoer og memer, der bliver delt via WhatsApp, kvæle dem i fødslen.
“Det ville gøre en forskel, i det omfang, at det kan dæmpe nogle af de kilder, hvorfra disse sminket videoer eller falske nyheder spreder sig,” Poddar sagde.
Poddar, der har kørt sine egne medier, alfabetisering i Malegaon, ønsker Facebook til at være mere lydhøre over for ønsker fra de lokale retshåndhævende myndigheder for at hjælpe med at identificere sædvanlige lovovertrædere på WhatsApp.
WhatsApp talsmand, Carl Woog, taler på Facebook media begivenhed, beskrevet af vold i Sri Lanka og Indien som “rædselsvækkende”.
Værge henblik på at kontrollere de sociale medier: begyndelsen på en lang vej | Redaktionen
Læs mere
“Det har været virkelig forfærdeligt at se på, og vores hjerter er blevet brudt af, hvad vi har set,” sagde han.
Virksomheden har kørt annoncer i Indiske medier og arbejder med grupper i civilsamfundet til at køre træning på misinformation og digitale færdigheder. App ‘ en har også indført en ny etiket for videresendte meddelelser, som fremhæver, at et element af indhold har ikke været oprindeligt komponeret af afsenderen.
“Vi tager det meget alvorligt,” sagde Woog. “Men der er begrænsninger.”
Uden adgang til indholdet af WhatsApp beskeder, Facebook skal fokusere på de metadata, herunder telefon-id, IP-adresser, og hvordan overføres meddelelser mellem medlemmer af forskellige grupper, og der er influencers.
“Vi kommer til at se en masse af bevægelser [Facebook],” Wardle sagde: “som de har indset, WhatsApp er deres akilleshæl.”