Facebook har en plan för att döda farliga falska nyheten är ambitiös – och kanske omöjligt

Ny politik för att hantera innehåll som skulle kunna underblåsa våld kan vara välmenande, men komplexiteten i uppgiften är mind-boggling

@oliviasolon

E-post

Fre 20 Jul 2018 01.17 BST

Senast ändrad Fre 20 Jul 2018 02.45 BST

zuckerberg

Facebook står inför en särskild utmaning i WhatsApp, som farliga rykten sprids genom krypterade meddelanden.
Foto: Christophe Morin/IP3/Getty Images

Facebook har brottats med sin roll i att sprida falska nyheter och desinformation för ett par år, men med en skur av mob våld i Indien, Sri Lanka och burma / Myanmar har drivit på sociala nätverk till en reflexmässig förändring av politiken.

Tills nu, Facebook har arbetat med desinformation genom att göra det mindre framträdande i människors nyhetsflöden. Den här veckan meddelade företaget att det skulle börja att ta bort felaktiga eller vilseledande information som skapas eller delat “med syfte att bidra till eller förvärra våld eller fysisk skada”.

På framsidan av det, det verkar som en rimlig och välmenande politik. Men, den lättaste förhör avslöjar ett sinne osannolikt komplicerade och otacksam uppgift.

Mark Zuckerberg kommentarer om förnekande av Förintelsen ‘oansvarigt’

Läs mer

Dessutom några framgångar kommer att undergrävas av det faktum att mycket av den inflammatoriska desinformation i Södra Asien sprids via Facebook syster plattform WhatsApp, där kryptering gör innehåll måtta omöjligt.

Den politiska förändring som först kommer att genomföras i Sri Lanka, där skadliga lögner om plattformen, såsom påståendet att Muslimer var att sätta steriliserings-piller i livsmedel avsedda för landets Singalesiska majoritet, har underblåst upplopp, misshandel och förstörelse av moskéer och Muslimska-ägda företag. Sri Lankas regering tillfälligt blockerat Facebook tjänst i Mars i ett försök att desarmera situationen.

Facebook sade att det var att arbeta med lokala grupper i det civila samhället för att ta reda på vilket innehåll kan bidra till fysisk skada. När företaget har kontrollerat att informationen är falsk och kan vara en bidragande faktor till “nära förestående” våld eller skada på fysisk säkerhet, Facebook kommer att ta ner den.

Förra månaden, sade företaget, bort innehåll som felaktigt påstod att Muslimer var förgiftning av livsmedel. Företaget vill inte avslöja den exakta innehåll det hade tagit bort, eller namnen på de grupper i det civila samhället det var att arbeta med. En representant från Centrum för Politiska Alternativ, en av de mer högljudda grupper i det civila samhället i Sri Lanka, sade: “Detta är inte något vi fick höra om.”

Även om Facebook sprickor desinformation om sin främsta plattform, det har ett svårare problem på egen hand med WhatsApp

Penningpolitiska beslut verkar ha varit rusade ut för att ge några “nyheter” för massor av icke-AMERIKANSKA journalister som Facebook hade flugit in från Europa, Asien och latinamerika för en dag-lång media event på företagets högkvarter i Menlo Park på onsdagen.

Detta skulle kunna förklara varför Facebook representanter inte kunna svara på frågor om detaljerna i politiken, som företaget planerar att rulla ut under de kommande månaderna. Vad är tröskeln för våld? En punch? Mordbrand? En lynchning? Kommer det i efterhand ta bort bluffar som Pizzagate att bubbla upp till månader innan någon skjuter en pistol i en pizzeria? Kommer Facebook skjuta till grupper i det civila samhället på alla sidor? Om så är fallet, vad kommer den att göra om det inte finns någon konsensus?

Utöver praktiska åtgärder för att genomföra politiken, en av de mest uppenbara utmaningar verkar vara hur Facebook kommer att veta om dess åtgärder är verkligen bidrar till att minska våldet.

“Du kommer aldrig att få veta förhindra skada dig,” sade Joan Donovan från Data och Samhället. “Det är en omätlig vinna och omöjligt att utvärdera.”

Fortfarande, även i dess rörigt form, uppdateringen har varit välkomnas av dem som har vuxit frustrerad av Facebook: s passivitet i namn av yttrandefrihet.

“Detta är ett positivt steg framåt”, säger Claire Wardle, forskarassistent vid Shorenstein Center på Media, Politik och Offentlig Politik vid Harvard som specialiserar sig på spridning av felaktig information. “Det har varit ett wake-up call under de senaste sex månaderna för att se hur rykten är ökande i verkliga våld.”

“Det betyder inte att det kommer att bli lätt. Det är enormt komplex och jag hoppas att de har ett mycket nära samarbete med lokala grupper i det civila samhället och hyra måtta stab av människor som talar olika språk”, tillade hon.

Medan det civila samhället kan identifiera innehåll som kan uppmuntra till våld, att de inte har tillgång till Facebook social graph.

“Facebook vet hur denna desinformation resor, säger Donovan. “Det vet att det är nav och ekrar. Det måste använda sina egna data och investera i de grupper som kan hjälpa dem att förstå sammanhang av sina uppgifter att upptäcka faktiska manipulation och motarbeta dessa konton.”

Även om Facebook sprickor desinformation om sin främsta plattform, det har ett svårare problem på egen hand med WhatsApp, där mycket av de farliga rykten-mongering i Södra Asien sker. WhatsApp meddelanden har end-to-end-kryptering, vilket innebär att Facebook inte kan se eller måttlig deras innehåll.

På platser som Sri Lanka och Indien, som människor använder appen meddelanden på olika sätt från typisk Amerikansk. Användarna kommer att ansluta sig till grupper med fler än 100 deltagare (WhatsApp caps grupper på 256 medlemmar), som används för att sända och diskutera lokala frågor – och desinformation.

“Nätverk är som en honungskaka, med politiska agenter med 10-20 telefoner nätverk i alla olika grupper. De kommer att starta en eld i var och en av dessa grupper och andra politiska agenter kommer att vidarebefordra meddelandet till andra grupper, säger Donovan.

“På grund av att byta är inte algoritmisk men mänskliga, det innebär att Facebook är försöker polisen mänskligt beteende,” sade hon.

Pankaj Jain, som driver Indiska kontroll webbplatsen SM Hoax Slayer dedikerade till att avslöja falska nyheter på nätet, sade att WhatsApp var “självklart” värre än Facebook för att sprida desinformation. Han sade att detta var delvis på grund av att appen meddelanden var så enkelt att använda och hade den största räckvidd bland landsbygden, och delvis på grund av att data avgifter var så låga.

Hans tredje skälet handlar om en grundläggande integritets-funktionen i appen. “Människor som kan skapa och sprida falska nyheter är medvetna om att de inte kan spåras så att WhatsApp är deras första val för falska nyheter”.

Harssh Poddar, en högre polistjänsteman i staden Malegaon i den Indiska delstaten Maharashtra som har handlat med pöbeln som utlöses av ogrundad rädsla över barn kidnappningar, kommit överens om. Men han konstaterade att den nya Facebook politik kan vara bra till att eliminera en del av källa video och memer som delas via WhatsApp och kväva dem i sin linda.

“Det skulle göra en skillnad i den mån det kan dämpa några av de källor där dessa fiffla videor eller falska nyheter sprider sig,” Poddar sagt.

Poddar, som har varit igång sin egen media literacy utbildning i Malegaon, skulle vilja ha Facebook för att vara mer lyhörda för önskemål från lokala lag för att hjälpa till att identifiera vanliga brottslingar på WhatsApp.

WhatsApp talesman, Carl Woog, att tala på Facebook media event, som beskrivs våldet i Sri Lanka och Indien som “fruktansvärd”.

The Guardian visa på att kontrollera sociala medier: i början av en lång road | Redaktionen

Läs mer

“Det är verkligen hemskt att titta på och att våra hjärtan har brutits av vad vi har sett”, sade han.

Bolaget har varit igång annonser i Indiska medier och arbetar med grupper i det civila samhället för att köra träning på felaktig information och digital kompetens. Appen har också infört en ny etikett för vidarebefordrade meddelanden som belyser att en punkt av innehåll har inte varit ursprungligen består av avsändaren.

“Vi tar det här på allvar”, sade Woog. “Men det finns begränsningar.”

Utan tillgång till innehållet i WhatsApp meddelanden, Facebook måste fokusera på metadata, inklusive telefon kännetecken, IP-adresser och hur meddelanden mellan medlemmar av olika grupper, och som påverkare.

“Vi kommer att se en hel del rörelser [Facebook],” Wardle sade, “eftersom de har insett att WhatsApp är deras akilleshäl.”


Date:

by