Ny politikk for å håndtere innhold som kan drivstoff vold kan være velmenende, men kompleksiteten i oppgaven er mind-boggling
@oliviasolon
E-post
Fre 20 Juli 2018 01.17 BST
Sist endret på Fredag 20 Jul 2018 02.45 BST
Facebook står overfor en særlig utfordring i WhatsApp, på som farlige rykter spres via krypterte meldinger.
Foto: Christophe Morin/IP3/Getty Images
Facebook har vært stri med sin rolle i å spre falske nyheter og desinformasjon for et par år, men en flom av mob vold i India, Sri Lanka og Myanmar har påvirket det sosiale nettverket til en kne-jerk politisk endring.
Inntil nå, Facebook har jobbet med desinformasjon ved å gjøre det mindre fremtredende i folks nyheter. Denne uken, annonserte selskapet at det ville begynne å slette uriktige eller villedende opplysninger som er opprettet eller delt “med det formål å bidra til eller forverre vold eller fysisk skade”.
På forsiden av det, det virker som en rimelig og velmenende politikk. Men den letteste avhør avslører et sinn-bogglingly komplekse og utakknemlig oppgave.
Mark Zuckerberg er tale om Holocaust-fornektelse ‘uansvarlig’
Les mer
I tillegg, noen suksesser vil bli undergravd av det faktum at mye av inflammatorisk feilinformasjon i Sør-Asia blir spredt gjennom Facebook ‘ s søster plattform WhatsApp, hvor kryptering gjør innhold moderering umulig.
Den politiske endringen vil først bli gjennomført i Sri Lanka, der pernisiøs usannheter på plattformen, for eksempel den påstanden, at Muslimer var å sette sterilisering piller til mat som er ment for landets Sinhalese fleste, har nøre opp under opptøyene, slag og ødeleggelse av moskeer og Muslimske-eide bedrifter. Sri Lankas regjering midlertidig blokkert Facebook tjenester i Mars i et forsøk på å ufarliggjøre situasjonen.
Facebook sa det var å arbeide sammen med lokale sivile samfunn grupper for å identifisere innhold som kan bidra til fysisk skade. Når selskapet har bekreftet at informasjonen er usann, og kan være en medvirkende faktor til “overhengende” vold eller skade på fysisk sikkerhet, Facebook vil ta det ned.
Siste måned, selskapet er sagt, er det fjernet innhold som feilaktig hevdet at Muslimer ble forgiftet mat. Selskapet ville ikke avsløre det eksakte innholdet den hadde fjernet, eller navnene på de sivile samfunnet grupper det var å jobbe med. En representant fra Sentrum for Politiske Alternativer, en av de mer vokal sivilsamfunnsgrupper i Sri Lanka, sa: “Dette er ikke noe vi ble fortalt om.”
Selv om Facebook sprekker feilinformasjon på sin viktigste plattformen, det er et mer komplisert problem på sine hender med WhatsApp
Politikken kunngjøringen ser ut til å ha blitt kjørt ut til å gi noen “nyheter” for dusinvis av ikke-AMERIKANSKE journalister som Facebook hadde fløyet inn fra Europa, Asia og Latin-Amerika for en dag-lenge medier hendelse på selskapets Menlo Park-hovedkvarteret på onsdag.
Dette kan forklare hvorfor Facebook representanter var ikke i stand til å svare på spørsmål om detaljene i politikken, som selskapet har planer om å rulle ut i løpet av de kommende måneder. Hva er terskelen for vold? Et slag? Nice? En lynsjing? Vil det med tilbakevirkende kraft slett svindel som Pizzagate at boble opp i flere måneder før noen skyter en pistol i en pizza dagligstue? Vil Facebook utsett til det sivile samfunn grupper på alle sider? Hvis så, hva vil det gjøre hvis det er ingen konsensus?
Utover det praktiske med å implementere politikk, en av de mest åpenbare utfordringene ser ut til å være hvordan Facebook vil vite om dens handlinger er virkelig bidra til å redusere vold.
“Du vil aldri vite hindre skade deg,” sa Joan Donovan fra Data og Samfunn. “Det er en grenseløs vinne og umulig å vurdere.”
Likevel, selv i sin rotete form, oppdatering har blitt ønsket velkommen av de som har vokst frustrert av Facebook er passivitet i navnet av ytringsfriheten.
“Dette er et positivt skritt framover,” sa Claire Wardle, en stipendiat ved Shorenstein Center på Media, Politikk og Offentlig Politikk ved Harvard som spesialiserer seg i å spre feilinformasjon. “Det har vært en wake-up call i de siste seks måneder for å se hvordan ryktene er økende i den virkelige verden vold.”
“Det betyr ikke at det kommer til å bli lett. Det er utrolig komplekst, og jeg håper de arbeider svært tett med lokale sivile samfunn grupper og leie moderering stab av folk som snakker lokale språk,” la hun til.
Mens det sivile samfunn grupper kan identifisere innhold som kan oppfordre til vold, at de ikke har tilgang til Facebook er sosiale graf.
“Facebook vet hvordan dette feilinformasjon reiser,” sa Donovan. “Det vet det er nav og eiker. Det er behov for å bruke sine egne data og investere i de gruppene som kan hjelpe dem til å forstå konteksten av sine egne data for å oppdage faktiske manipulasjon og avverge disse kontoene.”
Selv om Facebook sprekker feilinformasjon på sin viktigste plattformen, det er et mer komplisert problem på sine hender med WhatsApp, der mye av de farligste ryktespredning i Sør-Asia foregår. WhatsApp meldinger har ende-til-ende-kryptering, noe som betyr at Facebook ikke kan se eller moderat deres innhold.
I land som Sri Lanka og India, folk bruker meldinger-appen forskjellig fra den typiske Amerikanske. Brukere vil delta i grupper med mer enn 100 deltakere (WhatsApp caps grupper på 256 medlemmer), som brukes til å kringkaste og diskutere lokale problemer – og desinformasjon.
“- Nettverk er som en honeycomb, med politiske operatives med 10-20 telefoner nettverk til alle de ulike gruppene. De vil starte en brann i hver av disse gruppene, og deretter andre politiske operatives vil videresende meldingen til andre grupper,” sa Donovan.
“Fordi bryteren ikke er algoritmisk, men menneskelig, det betyr at Facebook i praksis er politiet prøver å menneskelig atferd,” sa hun.
Pankaj Jain, som går Indian bekreftelse nettstedet SM Hoax Slayer er dedikert til å avslørte falske news online, sa at WhatsApp var “åpenbart” verre enn Facebook for å spre feilinformasjon. Han sa at dette var delvis fordi de meldinger-appen var så lett å bruke, og hadde den bredeste nå blant bygdesamfunn, og dels fordi data anklagene var så lav.
Hans tredje grunn er knyttet til en grunnleggende personvern-funksjonen i appen. “Folk som lager og sprer falske nyheter er klar over at de ikke kan spores så WhatsApp er deres første valg for falske nyheter.”
Harssh Poddar, en høytstående tjenestemann i politiet byen Malegaon i den Indiske delstaten Maharashtra i india, som har jobbet med mob vold utløst av ubegrunnet frykt over barn kidnappinger, avtalt. Men han bemerket at den nye Facebook policyen kan være nyttig på å eliminere noen av kilden videoer og memer som blir delt gjennom WhatsApp, nipping dem i fødselen.
“Det ville gjøre en forskjell i den grad at det kan dempe noen av de kilder der disse pyntes videoer eller falske nyheter sprer seg,” Poddar sa.
Poddar, som har kjørt sin egen media literacy opplæring i Malegaon, ønsker Facebook å være mer lydhør overfor forespørsler fra lokale politimyndigheter for å hjelpe deg med å identifisere vanlig lovbrytere på WhatsApp.
Den WhatsApp talsmann, Carl Woog, snakker på Facebook medier hendelse, beskrevet vold i Sri Lanka og India som “forferdelige”.
The Guardian vise på å kontrollere sosiale medier: starten på en lang vei | Redaksjonelle
Les mer
“Det er virkelig forferdelig å se, og våre hjerter er knust av hva vi har sett,” sa han.
Selskapet har vært i drift annonser i Indiske medier og arbeider med det sivile samfunn grupper til å kjøre treninger på feilinformasjon og digital kompetanse. Appen har også innført en ny etikett for videresendte meldinger som fremhever at et element av innhold har ikke vært som opprinnelig er skrevet av avsenderen.
“Vi tar dette ganske alvorlig,” sa Woog. “Men det finnes begrensninger.”
Uten tilgang til innholdet på WhatsApp meldinger, Facebook må fokusere på metadata, inkludert telefon identifikatorer, IP-adresser og hvordan meldinger flyt mellom medlemmer av ulike grupper, og som er påvirkere.
“Vi kommer til å se mye av bevegelser [Facebook],” Wardle sa, “som de har innsett WhatsApp er deres akilleshæl.”