Det sociale netværk har forpligtet sig til at arbejde hårdere for at identificere og fjerne forstyrrende indhold – men det kan tage en psykologisk toll
“Mennesker kan være stærkt påvirket … er det ikke klart, at Facebook er selv opmærksomme på de langsigtede resultater,” siger en ekspert.
Foto: Chris Jackson/Getty Images
Facebook er ansættelse af redaktører. Men er det en opgave for grusomme til at håndtere?
Det sociale netværk har forpligtet sig til at arbejde hårdere for at identificere og fjerne forstyrrende indhold – men det kan tage en psykologisk toll
@oliviasolon
Torsdag 4. Maj 2017 10.00 BST
Sidst opdateret torsdag den 4 Maj 2017 10.01 BST
Har du nogensinde ønsket at arbejde for Facebook? Mark Zuckerberg har netop annonceret 3.000 nye job. Fangsten? Du bliver nødt til at gennemgå anstødeligt indhold på platformen, som for nylig afholdt live-streamede optagelser af mord, selvmord og voldtægt.
I sin meddelelse, Zuckerberg viste, at selskabet allerede har 4.500 mennesker over hele verden arbejder i sin “ef-team”, og at den nye lejer bidrage til at forbedre den revisionsproces, som er kommet under beskydning for både uhensigtsmæssigt at censurere indhold og undlade at fjerne ekstreme indhold hurtigt nok. Bare i sidste uge selskabet venstre optagelser af en Thailandsk mand dræbt sin 11-måneder gamle datter på Facebook Live på platformen for en hel dag.
I stedet for at granske indholdet, før det uploades, Facebook er afhængig af brugere af det sociale netværk til at rapportere upassende indhold. Moderatorer derefter gennemgå de indberettede poster hundredvis hvert skift – og fjerne dem, hvis de bliver ofre for Facebook ‘ s standarder. Facebook tillader ikke nøgenhed (herunder kvinder, men ikke mænd, brystvorter), hadefulde eller herliggjort vold.
Facebook nægtede at give nogen yderligere detaljer om karakteren af de nye roller, herunder jobbeskrivelse, om de ville være medarbejdere eller entreprenører, eller hvor de ville være baseret på. Dog, én ting er klar: et sådant arbejde er anstrengende, og eksperter siger, kan føre til psykiske traumer.
Live og død: Facebook har hårdt brug for et reality check om video
Læs mere
“Folk kan være meget påvirket og følsomme. Det er ikke klart, at Facebook er selv opmærksomme på de langsigtede resultater, never mind, tracking, at den mentale sundhed,” sagde Sarah T Roberts, en informationsvidenskab professor fra UCLA, der studerer store moderation af online platforme.
Hvis disse roller er udliciteret til entreprenører, det vil være endnu sværere for Facebook til at overvåge moderatorer ” arbejdsvilkår og psykisk sundhed, sagde hun.
I januar, moderatorer i lignende roller på Microsoft sagsøgt selskabet med påstand om, at eksponering til billeder af “ubeskrivelig seksuelle overgreb” og “frygtelig brutalitet” resulterede i alvorlige post-traumatisk stress disorder (PTSD).
Gentagen eksponering for ekstreme indhold, der kan føre til “sekundære traumer”, som er en tilstand, svarende til PTSD, men vidnet er at kigge på billeder af, hvad der skete i stedet for at blive traumatiseret sig selv.
“Symptomerne er de samme, og omfatter hypervigilance,” sagde Lisa Perez, lektor i psykologi ved Minnesota State University, der har undersøgt sekundære traumatisk stress og udbrændthed blandt lov håndhævelse efterforskere udsat for forstyrrende medier billeder.
Efterforskere af børnepornografi, for eksempel, vil være yderst mistænksom over for mennesker at interagere med børn, især deres egen. Visning foruroligende seksuelle billeder kan også skabe problemer i seksuelle og ægteskabelige forhold.
For retshåndhævelse, der er en bagside: den viden, at de arbejder på at få dårlige mennesker fra gaden. “Mens de har denne følelsesmæssig udmattelse og udbrændthed, de har tendens til at være meget tilfredse med deres job, og finde dem at være meningsfuld,” sagde Perez.
Facebook Mark Zuckerberg på video drab: “Vi har en masse arbejde at gøre”
Det er ikke klart, hvordan Facebook moderatorer vil få den samme tilfredsstillelse. Selv om det er dybt foruroligende at se, er det ikke ulovligt at dele halshugning videoer på platformen. At fjerne indhold, der ikke gør meget for at løse gerningsmanden afbildet handle, selv om det ikke skjold, at andre kan se det.
Moderatorer kan også være nødvendigt at foretage vurderinger om selvmordstanker enkeltpersoner. Facebook tester kunstig intelligens som en måde at afsløre kommentarer vejledende for selvmordstanker, men de er stadig anmeldt af mennesker.
“Vi har haft situationer, hvor vi har bogstaveligt talt folk ud over kanten af bygninger,” sagde Peter Friedman, den administrerende direktør for LiveWorld, som giver moderation service til de store mærker. Alle, som håndterer sådanne interaktioner behov for at være højt uddannet, med klare processer til at følge for at eskalere hændelser, i tilfælde af en nødsituation, tilføjede han.
Jeg er en ex-Facebook exec: ikke tror på, hvad de fortæller dig om annoncer
Læs mere
Ud over de psykologiske vejafgift moderatorer ansigt, der er en enorm byrde, dom: de er nødt til at skelne mellem børnepornografi og ikoniske Vietnam-krigen fotos, mellem forherligelse af vold og risikoen for, at krænkelser af menneskerettighederne. Beslutninger skal være nuanceret og kulturelt kontekstualiseres eller Facebook vil blive beskyldt for at krænke ytringsfriheden.
“Kan du have en situation, hvor de ord, der indtastes af brugeren, er nøjagtig den samme, men den ene er en afslappet joke, og den anden er en alvorlig ting, der skal optrapning,” sagde Friedman. “Det kræver intuition og menneskelig vurdering. Algoritmer kan ikke gøre det.”
I betragtning af de enorme udfordringer, der er forbundet med disse roller, Facebook bliver nødt til at holde et vågent øje med processen og sikre, at moderatorerne har uddannelse og psykologisk støtte til at håndtere foruroligende indhold.
Microsoft retssagen skitseres nogle konkrete anbefalinger til, hvordan moderatorer skal behandles, herunder rotationer ud af programmet, obligatoriske møder med en psykolog, der er specialuddannet til at genkende traumer og en ægtefællebidrag wellness-program.
En Facebook talskvinde sagde, at selskabet anerkender, at det arbejde kan ofte være svært, og at hver person er tilbydes psykologisk støtte-og wellness-ressourcer. Selskabet sagde, at det også er et program i stedet til formål at støtte mennesker i disse roller, som evalueres årligt. Facebook, der tilbydes ikke yderligere oplysninger om karakteren af den støtte eller uddannelse.