Billede: AP Photo/Paul Sakuma
Facebook har et problem. Ikke en, hvor de indrømmede, at være en megafon for propaganda og psy-ops. Eller en, hvor de narced på udsatte teenagere. Nej, dagens nyhed handler om, hvordan den sociale gigant/massive indsamling af data ordningen har (i stigende grad) blive en uvillig platform for brugerne at sende voldelige forbrydelser, seksuelle handlinger, udnyttelse af børn, og selvmord.
I et indlæg tidligere i dag, Mark Zuckerberg lovet, at der over de næste år, at Facebook vil være “tilføjer 3.000 mennesker til at vores samfund operationer hold i verden—på toppen af 4,500 vi har i dag, for at gennemgå millioner af rapporter vi får hver uge, og forbedre processen for at gøre det hurtigt.” Den 32-årige administrerende DIREKTØR også lovet at bygge yderligere rapportering værktøjer, så Facebook kan brugerne bedre at bistå virksomheden i at tage ned offensiv videoer.
På det ansigt, det er prisværdigt, at Facebook ville løse dette problem ved effektivt at fordoble sit folk ops team, især da der er nogle beviser, der tyder på selvmord kan føre til en “smitte” af efterfølgende selvmord. Mærkbart fraværende i Zuckerberg ‘ s indlæg, men der er ingen konkrete detaljer om de beskæftigelsesmæssige status, uddannelse eller støtte disse 3.000 nye team medlemmer vil modtage.
Indberetning gennem årene har vist, at mange af de største virksomheder outsource deres moderation hold, så lavtlønnede internationale arbejdstagere, der måske ikke har indgående viden om OS sociale skikke—se de værste indlæg, dag ind og dag ud. Visning af mord og selvmord til måneder eller år på at ende kan forårsage moderatorer til at udvikle sig meget reelle psykiske problemer, og i flere tidligere moderatorer jeg har talt med, har hævdet at lide af PTSD efter sigtning gennem troves af voldelige indhold og hadefuld tale, eller selv at blive genstand for chikane af brugere.
Hvis, som det kan være tilfældet, at de ansatte Facebook har til hensigt at leje med det ene formål at fjerne sine mest oprørende videoer er entreprenører snarere end medarbejdere, virksomheden må ikke være forpligtede til at sørge for sygesikring, endsige rådgivning.
Facebook, som mange andre sociale netværk, har to sæt regler: det brede kære brugere er indviet i, og kornet dem moderatorer fortalte at håndhæve. Uigennemsigtighed i politik og gennemsigtighed i uddannelse både føre til, at hændelser som Facebook mindeværdige brøler af at trække ned en Pulitzer-vindende foto fra Vietnam-krigen, og kun gendanne det, når ramaskrig nået til et crescendo. Grafiske mord og selvmord er intuitivt at forstyrre i enhver kultur, men ud over disse mest ekstreme eksempler, uddannelse moderatorer til at være effektiv kræver tid og ressourcer de fleste virksomheder ikke er interesseret i at investere i.
En Facebook-talsmand fortalte Gizmodo, at de “ikke har flere detaljer, der skal deles ud over Mark’ s indlæg at videregive på dette tidspunkt,” men, at selskabet tilbyder støtte til dem, der gennemgår, platform indhold. På balance, færre muligheder for at udsende disse typer af videoer er en positiv, men husk det er sandsynligvis på den dyre 7.500 andre menneskers mentale sundhed et sted halvvejs over hele verden.