Bild: AP Photo/Paul Sakuma
Facebook har ett problem. Inte en där de tas upp till att vara en megafon för propaganda och psy-ops. Eller en där de narced på at-risk ungdomar. Nej, dagens nyheter handlar om hur den sociala jätten/omfattande system för insamling av data har (allt) bli en ovillig plattform för användare att sända våldsbrott, sexuella handlingar, utnyttjande av barn, och till och med självmord.
Annons
I ett inlägg tidigare idag, Mark Zuckerberg lovat att under nästa år, Facebook kommer att “lägga till 3.000 människor till vår gemenskap operations team runt om i världen—på toppen av 4,500 vi har idag—att granska miljontals rapporter vi får varje vecka, och förbättra processen för att göra det snabbt.” Den 32-årige VD lovade också att bygga kompletterande rapportering verktyg så att Facebook användare kan bättre hjälpa företaget att ta ner stötande videoklipp.
Om det är ansikte, det är lovvärt Facebook skulle ta itu med detta problem genom att effektivt fördubbla sitt folk ops laget, särskilt eftersom det inte finns några bevis som tyder på självmord kan leda till en “smitta” av efterföljande självmord. Märkbart frånvarande i Zuckerberg inlägg, dock finns några konkreta uppgifter om anställningar, utbildning eller stöd till dessa 3 000 nya medarbetare kommer att få.
Rapportering under åren har visat att många av de största företagen lägger ut sina måtta lag, att låta lågavlönade internationella arbetstagare som kanske inte har kännedom om OSS i sociala sedvänjor—visa sämsta inlägg, dag in och dag ut. Visning mord och självmord i månader eller år på slutet kan orsaka moderatorer att utvecklas mycket verkliga psykologiska problem, och flera före detta moderatorer som jag har pratat med har hävdat att de lider av PTSD efter siktning genom troves av våldsamma innehåll och hatiska uttalanden, eller att själva bli föremål för trakasserier av användare.
Om, som kan vara fallet, den arbetstagare som Facebook har för avsikt att anställa för syftet att ta bort dess mest upprörande filmer är entreprenörer snarare än personal, kan bolaget inte skyldig att tillhandahålla sjukförsäkring, för att inte tala rådgivning.
Facebook, som många sociala nätverk som har två uppsättningar regler: det breda och kära användare är invigt, och granulat och kära moderatorer berättade att genomdriva. Opacitet i politik och opacitet i utbildning som både leder till incidenter som Facebook minnesvärda tabbe av att dra ner ett Pulitzer-vinnande fotografi från Vietnam-kriget, och bara återställa det när offentliga protester nådde ett crescendo. Grafiska mord och självmord är intuitivt upprörande i någon kultur, men utöver dessa mest extrema exempel, utbildning moderatorer för att vara effektiv krävs tid och resurser för de flesta företag är inte intresserade av att investera i.
Sponsrade
En Facebook talesperson berättade Gizmodo att de “inte har någon mer information att dela bortom Mark’ s inlägg att passera vid denna tid,” men att företaget som erbjuder stöd till dem som granskar plattformens innehåll. På balans, färre möjligheter för den som sänder dessa typer av videor är en positiv, men kom ihåg att det är sannolikt den dyraste av 7,500 andra människors psykiska hälsa någonstans halvvägs runt om i världen.