En sikkerhed bortfalder, som berørte mere end 1.000 arbejdere tvunget en moderator til at skjule – og han lever i konstant frygt for hans sikkerhed
“Jeg kan ikke gå nogen steder uden at se sig tilbage’: en moderator beskriver psykiske skader efter sine personlige oplysninger blev lækket til mistænkte terrorister han fjernet fra platformen.
Foto: Siden Ruvic/Reuters
Afsløret: Facebook udsat identiteter af moderatorer til at formodede terrorister
En sikkerhed bortfalder, som berørte mere end 1.000 arbejdere tvunget en moderator til at skjule – og han lever i konstant frygt for hans sikkerhed
@oliviasolon
Fredag den 16 juni 2017 08.09 BST
Først offentliggjort på fredag den 16 juni 2017 08.00 BST
Facebook sætte sikkerheden af dens indhold moderatorer i fare efter uforvarende komme til at afsløre deres personlige oplysninger til terrormistænkte brugere af det sociale netværk, the Guardian har lært.
Afsløret: Facebook ‘ s interne regelsæt om sex, terrorisme og vold
Læs mere
Den sikkerhed bortfalder påvirket mere end 1.000 arbejdere på tværs af 22 afdelinger på Facebook, der bruges selskabets moderation software til at gennemgå og fjerne upassende indhold fra platformen, herunder seksuel materiale, hadefuld tale og terrorpropaganda.
En fejl i den software, der blev opdaget i slutningen af sidste år, resulterede i, at de personlige profiler og indhold moderatorer vises automatisk som meddelelser i aktiviteten log af Facebook grupper, hvis administratorer blev fjernet fra den platform for overtrædelse af terms of service. De personlige oplysninger på Facebook moderatorer blev derefter ses til den resterende administratorer af gruppen.
Af de 1.000 berørte arbejdstagere, omkring 40 arbejdede i en antiterror-enhed, der er baseret på Facebook ‘ s Europæiske hovedkvarter i Dublin, Irland. Seks af disse blev vurderet til at være “høj prioritet” ofre for den fejl, efter at Facebook afsluttet deres personlige profiler var sandsynligvis set af potentielle terrorister.
The Guardian har talt med en af de seks, der ikke ønsker at blive navngivet ud af bekymring for sit og sin families sikkerhed. Den Irakisk-fødte, Irske borgere, der er i begyndelsen af tyverne, der flygtede fra Irland og gik i skjul, efter at opdage, at syv personer, der er forbundet med en mistænkt terrorist gruppe, han udelukket fra Facebook – Egypten-baseret gruppe, der støttede Hamas, sagde han, havde medlemmer, der var Islamiske Stat sympatisører – havde set på hans personlige profil.
Facebook bekræftet brud i en erklæring, og sagde, at det havde gjort den tekniske ændringer til bedre at opdage og forhindre disse typer af problemer opstår”.
“Vi er meget bevidst om at holde alle, der arbejder for Facebook sikker,” siger talsmanden. “Så snart vi hørte om de spørgsmål, vi har løst det og begyndte en grundig undersøgelse for at lære så meget som muligt om, hvad der skete.”
Moderator, der gik i skjul, var blandt hundredvis af “ef-operationer analytikere”, som optages af den globale outsourcing virksomhed Cpl Rekruttering. Ef-operationer analytikere er typisk lav-betalte entreprenører opgave med overvågning Facebook for indhold, der strider imod landets eu-standarder.
Overvældet af frygt, at han kunne tage repressalier, moderator, der først kom til Irland som asylansøger, da han var barn, sagde sit job og flyttet til østeuropa for fem måneder.
Straffen fra Isis for at arbejde i terrorbekæmpelse er halshugning. Alt, hvad de havde brug for at gøre, er at fortælle det til nogen
“Det var for farligt at bo i Dublin,” sagde han, og forklarede, at hans familie havde allerede oplevet de gruopvækkende konsekvenser af terrorisme: hans far var blevet kidnappet og slået og hans onkel er blevet henrettet i Irak.
“Den eneste grund til at vi i Irland var at flygte terrorisme og trusler,” sagde han.
Moderator sagde, at andre i høj-risiko seks havde deres personlige profiler ses af regnskaber med tilknytning til Isis, Hizbollah og Kurdistan Workers Party. Facebook er i overensstemmelse med de AMERIKANSKE state department ‘ s udpegning af terrorgrupper.
“Når du kommer fra en krigszone, og du har folk, der kan lide at vide, din familie navn, du ved, at folk bliver slagtet for det,” sagde han. “Den straf fra Isis for at arbejde i terrorbekæmpelse er halshugning. Alt, hvad de havde brug for at gøre, er at fortælle en person, der er radikal her.”
Facebook moderatorer lide ham først mistanke om, at der var et problem, når de begyndte at modtage venneanmodninger fra folk med tilknytning til terrororganisationer de var granske.
Et presserende undersøgelse af Facebook ‘ s sikkerhed team fastslået, at personlige profiler, der hører til indhold moderatorer havde været udsat for. Så snart lækagen blev identificeret i November 2016, Facebook indkaldes til en “task force af data forskere, aktioner og sikkerhed efterforskere”, ifølge interne mails, set af den Værge, og advarede alle medarbejdere og kontraktansatte det troede blev berørt. Virksomheden har også oprettet en e-mail-adresse, nameleak@fb.com, at feltet forespørgsler fra dem, der er ramt.
Underbetalt og overbebyrdede: livet af en Facebook moderator
Læs mere
Facebook opdagede så, at den personlige Facebook profiler af sin moderatorer havde været vises automatisk i aktiviteten logs af de grupper, de var ved at lukke ned.
Craig D ‘souza, Facebook’ s head of global undersøgelser, været i kontakt direkte med nogle af de berørte entreprenører, taler til seks personer, der anses for at være på den højeste risiko over video konference, e-mail og Facebook Messenger.
I en udveksling, før Facebook undersøgelse var færdig, D ‘ souza søgte at berolige de moderatorer, at der var “en god chance for, at” enhver mistanke om, at terrorister meddelt om deres identitet ville undlader at forbinde prikkerne.
“Husk på, at når personen ser dit navn på listen, det var i deres aktivitet, log, der indeholder en masse information,” D ‘ souza selv skrev, “der er en god chance for, at de forbinder dig med en anden admin af gruppen, eller en hacker …”
“Jeg forstår Craig,” svarede moderator, der endte flygter fra Irland, “men det er at tage chancer. Jeg venter ikke på et rør bombe til at blive sendt til min adresse, indtil Facebook ikke noget om det.”
Facebook CEO Mark Zuckerberg leverer en keynote adresse. Seks moderatorer blev vurderet som “høj prioritet” ofre for en fejl, der delte deres personlige oplysninger med ekstremistiske grupper. Foto: Justin Sullivan/Getty Images
Fejl i den software, der var ikke fastsat til en anden to uger, 16. November 2016. Ved dette punkt glitch havde været aktive i en måned. Men fejlen var også med tilbagevirkende kraft at udsætte personlige profiler af moderatorer, som havde censureret konti så langt tilbage som i August 2016.
Facebook tilbudt at installere et hjem alarm system til overvågning og stille transport til og fra arbejde til dem, der i høj risiko gruppen. Virksomheden har også tilbudt rådgivning gennem Facebook ‘ s employee assistance program, over rådgivning, der tilbydes af entreprenøren, Cpl.
Moderator, der flygtede fra Irland var utilfreds med den sikkerhed, forsikringer, der er modtaget fra Facebook. I en e-mail til D ‘ souza, skrev han, at høj-risiko seks havde brugt uger “i en tilstand af panik, og en nødsituation”, og at Facebook havde brug for at gøre mere for at “løse vores presserende problemer for vores sikkerhed og vores familier”.
Han siger til the Guardian, at de fem måneder, han tilbragte i østeuropa havde lyst til “eksil”. Han holdt en lav profil, bygger på besparelser til at forsørge sig selv. Han brugte sin tid på at holde sig i form og kontakt med sin advokat og Dublin politiet, der tjekket op på sin familie, mens han var væk. Han vendte tilbage til Irland i sidste måned efter at løbe tør for penge, selv om han stadig lever i frygt.
Flytte hurtig, Zuckerberg, eller had kan dræbe Facebook | John Naughton
Læs mere
“Jeg har ikke et job, jeg har angst, og jeg er på antidepressiv medicin,” sagde han. “Jeg kan ikke gå nogen steder uden at se sig tilbage.”
I denne måned er han indgav en retssag mod Facebook og Cpl med Skader Bestyrelsen i Dublin. Han søger erstatning for de psykiske skader, der er forårsaget af lækage.
Cpl har ikke reageret på en anmodning om at kommentere. Den erklæring, der leveres af Facebook sagde sin undersøgelse søgt at bestemme præcis, hvilke navne, der muligvis blev set og af hvem, samt en vurdering af den risiko, at den berørte person”.
Den sociale medie gigant, der spilles ned for den trussel, de berørte moderatorer, men sagde, at det kontaktede hver af dem enkeltvis “at tilbyde støtte, som svar på deres spørgsmål, og tage meningsfulde skridt til at sikre deres sikkerhed”.
“Vores undersøgelse viste, at kun en lille brøkdel af de navne, var sandsynligvis ses, og vi aldrig havde beviser for enhver trussel mod mennesker påvirket eller deres familier som følge af denne sag,” siger talsmanden.
Detaljer af Facebook ‘ s sikkerheds-brøler, vil igen sætte fokus på den opslidende og kontroversielle arbejde, der udføres af en hær af tusindvis af lavtlønnede personale, herunder i lande som Filippinerne og Indien.
Den Facebook-Filer: sex, vold og hate speech”
The Guardian for nylig afslørede hemmelige regler og retningslinjer, som Facebook bruger til at træne moderatorer til politiet og sit store netværk af næsten to millioner brugere, herunder 100 intern uddannelse, manualer, regneark og diagrammer.
Moderator, der flygtede fra Irland arbejdede for en 40-stærk specialist-team har til opgave at undersøge rapporter af terrorist aktivitet på Facebook. Han var ansat, fordi han talte arabisk, sagde han.
De skulle have ladet os bruge falske profiler. De har aldrig advaret os om, at noget som dette kunne ske
Han følte, at kontraktansatte blev ikke behandlet som ligeværdige på Facebook-medarbejdere, men “andenrangs borgere”. Han var betalt for bare €13 ($15) per time for en rolle, der krævede ham til at udvikle specialiserede viden om globale terrornetværk og gennemsøge gennem ofte stærkt foruroligende materiale.
“Du kommer ind hver morgen og bare se på, halshugninger, at folk bliver slagtet, stenet, henrettet,” sagde han.
Facebook ‘ s politikker, der tillader brugere at sende ekstremt voldelige billeder, forudsat at de ikke fremme eller fejre terrorisme. Dette betyder, at moderatorerne kan være gentagne gange bliver udsat for den samme uforglemmelige billeder til at afgøre, om de personer, der deler dem var at fordømme eller fejrer afbildet handlinger.
Moderator sagde, at da han begyndte, han fik kun to ugers træning, og var forpligtet til at bruge sin personlige Facebook-konto til at logge ind på den sociale medie gigant moderation system.
“De burde have, så lad os bruge falske profiler,” sagde han, og tilføjer: “De aldrig har advaret os om, at noget som dette kunne ske.”
Hvordan Facebook guider moderatorer på terrorist indhold
Læs mere
Facebook siger til the Guardian, at der som følge af lækagen, det er at teste brugen af administrative konti, der ikke er knyttet til personlige profiler.
Moderation hold blev løbende fået for nøjagtigheden og hastigheden af deres beslutninger, sagde han, såvel som andre faktorer, såsom deres evne til at holde sig opdateret undervisningsmateriale. Hvis en moderator score faldet til under 90%, at de ville modtage en formel advarsel.
I et forsøg på at styrke moralen blandt vikarer, Facebook lanceret en månedlig award ceremoni for at fejre den bedste kvalitet kunstnere. Præmien var en Facebook-brandede krus. “Krus, som alle Facebook medarbejdere,” bemærkede han.
Kontakt forfatteren: olivia.solon@theguardian.com