Offentligheden fik et sjældent indblik i, hvordan Facebook forsøger at holde offensiv og farligt indhold offline i en
rapport, der blev offentliggjort søndag.
Fortrolige dokumenter, der er lækket til The Guardian afslørede hemmelige regler, som Facebook politikker opslag på emner som vold, diskriminerende ytringer, terrorisme, pornografi, racisme og selvskadende adfærd, samt emner som sport fastsættelse og kannibalisme.
Efter en gennemgang af mere end 100 interne uddannelse, manualer, regneark og diagrammer, The Guardian fundet Facebook ‘ s moderation politikker ofte forvirrende.
For eksempel, trusler mod en leder af en stat, der automatisk er fjernet, men trusler mod andre personer, der er uberørt, medmindre de er betragtet som “troværdig.”
Fotos af nonsexual fysiske overgreb og mobning af børn behøver ikke at blive slettet, medmindre de har en sadistisk eller festlige element. Billeder af dyr misbrug er tilladt, men hvis misbruget er yderst oprørende, de har brug for at blive mærket “foruroligende.”
Facebook vil give folk mulighed for at live-streame forsøg på at skade sig selv, fordi det “ikke ønsker at censurere eller straffe folk i nød.”
Enhver Facebook medlem med mere end 100.000 tilhængere betragtes som en offentlig figur, og er givet færre beskyttelse end andre medlemmer.
At Holde Folk Sikkert
I svar på spørgsmål fra The Guardian, Facebook forsvarede sin moderation indsats.
“At holde folk på Facebook sikker, er den mest vigtige ting, vi gør,” siger Monika Bickert, Facebook ‘ s head of global politisk styring.
“Vi arbejder hårdt på at gøre Facebook så sikkert som muligt, og samtidig muliggør den frie tale,” sagde hun TechNewsWorld. “Det kræver en masse tanker i detaljerede og ofte vanskelige spørgsmål, og få det lige er noget, vi tager meget alvorligt.”
Som led i sine bestræbelser på at “få det rigtige,” selskabet for nylig annoncerede, at det ville være at tilføje 3.000 mennesker til sin globale samfund operationer team i løbet af de næste år, til at gennemgå de millioner af rapporter om content misbrug Facebook modtager på daglig basis.
“Ud over at investere i, at flere mennesker, er vi også bedre værktøjer til at holde vores fællesskab sikkert,” Bickert sagde. “Vi kommer til at gøre det enklere at rapportere til os med problemer, hurtigere for vores anmeldere til at bestemme, hvilke indlæg der er i strid med vores standarder, og nemmere for dem at kontakte politiet, hvis nogen har brug for hjælp.”
Sjæl-At Ødelægge Arbejde
Hvis The Guardian ‘ s rapport afslørede noget, det er, hvor kompleks den er aftagende indhold på de sociale netværk er blevet.
“Det understreger, hvor udfordrende politiarbejde indhold på et site som Facebook, med dens enorme omfang, er,” bemærkede Jan Dawson, ledende analytiker hos Allike, Forskning, i et online-indlæg.
Moderatorer er nødt til at gå en fine linje mellem censur og beskytte brugere, påpegede han.
“Det understreger også spændinger mellem dem, der ønsker Facebook til at gøre mere for at politiet upassende og ubehagelige indhold, og dem, der føler, at det allerede er censorer for meget,” Dawson fortsatte.
Hverken de mennesker, der skriver de politikker, eller dem at håndhæve dem har en misundelsesværdig opgave, sagde han, og i tilfælde af indholdet moderatorer, at jobbet kan være sjæl-at ødelægge.
Stadig, “som vi også har set med hensyn til live-video for nylig,” Dawson siger, “det er utrolig vigtigt, og kommer til at være en stadig mere dyre område af investeringer for virksomheder som Facebook og Google.”
“Nej Gennemsigtighed Overhovedet’
Facebook har veget tilbage fra at frigive mange detaljer om reglerne sin moderatorer bruge til at handle om indhold, der indberettes til dem.
“De siger, at de ikke ønsker at offentliggøre denne type af ting, fordi det gør det muligt for onde til at game systemet,” siger Rebecca MacKinnon, direktør for Placering af Digitale Rettigheder program på
Åben Teknologisk Institut.
“Ikke desto mindre, er der alt for lidt åbenhed nu, hvilket er grunden til dette ting blev lækket,” fortalte hun TechNewsWorld.
Placeringen af Digitale Rettigheder Projektet vurderer information gennemsigtighed af virksomheder på en række politikker, der er relateret til ytringsfrihed og privatlivets fred, MacKinnon forklaret. Det spørgsmål, virksomhederne og søger oplysninger om deres regler for indhold moderation, hvordan de vil gennemføre disse regler, og hvad mængden af indhold er slettet eller begrænset.
“Med Facebook, er der ingen gennemsigtighed overhovedet,” MacKinnon sagde. “Sådan et lavt niveau af åbenhed er ikke tjener deres brugere eller deres virksomhed er meget godt.”
Død af Publisher
Da mængden af indhold på sociale medier sites er vokset, har der været en råber fra nogle hjørner af Internettet til behandling af de steder, som udgivere. Nu er de behandlet som kun forhandlere, der er ikke ansvarlige for, hvad deres brugere indlæg på dem.
“Siger, at virksomheder er ansvarlige for alt, hvad deres brugere gør, kommer ikke til at løse det problem,” MacKinnon sagde. “Det vil sandsynligvis dræbe en masse af, hvad der er godt ved de sociale medier.”
Gør Facebook til en udgiver, der ikke kun ville ødelægge dens beskyttede status som en tredje-parts-platform, men også kan ødelægge virksomheden, bemærkes, Karen Nord, direktør for Annenberg Program på Online-Fællesskaber på
University of Southern California.
“Når du foretager subjektive redaktionelle beslutninger, du er som en avis, hvor indholdet er ledelsens ansvar,” fortalte hun TechNewsWorld. “At de aldrig ville kunne montere et team, der er store nok til at træffe beslutninger om alt det, der er lagt ud på Facebook. Det ville være afslutningen på Facebook.”
John P. Mello Jr. har været en ECT News Network reporter
siden 2003. Hans fokusområder omfatter cybersecurity, er DET spørgsmål, privatlivets fred, e-handel, sociale medier, kunstig intelligens, big data og forbrugerelektronik. Han har skrevet og redigeret en lang række publikationer, herunder Boston Business Journal,
Boston Phoenix, Megapixel.Net og Regeringen
Sikkerhed Nyheder. E-Mail John.