I Australien pilot indsats, vil selskabet ‘hash’ billeder, konvertere dem til digitale fingeraftryk, der forhindrer, at andre forsøg på at overføre de samme billeder
Facebook arbejder sammen med en Australsk regering agentur til pilot-teknologi.
Foto: Anadolu Agency/Getty Images
Facebook beder brugerne til nøgen billeder i projekt til bekæmpelse af hævn porno
I Australien pilot indsats, vil selskabet ‘hash’ billeder, konvertere dem til digitale fingeraftryk, der forhindrer, at andre forsøg på at overføre de samme billeder
@oliviasolon
Tirsdag den 7 November 2017 22.16 GMT
Sidst opdateret onsdag den 8 November 2017 15.20 GMT
Facebook er at bede brugere til at sende deres virksomhed nøgen billeder i et forsøg på at håndtere hævn porno, i et forsøg på at give en vis kontrol tilbage til ofre for denne form for misbrug.
Personer, der har delt intime, nude eller seksuelle billeder med partnere og er bange for, at partneren (eller ex-partner) kan distribuere dem uden deres samtykke kan bruge Messenger til at sende billederne til at være “sløret”. Det betyder, at virksomheden konverterer billedet til et entydigt, digitalt fingeraftryk, der kan bruges til at identificere og blokere ethvert forsøg på at re-uploade det samme billede.
Facebook er ved at afprøve teknologien i Australien i samarbejde med en regering agenturet ledes af e-sikkerheds-kommissær, Julia Inman Grant, der fortalte ABC, at det ville give ofre for “image-baseret misbrug” at gribe ind, før billederne blev sendt til Facebook, Instagram eller Messenger.
“Vi ser mange scenarier, hvor det måske billeder eller videoer på denne hjemmeside blev taget consensually på et tidspunkt, men der var ikke nogen form for samtykke til at sende billeder eller videoer, som er mere bredt,” fortalte hun den Australske tv-station.
Carrie Goldberg, en New York-baserede advokat, der har specialiseret sig i seksuel privatlivets fred, sagde: “Vi er glade for, at Facebook er med til at løse dette problem, man står over for ikke kun ved at ofre af de faktiske hævn porno, men også personer med bekymringer om overhængende, at de bliver ofre.
“Med sine milliarder af brugere, Facebook er et sted, hvor mange lovovertrædere aggress, fordi de kan maksimere skade ved udsendelse af nonconsensual porno til dem, der er mest tæt på offeret. Så dette er effektfuld.”
I Australsk pilot, skal brugerne først udfylde en online-formular på e-sikkerheds-kommissær ‘ s hjemmeside, der beskriver deres bekymringer. De vil derefter blive bedt om at sende billeder, de er bekymret for sig selv på Messenger, mens e-sikkerheden commissioner ‘ s office meddeler Facebook af deres indsendelse. Når Facebook får denne meddelelse, et fællesskab operationer analytiker vil få adgang til billedet og hash det at forebygge fremtidige forekomster fra at være uploadet eller delt.
Facebook vil gemme disse billeder for en kort periode af tid, før du sletter dem for at sikre det er at håndhæve den politiske korrekt, siger virksomheden.
Omkring 4% af AMERIKANSKE internetbrugere har været udsat for hævn porno, ifølge en 2016 rapport fra Data & Society Research Institute. Andelen stiger til 10%, når der beskæftiger sig med kvinder under 30 år.
Dette bygger på eksisterende værktøjer Facebook har til at beskæftige sig med hævn porno. I April social networking site udgivet rapportering værktøjer til at tillade brugere at flag intime billeder lagt uden deres samtykke til “, der er specielt uddannede repræsentanter” fra webstedet ‘ s operations team, der “gennemgang billedet, og fjern det, hvis det krænker [Facebook] eu-standarder”. Når et billede er blevet fjernet, foto-matching teknologi bruges til at sikre, at billedet ikke er uploadet igen.
Facebook og andre teknologi-virksomheder, der anvender denne type af foto-matching teknologi, hvor billeder er “sløret” til at håndtere andre typer af indhold, herunder seksuelt misbrug af børn og ekstremistiske billedsprog.
Teknologien blev udviklet i 2009 af Microsoft, der arbejder tæt sammen med Dartmouth og National Center for Missing and Exploited Children til at slå hårdt ned på de samme billeder af seksuelt misbrugte børn bliver udsendt igen og igen på internettet. Der var teknologi, der kunne finde eksakte matches af billeder, men misbrugere kan komme omkring dette ved forsigtigt at ændre filer til – enten ved at ændre deres størrelse eller tilføje en lille mark.
PhotoDNA er “hash” matching teknologi gjort det muligt at identificere kendte ulovlige billeder selv, hvis nogen havde ændret dem. Facebook, Twitter og Google har alle brug for den samme hash-database til at identificere og fjerne ulovlige billeder.
Hany Farid, en professor i datalogi ved Dartmouth, der hjalp med at udvikle PhotoDNA, der er beskrevet Facebook ‘ s pilot som et “fantastisk idé”.
“Udbredelsen af denne teknologi, ville det ikke forhindre nogen fra at dele billeder uden for Facebook økosystem, så vi bør tilskynde alle online platforme til at deltage i dette program, som vi gør med PhotoDNA,” sagde han.
En Facebook talskvinde sagde, at selskabet var at udforske yderligere partnere og lande.
Kontakt forfatteren: olivia.solon@theguardian.com