I Australien pilotprojektet, kommer bolaget att ‘hash’ – bilder, omvandla dem till digitala fingeravtryck som hindrar att alla andra försök att ladda upp samma bilder
Facebook är att arbeta med en Australiensisk myndighet att lotsa teknik.
Foto: Anadolu Agency/Getty Images
Facebook uppmanar användare för naken bilder i projekt för att bekämpa revenge porn
I Australien pilotprojektet, kommer bolaget att ‘hash’ – bilder, omvandla dem till digitala fingeravtryck som hindrar att alla andra försök att ladda upp samma bilder
@oliviasolon
e-post
Tisdagen den 7 November 2017 22.16 GMT
Senast ändrad onsdagen den 8 November 2017 00.15 GMT
Facebook ber användare att skicka företaget naken bilder i ett försök att ta itu med revenge porn, i ett försök att ge lite tillbaka kontrollen till offer för denna typ av övergrepp.
Individer som har det gemensamt att intima, naken eller sexuella bilder med partners och är orolig för att den partner eller ex-partner) kan distribuera dem utan deras samtycke kan använda Messenger för att skicka bilder för att vara “del av”. Detta innebär att bolaget konverterar bilden till en unik digital-fingeravtryck som kan användas för att identifiera och blockera alla försök att åter ladda upp samma bild.
Facebook testar just nu den teknik som i Australien i samarbete med en statlig myndighet som leds av e-säkerhet-kommissionär, Julia Inman Grant, som berättade för ABC att det skulle ge dem som drabbas av “image-baserade missbruk” att vidta åtgärder innan det var bilderna som postas till Facebook, Instagram eller Messenger.
“Vi ser många fall där kanske foton eller videor som togs consensually vid ett tillfälle, men det var inte någon form av samtycke för att skicka bilder eller videor mer allmänt,” sade hon till den Australiska tv-bolag.
Carrie Goldberg, en New York-baserad advokat som specialiserat sig på sexuella integritet, sade: “Vi är mycket glada över att Facebook är att hjälpa till att lösa detta problem – ett problem drabbar inte bara offren för själva revenge porn men även individer med bekymmer om överhängande att bli offer.
“Med dess miljarder användare, Facebook är en plats där många brottslingar aggress eftersom de kan maximera skada genom att sända nonconsensual porr för att de som är mest nära till offret. Så detta är effektfull.”
I den Australiska pilot, måste användare först fylla i en online-form på e-säkerhet-kommissionär s webbplats och visar sin oro. De kommer då att bli ombedd att skicka bilderna att de är oroliga för sig själva på Messenger medan e-säkerhet commissioner ‘ s office meddelar Facebook att deras underkastelse. När Facebook blir som en anmälan, en gemenskap verksamhet analytiker kommer att få tillgång till bild-och hash det för att förhindra framtida fall överförs eller delad.
Facebook kommer att lagra dessa bilder för en kort tid innan du raderar dem att se det är att genomdriva politiken på rätt sätt, sade företaget.
Ungefär 4 procent av de AMERIKANSKA internetanvändarna har drabbats av revenge porn, enligt ett 2016 rapport från Data & Society Research Institute. Andelen stiger till 10% när det handlar om kvinnor under 30 år.
Detta bygger på befintliga verktyg Facebook har att hantera revenge porn. I April sociala nätverk webbplats släppt rapportering verktyg för att tillåta användare att flagga intima bilder publiceras utan deras medgivande till “särskilt utbildade representanter” från plats i samhället operations team som “granska bilden och ta bort den om den bryter mot [Facebook] eu-standard”. När en bild har tagits bort, foto-matching-teknik används för att säkerställa att bilden inte laddas upp igen.
Facebook och annan teknik för företag som använder denna typ av foto-matchande teknik där bilder är “kodad” att ta itu med andra typer av innehåll, inklusive sexuella övergrepp mot barn och extremistiska bildspråk.
Tekniken utvecklades först under 2009 av Microsoft, som arbetar nära Dartmouth och National Center for Missing and Exploited Children för att slå ner på samma bilder av sexuellt utnyttjade barn som tas om och om igen på internet. Det var en teknik som kunde hitta exakta matchningar av bilder, men missbrukare kan komma runt detta genom att något ändra filer, antingen genom att ändra deras storlek eller lägga till ett litet märke.
PhotoDNA är “hash” matching-teknologi gjort det möjligt att identifiera kända olagliga bilder även om någon hade förändrat dem. Facebook, Twitter och Google använder alla samma hash-databas för att identifiera och ta bort olagliga bilder.
Hany Farid, professor i datavetenskap vid Dartmouth som hjälpte till att utveckla PhotoDNA, som beskrivs Facebook pilot som en “fantastisk idé”.
“Införandet av denna teknik skulle inte hindra någon från att dela bilder utanför Facebook ekosystem, så vi bör uppmuntra alla online-plattformar för att delta i detta program, som vi gör med PhotoDNA,” sade han.
En Facebook taleskvinna sade företaget att utforska ytterligare partners och länder.
Kontakta författaren: olivia.solon@theguardian.com