I Australia pilot innsats, vil selskapet ‘hash’ bilder, konvertere dem til digitale fingeravtrykk som hindrer at andre forsøk på å laste opp de samme bildene
Facebook jobber med en Australsk offentlige til pilot-teknologi.
Foto: Anadolu Agency/Getty Images
Facebook ber brukerne for nakenbilder i prosjektet for å bekjempe porno hevn
I Australia pilot innsats, vil selskapet ‘hash’ bilder, konvertere dem til digitale fingeravtrykk som hindrer at andre forsøk på å laste opp de samme bildene
@oliviasolon
e-post
Tirsdag 7. November 2017 22.16 GMT
Sist endret onsdag 8. November 2017 00.15 GMT
Facebook ber brukere til å sende selskapet sine nakenbilder i et forsøk på å takle hevn porno, i et forsøk på å gi noen kontrollen tilbake til ofre for denne typen overgrep.
Personer som har felles intime, naken eller seksuelle bilder med partnere og er redd for at partneren (eller eks-partner) kan distribuere dem uten deres samtykke kan bruke Messenger for å sende bildene til å bli “kryptert”. Dette betyr at selskapet konverterer bildet til et unikt digitale fingeravtrykk som kan brukes til å identifisere og blokkere alle forsøk på å re-laste opp det samme bildet.
Facebook er pilotering av teknologi i Australia i samarbeid med en offentlig etat på vei opp av e-sikkerhet kommisjonær, Julia Inman Grant, som fortalte ABC ville det føre til ofre for “image-basert misbruk” å ta affære før bildene ble postet på Facebook, Instagram eller Messenger.
“Vi se mange scenarier hvor kanskje bilder eller videoer som ble tatt consensually på ett punkt, men det var ikke noen form for samtykke til å sende bilder eller videoer i videre forstand,” sa hun til den Australske kringkasteren.
Carrie Goldberg, en New York-basert advokat som spesialiserer seg i seksuell personvern, sa: “Vi er glade for at Facebook er å hjelpe med å løse dette problemet – en står overfor ikke bare av ofre for faktiske hevn porno, men også personer med bekymringer umiddelbart å bli ofre.
“Med dets milliarder av brukere, Facebook er et sted der mange lovbrytere aggress fordi de kan maksimere skade ved kringkasting nonconsensual porno til de mest nær offeret. Så dette er virkningsfulle.”
I den Australske pilot, brukere må først fylle ut et elektronisk skjema på e-sikkerhet commissioner ‘ s nettside som beskriver deres bekymringer. De vil deretter bli bedt om å sende bildene som de er bekymret for seg selv på Messenger mens e-sikkerhet commissioner ‘ s office varsler Facebook for deres bidrag. Når Facebook blir at varsling, et fellesskap operasjoner analytiker vil ha tilgang til bildet og hash det å hindre fremtidige forekomster fra å bli lastet opp eller delt.
Facebook vil lagre disse bildene for en kort periode, før du sletter dem for å sikre det er å håndheve regelverket riktig, selskapet sa.
Omtrent 4% av AMERIKANSKE internett-brukere som har vært utsatt for hevn porno, i henhold til 2016 rapport fra Data Og Samfunn Research Institute. Andelen stiger til 10% når du arbeider med kvinner under 30 år.
Dette bygger på eksisterende verktøy Facebook har for å håndtere hevn porno. I April sosiale nettverk nettstedet utgitt rapportering verktøy for å tillate brukere å flagge intime bilder lagt ut uten deres samtykke til å “spesialutdannet representanter” fra nettstedet samfunnet team som “se bildet og fjern det hvis det bryter [Facebook] samfunnet standarder”. Når et bilde har blitt fjernet, bilde-matching-teknologi brukes for å sikre at bildet ikke er lastet opp på nytt.
Facebook og andre teknologi-selskaper bruker denne type bilde-matching teknologi hvor bildene er “kryptert” til å håndtere andre typer innhold, inkludert barn sex-misbruk og ekstremistiske bilder.
Teknologien ble først utviklet i 2009 av Microsoft, og samarbeider tett med Dartmouth og National Center for Mangler og for å Utnytte Barn for å slå ned på den samme bilder av seksuelt misbrukte barn blir sirkulert over og over igjen på internett. Det var teknologi som kan finne eksakte treff på bilder, men misbrukere kan komme rundt dette ved å endre litt filene til – enten ved å endre sin størrelse eller legge til en liten mark.
PhotoDNA er “hash” matching-teknologi gjort det mulig å identifisere kjent ulovlige bilder, selv om noen hadde forandret dem. Facebook, Twitter og Google-alle bruker det samme hash-database å identifisere og fjerne ulovlige bilder.
Hany Farid, en professor i informatikk ved Dartmouth som bidro til å utvikle PhotoDNA, beskrevet Facebook er piloten som en “god idé”.
“Distribusjon av denne teknologien vil ikke hindre noen fra å dele bilder utenfor Facebook økosystem, så vi bør oppmuntre alle internett-plattformer for å delta i dette programmet, som vi gjør med PhotoDNA,” sa han.
En Facebook talskvinne sa at selskapet var å utforske flere partnere og land.
Kontakt forfatter: olivia.solon@theguardian.com