Shutterstock/Sam Woolley
Personvern eksperter har hørtes alarmer på ansiktsgjenkjenning for år. Opprinnelig var det bekymringer som går inn på flyplasser og i offentlige parker mente du ble skannet og tilpasset hemmelig kriminell databaser. Frykten har siden utviklet seg, og nå face recognition er en berggrunn av intelligent teknologi. Snart, dine sjanser for å bli en terrorist eller utvikle en sjelden sykdom kunne bestemmes fra ansiktet. Og vår møtende ny-normal i stadig til stede ansikt gjenkjennelse teknologien kan også brukes til å forutsi seksualitet—nøyaktig eller på annen måte stadige bekymringer for skeive folk i land der anonymitet er nøkkelen til å overleve.
Stanford forskere hevder de har brukt ansikt gjenkjennelse programvare trent på dating profil bilder for å nøyaktig identifisere andres seksualitet. Forskere Mikal Kosinski og Yilun Wang trent programvare ved hjelp av 35,326 bilder av 14,776 folk. Deltakerne (som ikke var kontaktet for å studere, men har offentlige profiler) ble plassert inn i fire like, selv-rapportert kategorier: homofile kvinner, homofile menn, heterofile kvinner, og heterofile menn.
The Economist oppsummerer resultatene:
Når vises ett bilde hver av homofile og heterofile mannen, begge valgt tilfeldig, modellen skiller mellom dem riktig 81% av tiden. Når vist fem bilder av hver mann, er det tilskrives seksualitet riktig 91% av tiden. Modellen utført verre med kvinner, forteller homofile og rett fra hverandre med 71% nøyaktighet når du ser på et bilde, og 83% nøyaktighet etter fem. I begge tilfeller nivået av ytelse langt outstrips menneskets evne til å gjøre dette skillet. Ved å bruke de samme bildene som folk kunne fortelle homofile fra straight 61% av tiden for menn, og 54% av tiden for kvinner. Dette er på linje med forskning som antyder at mennesker kan bestemme seksualitet fra ansiktene på bare bedre enn en tilfeldighet.
91% nøyaktighet i å gjette seksualitet er oppsiktsvekkende, selv om det er oppnåelig i ideelle forhold. De større takeaway, imidlertid, er at programvaren pålitelig bedre enn mennesker med så mye som 30%, noe som betyr at AI ‘ s rote mønster-basert analyse ser ut til å være mye skarpere enn hva alkymi mennesker bruker for å oppfatte folks seksualitet fra et blikk.
Dr. Kosinski gjør det klart for å Economist at han ikke opprette noen ny programvare verktøy for dette, men rett og slett sette sammen eksisterende tech. Faktisk, det er presedens for disse begrepene hver for seg, bare ikke satt sammen. Facebook allerede bruker ansiktsgjenkjenning når den foreslår å tagge venner på fotografier og videre, det sosiale nettverket analyserer brukeratferd for å finne ut din seksualitet, selv om du ikke forteller dem eksplisitt. Google kan lett gjøre det samme når den bruker søkeloggen for å avgjøre hvilke forslag og annonser dukker opp.
Dette tyder studien kan replikeres, en sak ikke bare av personvernet, men liv-eller-død på steder hvor homofili er forbudt. I Tsjetsjenia, for eksempel homofile menn er fengslet, og tvunget til å avsløre navnene på andre homofile menn. Dr. Kosinski erkjenner at selv et bevis av konsept kan være farlig, men det er viktig å vise hva AI og ansiktsgjenkjenning er i stand til. Det er viktig å være klar over hva de i kraft kan gjøre med face recognition teknologi.
I vid forstand, ansiktsgjenkjenning fungerer ved å måle folks ansikter og tilordne dem en “faceprint.” I denne bestemt studium, programvaren ble vist faceprints av menn og kvinner som identifiserte seg som homofile eller rett. Det finnes mønstre og deretter, når de ble vist bilder som det aldri hadde sett før, og det søkes for de mønstre og kategorisert folk i henhold til dette.
Selvfølgelig, da disse er dating profiler, alle de rare menneskene er antagelig åpne om sin seksualitet. Og det gjør en forskjell i sitt utseende, spesielt som vises mer maskuline eller feminine påvirker deres dating sjanser. Og som disse kategoriene er selv-rapportert, er det også fullt mulig at ikke alle menneskene som er merket som “rett” er utelukkende heterofile.
Hvis en nasjon fiendtlig innstilt til skeive folk ønsket å re-opprette lignende teknologi, ville de først nødt til å trene AI lokalisert på bilder av skeive folk. At det ville bli vanskelig, men ikke umulig, å finne hvis de forby homofili og noen mennesker er “ut” for å få sine bilder som er skannet.
Denne spesielle studien ble også gjennomført i USA med en begrenset mengde størrelse; nøyaktighet rate kunne signifikant forskjellige med ulike sett av personer som befinner seg andre steder på planeten.
Det er tekniske begrensninger som godt. En oppfølging testen ble rekalibrert til mer nøyaktig gjenspeile forholdet mellom homofile til rett mann. Programvaren ble gitt bilder av 1000 mann, færre enn 100 som er identifisert som homofil på nettstedet. Programvaren er nøyaktighet i dette tilfellet falt: Bare 47 av de 100 menn er det valgt ut som homofil identifisert på denne måten.
Selv som ansiktsgjenkjenning blir standard på offentlige steder, for vi er fortsatt å oppdage hvordan det kan bli misbrukt mot sårbare medlemmene av samfunnet. For skeive mennesker spesielt, denne gryende overvåking dystopi er altfor kjent.
[Economist]