Shutterstock/Sam Woolley
Privacy-experts hebben geklonken alarmen op het gezicht erkenning voor jaren. Oorspronkelijk was er bezorgdheid dat het lopen in de luchthavens en in de openbare parken was je gescand en gekoppeld aan de geheime criminele databases. Die angsten hebben sindsdien geëvolueerd, en nu gezichtsherkenning is een fundament van de voorspellende technologie. Snel, uw kans om een terroristische of het ontwikkelen van een zeldzame ziekte zou kunnen worden bepaald op basis van uw gezicht. En onze aankomende nieuwe-normaal van de altijd aanwezige face recognition-technologie kan ook worden gebruikt om te voorspellen seksualiteit—nauwkeurig of anderszins—wordt gevraagd zorgen voor queer mensen in landen waar anonimiteit is essentieel om te overleven.
De Stanford-onderzoekers beweren dat ze hebben gebruikt gezichtsherkenning software opgeleid op het dating profiel foto ‘ s om nauwkeurig te bepalen van iemands seksualiteit. Onderzoekers Michal Kosinski en Yilun Wang opgeleide software met behulp van 35,326 foto ‘ s van 14,776 mensen. Deelnemers (die nog niet benaderd voor het onderzoek, maar hebben de openbare profielen) werden geplaatst in vier gelijke, zelf-gerapporteerde categorieën: gay vrouwen, homoseksuele mannen, hetero vrouwen en hetero mannen.
The Economist geeft een overzicht van de resultaten:
Wanneer het getoond een foto van een homo en hetero man, zowel willekeurig gekozen, het model onderscheiden tussen hen correct 81% van de tijd. Wanneer het getoond vijf foto ‘ s van elke man, schreef seksualiteit correct 91% van de tijd. Het model slechter presteerden met vrouwen, het vertellen van homo en hetero elkaar, met 71% nauwkeurigheid na het bekijken van een foto, en 83% nauwkeurigheid na vijf. In beide gevallen is het niveau van de prestatie overstijgt de menselijke mogelijkheid om dit onderscheid te maken. Met behulp van dezelfde beelden, die de mensen konden vertellen gay recht van 61% van de tijd voor de mannen en 54% van de tijd voor de vrouwen. Dit komt overeen met onderzoek dat suggereert dat een mens kan bepalen seksualiteit van gezichten bij slechts iets beter dan een kans.
91% nauwkeurigheid in het raden van seksualiteit is schokkend, zelfs als het is haalbaar, alleen in ideale omstandigheden. De grotere afhaalmaaltijden, echter, is dat de software betrouwbaar beter dan de mens door zo veel als 30%, wat betekent dat de AI ‘ s rote patroon-analyse op basis lijkt te zijn veel scherper dan wat de alchemie mensen gebruiken om intuit mensen de seksualiteit van een oogopslag.
Dr. Kosinski maakt duidelijk dat De Econoom dat hij niet de nieuwe software tools voor, maar gewoon samen reeds bestaande technologie. In feite, is er precedent voor deze begrippen zelfstandig, maar niet samen. Facebook maakt reeds gebruik van gezichtsherkenning wanneer deze stelt taggen van vrienden in foto ‘ s en verder, het sociale netwerk analyseert het gedrag van de gebruiker om te bepalen uw seksualiteit, zelfs als u niet vertellen dat ze expliciet. Google eenvoudig kunt hetzelfde doen bij gebruik van de zoekgeschiedenis om te bepalen welke suggesties en pop-up advertenties.
Dit suggereert dat het onderzoek zou worden herhaald, niet alleen een kwestie van privacy, maar een leven-of-dood in plaatsen waar homoseksualiteit is verboden. In Tsjetsjenië, bijvoorbeeld, homoseksuele mannen worden gevangen genomen en gedwongen om te onthullen namen van andere homoseksuele mannen. Dr. Kosinski erkent dat zelfs een proof of concept kan gevaarlijk zijn, maar het is belangrijk om te laten zien wat AI en gezichtsherkenning in staat zijn. Het is essentieel om bewust te zijn van wat hen die de macht zou kunnen doen met het face recognition-technologie.
In het algemeen, face recognition werkt door het meten van de gezichten van de mensen en het toekennen van een “faceprint.” In deze studie was de software weergegeven de faceprints van mannen en vrouwen die zich identificeerden als homo of hetero. Het vinden van patronen en vervolgens, wanneer de getoonde foto ‘ s die het nog nooit had gezien, gezocht naar deze patronen en gecategoriseerd dienovereenkomstig mensen.
Natuurlijk, dit zijn de dating profielen, de queer mensen zijn vermoedelijk open over hun seksualiteit. En dat maakt een verschil in hun uiterlijk, in het bijzonder als verschijnen meer mannelijk of vrouwelijk is van invloed op hun dating kans. En als deze categorieën zijn zelf-gerapporteerde, het is ook heel goed mogelijk dat niet alle van de mensen die gemarkeerd zijn als “recht” zijn uitsluitend heteroseksueel.
Als een vijandige natie te queer mensen opnieuw wilde maken van een vergelijkbare technologie, ze zou eerst moeten trainen AI op gelokaliseerde foto ‘ s van queer mensen. Dat zou te moeilijk, maar niet onmogelijk, te vinden als ze verbieden van homoseksualiteit en weinig mensen zijn “uit” om hun foto ‘ s gescand.
Dit specifieke onderzoek werd ook uitgevoerd in de verenigde staten met een beperkte omvang van de steekproef; de juistheid percentage kan aanzienlijk verschillen met een andere groep mensen die zich elders op de planeet.
Zijn er technische beperkingen. Een follow-up test is geijkt aan een betere weerspiegeling van de verhouding van homo naar hetero mannen. De software kreeg foto ‘ s van 1.000 mensen, minder dan 100 van die geïdentificeerd als homo op de site. De software van de nauwkeurigheid in dit geval is gedaald: Slechts 47 van de 100 mannen geselecteerd als homo daadwerkelijk geïdentificeerd die manier.
Zelfs als gezichtsherkenning wordt standaard in openbare plaatsen, zijn we nog steeds aan het ontdekken van manieren waarop dit kan worden misbruikt tegen kwetsbare leden van de samenleving. Voor queer mensen specifiek aanbreken toezicht dystopia is maar al te bekend.
[The Economist]