Foto: AP
Minder dan een week nadat een vernietigende rapport blootgesteld aanzienlijke gebreken in de gezichtsherkenning technologie op de markt voor handhaving van de wet door Amazon, vijf Democratische wetgevers belt voor een onderzoek naar de commerciële en de overheid gebruik en potentieel misbruik van de technologie.
In een brief dinsdag, wetgevers zorgen geuit over het gebruik van gezichtsherkenning en de impact op de privacy-rechten, benadrukken, in het bijzonder, de “ongelijkwaardige behandeling van minderheden en allochtone gemeenschappen in de Verenigde Staten.”
“Gezien de recente ontwikkelingen in de commerciële gezichtsherkenning technologie—en het uitgebreide gebruik van de door de staat, de lokale en federale wetshandhaving, met name de FBI en de Immigratie en Douane en Handhaving—wij vragen dat u bij het onderzoeken en evalueren van de gezichtsherkenning, de industrie en de overheid gebruiken,” de wetgevers schreef in een brief aan Gene Dodaro, hoofd van de AMERIKAANSE Government Accountability Office (GAO). Het congres waakhond voorafgaande onderzoek naar gezichtsherkenning, zeiden ze, is instrumenteel geweest in het opleiden van het publiek en het Congres “het gebruik en mogelijk misbruik van deze technologieën.”
De brief was ondertekend door Senatoren Ron Wyden, Chris Coons, Ed Markey, en Corey Booker, en Jerrold Nadler, de classificatie van de Democraat op het House Judiciary Committee.
In een lijst van onderwerpen, wetgevers vroeg de GAO te onderzoeken specifiek welke agentschappen van de wetshandhaving worden met behulp van de technologie en hoe. Het is onduidelijk, bijvoorbeeld, welke organisaties hebben verworven Amazon ‘ s facial recognition-technologie, die bekend staat als Rekognition; de onderneming van de opdrachtgever pagina identificeert alleen een lokale wetshandhaving door de naam. De wetgevers verder vroeg de GAO om te beoordelen welke soorten beveiligingsmaatregelen zijn getroffen, indien van toepassing, om te voorkomen dat overheidsorganisaties uit de schending van de grondwettelijke rechten en de persoonlijke levenssfeer van natuurlijke personen onderworpen aan de technologie.
Kunnen We Niet-Racistische Gezichtsherkenning?
Als bedrijven ras te gebruiken voor gezichtsherkenning overal uit de major league ballparks om uw…
Lees meer Lees
Bovendien, de GAO werd gevraagd om te overwegen of de politie de implementatie van de technologie in gebieden met voorafgaande klachten van discriminerend politieoptreden, zoals een laag inkomen of minderheden, en of die misschien “verergeren discriminatie en andere politiewerk verschillen.” De wetgevers gevraagd dat die belast is met de evaluatie van gezichtsherkenning daadwerkelijk de aankoop van de commerciële producten beschikbaar om hen te testen, en te onderzoeken of de programma ‘ s hebben een “ongelijksoortige invloed op bepaalde raciale of etnische groepen.” (Studies hebben herhaaldelijk aangetoond gezichtsherkenning veel minder nauwkeurig wanneer gebruikt op mensen met een donkere huid.)
Er is ook een toenemende bezorgdheid over de mogelijke verkoop van de gegevens verzameld via de commerciële gezichtsherkenning software, die algemeen in gebruik zijn, maar vaak zonder de kennis of toestemming van het publiek. Bleek vorige week, bijvoorbeeld, dat een Canadese winkelcentrum werd met behulp van gezichtsherkenning om in het geheim te volgen shoppers. Het winkelcentrum, Chinook Centre in Calgary, zei dat het niet om toestemming, omdat de software die werd onthuld aan het publiek per vergissing—niet vangen of te behouden afbeeldingen van het gezicht.
Op donderdag, de American Civil Liberties Union zei dat het moest proeven uitgevoerd met behulp van Amazon ‘s Rekognition software met behulp van de 25.000 publiekelijk beschikbaar smoelenboek en foto’ s van alle 535 leden van het Congres. Volgens de ACLU, Rekognition onrechte 28 leden van het Congres, een lijst van hen als een “wedstrijd” voor iemand in de mugshot foto ‘ s. Het foutenpercentage was significant hoger voor de niet-blanke leden van het Congres. Amazon opgemerkt in een reactie dat de standaard het vertrouwen van de drempel is 80 procent, maar dat als “zeer nauwkeurige gezicht gelijkenis wedstrijden zijn belangrijk,” beveelt een instelling van 99 procent.
Of de politie uitgerust met Rekognition gebruik van een 99-procent-drempel-instelling—en of die nog bruikbaar zijn voor het oplossen van de technologie is inherent racistische vooringenomenheid—is onbekend. Maar fouten in het identificeren van verdachten dodelijke gevolgen zou kunnen hebben, als de ACLU van Noord-Californië punten uit: “Als handhaving van de wet is het gebruik van Amazon Rekognition, het is niet moeilijk voor te stellen dat een politieagent het krijgen van een ‘match’ die aangeeft dat een persoon een vorige verborgen wapen arrestatie, het beïnvloeden van de officier voordat een optreden begint zelfs.”
In een brief van afgelopen week, Senator Markey en Congresleden Luis Gutierrez en Mark DeSaulnier vroeg Amazon veel van dezelfde vragen, GAO is gevraagd om te onderzoeken nu. “Terwijl gezichtsherkenning diensten kan een waardevol hulpmiddel voor rechtshandhaving, de effectiviteit en de impact van de technologie nog niet volledig begrepen,” de wetgevers schreef in een brief aan Amazon CEO Jeff Bezos. “In het bijzonder, ernstige zorgen geuit over de gevaren gezichtsherkenning kan vormen voor de privacy en de burgerrechten, vooral als het wordt gebruikt als een instrument van de overheid toezicht op de juistheid van de technologie en de onevenredig grote impact op gemeenschappen van kleur.” (Bezos heeft nog niet gereageerd op de brief.)
Markey, Wyden, en Booker ook eiste details van 39 federale agentschappen van de wetshandhaving over hun gebruik van gezichtsherkenning. Terwijl de technologie kan “aantrekkelijk”, zeiden ze, het komt met inherente risico ‘ s, “met inbegrip van de concessies van de Amerikanen’ recht op privacy, alsmede ras en gender bias.”
Amazon niet direct reageren op een verzoek om commentaar.
Lees de volledige brief van de Democratische wetgevers om de GAO hieronder.