Foto: AP
Mindre end en uge efter en ødelæggende rapport udsat for væsentlige fejl og mangler i facial anerkendelse teknologi, der afsættes til håndhævelse af loven af Amazon, fem Demokratiske lovgivere, kræver en undersøgelse af de kommercielle og offentlige brug og misbrug af teknologi.
I et brev tirsdag, lovgivere betænkeligheder ved brug af ansigtsgenkendelse og dens indvirkning på privatlivets rettigheder, som en understregning af, i særdeleshed, den “uensartede behandling af mindretal og indvandrere i Usa.”
“I betragtning af de nylige fremskridt inden for kommercielle ansigtsgenkendelse teknologi—og dets udvidede brug af statslige, lokale og føderale retshåndhævende myndigheder, navnlig FBI og Immigration og Told-og Politikontrol, beder vi dig om at undersøge og vurdere facial anerkendelse industrien og dens regeringens brug,” lovgiverne skrev i et brev til Gene Dodaro, leder af det AMERIKANSKE Government Accountability Office (GAO). Kongressens vagthund ‘ s forudgående forskning i facial anerkendelse, sagde de, har været medvirkende til at uddanne offentligheden og Kongres “med hensyn til brug og misbrug af disse teknologier.”
Brevet var underskrevet af Senator Ron Wyden, Chris Coons, Ed Markey, og Corey Booker, og Jerrold Nadler, placering Demokrat på House Judiciary Committee.
I en liste over emner, lovgiverne bedt om GAO specifikt at undersøge, hvor retshåndhævende myndigheder ved hjælp af teknologien, og hvordan. Det er uklart, for eksempel, som bureauerne har erhvervet Amazon ‘ s facial anerkendelse teknologi, der er kendt som Rekognition af selskabets client side identificerer kun én lokal ret enforcement agentur ved navn. Lovgiverne har endvidere anmodet om, GAO at vurdere, hvilke typer af sikkerhedsforanstaltninger er på plads, hvis noget, for at forhindre, at offentlige myndigheder fra at overtræde de forfatningsmæssige rettigheder og beskyttelse af personlige oplysninger om borgere, der bliver udsat for teknologien.
Kan Vi Gøre Ikke-Racistisk Ansigt Anerkendelse?
Som selskaber kapløb om at ansætte facial anerkendelse overalt fra major league ballparks til din…
Læs mere Læs
Desuden GAO blev bedt om at overveje, om politiet er implementering af teknologi i områder med forudgående klager over diskriminerende politiarbejde, såsom lav-indkomst eller mindretal, og om det kan “forværre diskrimination og andre politiarbejde forskelle.” Lovgiverne bedt om, at dem, der har til opgave at vurdere facial anerkendelse rent faktisk at købe kommercielle produkter, der findes til at teste dem, og undersøger, om programmer har en “forskellige konsekvenser for visse racemæssige eller etniske grupper.” (Undersøgelser har gentagne gange vist, ansigtsgenkendelse til at være langt mindre præcise, når de anvendes på mennesker med mørkere hud.)
Der er også en voksende bekymring for den potentielle salg af data, der er indsamlet via kommercielle software til ansigtsgenkendelse, som er almindeligt i brug, men ofte uden den viden og godkendelse af det offentlige. Det blev afsløret i sidste uge, for eksempel, at en Canadisk shopping mall var der bruger ansigtsgenkendelse til at hemmeligt nummer shoppere. Mall, Chinook Centre in Calgary, sagde, at det ikke kræver samtykke, fordi den software, som blev afsløret for offentligheden ved en fejl ikke fange eller fastholde facial billeder.
På torsdag, den American Civil Liberties Union sagde, at det havde foretaget tests ved hjælp af Amazon ‘ s Rekognition af software ved hjælp af 25,000 offentligt tilgængelige mugshots og fotos af alle de 535 medlemmer af Kongressen. Ifølge ACLU, Rekognition fejlidentificeret 28 medlemmer af Kongressen, en liste over dem som en “kamp” for en person i mugshot fotos. Fejlprocenten var betydeligt højere for ikke-hvide medlemmer af Kongressen. Amazon bemærkes i svaret, at dens standard konfidensgrænse er 80 procent, men at når “meget præcise ansigt lighed kampe er vigtige,” det anbefaler en indstilling på 99 procent.
Om politi, som var udstyret med Rekognition bruger en 99-procent-tærskel-indstilling—og hvorvidt det er endda sandsynligt, at løse den teknologi, der er iboende racistisk bias—er ukendt. Men fejl i at identificere mistænkte kunne have dødelige konsekvenser, som ACLU i det Nordlige Californien påpeger: “Hvis lov håndhævelse er at bruge Amazon Rekognition, er det ikke svært at forestille sig, at en politibetjent bliver en ‘kamp’, der angiver, at en person har en tidligere skjult våben anholdelse, påvirkning officer før et møde, selv begynder.”
I et brev i sidste uge, Senator Markey og Kongresmedlemmer Luis Gutiérrez og Mark DeSaulnier spurgte Amazon til at løse mange af de samme spørgsmål, GAO er blevet bedt om at undersøge nu. “Mens facial anerkendelse tjenester kan levere en værdifuld lov håndhævelse af, effekt og konsekvenser af teknologien er endnu ikke fuldt forstået,” lovgiverne skrev i et brev til Amazon CEO Jeff Bezos. “I særlig alvorlige problemer er blevet rejst, om de farer, facial anerkendelse kan udgøre for privatlivets fred og borgernes rettigheder, især når det bruges som et redskab for den statslige overvågning, samt rigtigheden af teknologien og dens uforholdsmæssige virkninger på samfund af farve.” (Bezos har endnu ikke reageret på brevet.)
Markey, Wyden, og Booker ligeledes forlangte oplysninger fra 39 føderale retshåndhævende myndigheder om deres brug af ansigtsgenkendelse. Mens teknologi kan “synes attraktiv,” sagde de, det kommer med iboende risici, “herunder beskadigelse af Amerikanernes ret til privatlivets fred, samt racemæssig og kønsmæssig skævhed.”
Amazon har ikke umiddelbart svare på en anmodning om kommentarer.
Læs hele brevet fra den Demokratiske lovgivere til GAO nedenfor.