Foto: AP
Amazon ‘ s kontroversielle ansigtsgenkendelses-software, kaldet Rekognition, fejlidentificeret mere end to dusin medlemmer af Kongressen, som personer, der er anholdt for forbrydelser. Den falske identifikationer blev foretaget, når ACLU i det Nordlige Californien til opgave at Rekognition med matchende fotos af alle de 535 medlemmer af Kongressen mod på 25.000 offentligt tilgængelige mugshot fotos. Test omkostninger ACLU bare $12.33 til at udføre.
I alt Rekognition fejlidentificeret 28 medlemmer af Kongressen, en liste over dem som en “kamp” for en person i mugshot fotos. 11 af fejlidentificeret medlemmer af Kongressen var mennesker af farve, en meget alarmerende forskel. Tests har vist, at ansigt anerkendelse er rutinemæssigt mindre præcis på mørkere flået mennesker og kvinder. For Kongressen som helhed, var fejlprocenten kun fem procent, men for ikke-hvide medlemmer af Kongressen, fejlprocenten var 39 procent.
Blandt dem, fejlidentificeret var seks medlemmer af Congressional Black Caucus, der skrev et åbent brev til Amazon CEO Jeff Bezos i juni, efter at ACLU udgivet interne dokumenter vedrørende brug af Rekognition af politiet.
Amazon har tilskyndet retshåndhævende myndigheder til at vedtage Rekognition, med politiet i Orlando for nylig, at man vælger at fortsætte deres pilot tech. I et blog-indlæg, ACLU i det Nordlige Californien forklarede, hvordan fejlidentifikation i hænderne af lov håndhævelse kan være dødelig, især for folk af farve:
Hvis retshåndhævelse er at bruge Amazon Rekognition, er det ikke svært at forestille sig, at en politibetjent bliver en ‘kamp’, der angiver, at en person har en tidligere skjult våben anholdelse, påvirkning officer før et møde, selv begynder.
I en erklæring, Amazon foreslået ACLU ‘ s resultater med software “kunne formentlig forbedres ved at følge bedste praksis,” siger selskabet anbefaler, retshåndhævende myndigheder sæt en konfidensgrænse for mindst 95 procent, når det skal afgøres, om der er en match. Selvfølgelig, der er ingen juridiske krav for politiet til at gøre det. I STORBRITANNIEN har politiet i South Wales for nylig forsvarede brug af ansigtsgenkendelse software med en svimlende 90 procent falsk positive rate.
Amazon ‘ s erklæring er medtaget i deres fulde ordlyd nedenfor:
Vi har set, at kunder bruger billed-og video-analyse-kapacitet Amazon Rekognition på måder, der i væsentlig gavn for både samfundet (fx forebyggelse af menneskehandel, hæmmende udnyttelse af børn, genforene forsvundne børn med deres familier, og opbygning af uddannelses-apps til børn), og organisationer (øget sikkerhed ved hjælp af multi-faktor-autentificering, at finde billeder mere let, eller for at forhindre pakke tyveri). Vi er stadig spændt på, hvordan billed-og video-analyse kan være en drivkraft for det gode i verden, herunder i den offentlige sektor og retshåndhævelse.
Med hensyn til den seneste test af Amazon Rekognition af ACLU, vi mener, at resultaterne kan formentlig forbedres ved at følge bedste praksis omkring indstilling af tillid tærskler (dette er den procentdel sandsynligheden for, at Rekognition fundet et match), der anvendes i testen. Mens 80% tillid er en acceptabel grænse for billeder af hot dogs, stole, dyr eller andre sociale medier use cases, at det ikke ville være passende til at identificere personer med en rimelig grad af sikkerhed. Når du bruger facial anerkendelse for retshåndhævende aktiviteter, vi guide kunderne til at indstille en højere tærskel for mindst 95% eller højere.
Endelig er det værd at bemærke, at i den virkelige verden scenarier, Amazon Rekognition er næsten udelukkende bruges til at hjælpe med at indsnævre feltet og tillade mennesker til hurtigt at gennemgå og overveje muligheder for at bruge deres dømmekraft (og ikke at gøre den fuldt autonome beslutninger), hvor det kan hjælpe med at finde forsvundne børn, begrænse menneskehandel, eller til at forhindre forbrydelser.