Foto: AP
Amazon ‘ s controversiële gezichtsherkenning software, genaamd Rekognition, geïdentificeerd meer dan twee dozijn leden van het Congres als mensen gearresteerd voor misdaden. De valse identificaties werden gemaakt bij de ACLU van Noord-Californië belast Rekognition met bijpassende foto ‘s van alle 535 leden van het Congres tegen de 25.000 publiekelijk beschikbaar mugshot foto’ s. De test kost de ACLU slechts $12.33 uit te voeren.
In totaal Rekognition onrechte 28 leden van het Congres, een lijst van hen als een “wedstrijd” voor iemand in de mugshot foto ‘ s. 11 van de ten onrechte aangemerkt leden van het Congres waren er mensen van kleur, een zeer alarmerende ongelijkheid. Tests hebben aangetoond dat de gezichtsherkenning routinematig minder nauwkeurig op een donkere huidskleur, mensen en vrouwen. Voor het Congres als geheel, het foutenpercentage was slechts vijf procent, maar voor niet-blanke leden van het Congres, de fout van het tarief van 39 procent.
Onder degenen, die geïdentificeerd werden zes leden van de Congressional Black Caucus, die schreef een open brief aan Amazon CEO Jeff Bezos in juni na de ACLU uitgebracht interne documenten met betrekking tot het gebruik van Rekognition door de politie.
Amazon heeft aangemoedigd agentschappen van de wetshandhaving te nemen Rekognition, met de politie in Orlando onlangs kiezen om door te gaan met hun piloot van de tech. In een blog post, de ACLU van Noord-Californië uitgelegd hoe onterecht in de handen van rechtshandhaving kan dodelijk zijn, vooral voor mensen van kleur:
Als handhaving van de wet is het gebruik van Amazon Rekognition, het is niet moeilijk voor te stellen dat een politieagent het krijgen van een ‘match’ die aangeeft dat een persoon een vorige verborgen wapen arrestatie, het beïnvloeden van de officier voordat een optreden begint zelfs.
In een verklaring, Amazon stelde ACLU de resultaten met de software “kan waarschijnlijk verbeterd worden door de volgende best practices”, zegt het bedrijf adviseert agentschappen van de wetshandhaving stel een vertrouwen drempel van ten minste 95 procent bij de beslissing of er een match is. Natuurlijk, er is geen wettelijke verplichting voor de politie om dit te doen. In het verenigd koninkrijk, de politie in Zuid-Wales onlangs verdedigd met behulp van gezichtsherkenning software met maar liefst 90 procent fout-positieve uitslagen.
Amazon ‘ s is opgenomen in full hieronder:
We hebben gezien dat klanten gebruik van de beeld-en video-analyse-mogelijkheden van Amazon Rekognition op een manier die wezenlijk zowel ten goede komen aan de samenleving (bijv. het voorkomen van mensenhandel, het remmen van de exploitatie van kinderen, de hereniging van vermiste kinderen met hun gezinnen, en het bouwen van educatieve apps voor kinderen) en organisaties (de verbetering van de veiligheid door middel van multi-factor authenticatie, het vinden van afbeeldingen eenvoudiger, of het voorkomen van diefstal pakket). We blijven enthousiast over hoe beeld-en video-analyse kan een bestuurder voor het goede in de wereld, ook in de publieke sector en de handhaving van de wet.
Met betrekking tot deze recente test van de Amazone Rekognition door de ACLU, denken we dat de resultaten kunnen wellicht worden verbeterd door de volgende best practices over het instellen van het vertrouwen van de drempels (dit is het percentage kans dat Rekognition gevonden) gebruikt in de test. Terwijl 80% van vertrouwen is een aanvaardbare drempel voor foto ‘ s van hete honden, stoelen, dieren, of andere sociale media use cases, het zou niet passend zijn voor het identificeren van individuen met een redelijke mate van zekerheid. Bij het gebruik van gezichtsherkenning voor wetshandhaving, begeleiden wij klanten om een hogere drempel van ten minste 95% of hoger.
Ten slotte is het vermeldenswaard dat in de echte wereld scenario ‘ s, Amazon Rekognition wordt bijna uitsluitend gebruikt om te helpen bij het veld smalle en toestaan dat mensen te snel te beoordelen en te overwegen opties met behulp van hun oordeel (en niet om volledig autonoom beslissingen te nemen), waar het kan helpen bij het vinden van verloren kinderen, het beperken van mensenhandel, of voorkomen van misdrijven.