Foto: AP
Op vrijdag 20 groepen van Amazon aandeelhouders verzonden CEO Jeff Bezos een brief druk hem te stoppen met de verkoop van het bedrijf gezichtsherkenning software om handhaving van de wet, CNN meldt. Genoemd Rekognition, de software kwam onder meer controle vorige maand bij de ACLU gepubliceerd onthullen van interne documenten met betrekking tot het gebruik door de politie. Talrijke burgerlijke rechten organisaties mede-ondertekend een brief veeleisende Amazon stoppen met het assisteren van de overheid toezicht, en verschillende leden van het Congres hebben hun bezorgdheid uitgesproken over de samenwerkingsverbanden.
“We zijn bezig de technologie zou worden gebruikt om oneerlijk en onevenredig doel en surveil mensen van kleur, immigranten en organisaties van de civiele maatschappij,” de aandeelhouders, die naar verluidt zijn de Sociale Vermogen van de Groep en het Noordwesten van Coalition for Responsible Investment, schreef. “We zijn betrokken omzet kan worden uitgebreid met buitenlandse regeringen, waaronder die van autoritaire regimes.”
Amazon heeft in het openbaar bevorderd de manier waarop de politie haar gezichtsherkenning software om mensen te identificeren die van belang zijn voor handhaving van de wet. Op de Amazon website, een systems analist bij Oregon Washington County uitgelegd hoe Rekognition werd gevoed met een database van 300.000 arrestatie foto ‘ s aan tegen gezichten gezien bij het toezicht op beelden. Het is belangrijk op te merken dat wordt gearresteerd is meestal wat de oorzaak van een persoon om te eindigen in een database, niet wordt veroordeeld voor een misdrijf. Als een derde bevinden wordt uiteindelijk gevonden onschuldig, er is geen garantie dat hun foto wordt gewist uit de database voor toekomstige matching.
In Mei, de ACLU uitgebracht verontrustend interne documenten, met inbegrip van een e-mail van een Washington County officiële vertellen Amazon dat ze met behulp van Rekognition te identificeren “onbewuste of overleden personen” en “mogelijke getuigen.” Een ander document toonde de software voor de identificatie van een foto van O. J. Simpson als een 93.53 procent match ‘ met een witte derde bevinden.
Verzet was snel, met name van allochtone leden van het Congres. De Congressional Black Caucus een brief gestuurd aan de Bezos te merken dat, omdat “gemeenschappen van kleur zijn meer zwaar en agressief worden gecontroleerd dan wit gemeenschappen,” ze zijn bezorgd over de “verkeerde keuzes gemaakt zullen worden door de scheve set gegevens die wordt geproduceerd door […] ongrondwettig politiepraktijken.” Als een stad onevenredig arrestaties van mensen van kleur, het is waarschijnlijk zijn mugshot database is meestal mensen van kleur, met inbegrip van degenen die uiteindelijk vrijgesproken van misdaden.
Gezichtsherkenning steeds een politie-tool gebruikt vaker op mensen van kleur is alarmerend voor vele redenen, het minst van al is dat het minder nauwkeurig op hen. Vertegenwoordigers Keith Ellison en Emanuel Hakmes, zowel in het zwart, ook een brief gestuurd naar Amazon, onder vermelding van bezorgdheid van de technologie van de nauwkeurigheid, het citeren van een MIT-studie, waaruit bleek enorm raciale verschillen in de nauwkeurigheid van gezichtsherkenning technologie.
“Een reeks van studies hebben aangetoond dat het face recognition-technologie wordt steeds minder nauwkeurig in het bepalen van de gezichten van de Afro-Amerikanen en vrouwen in vergelijking met Blanken en mensen,” schreef Ellison en Hakmes. “De onevenredig hoge arrestatie tarieven voor leden van de zwarte gemeenschap maken het gebruik van gezichtsherkenning-technologie door de wet handhaving problematisch, omdat het kan dienen voor het versterken deze trend.”
Rekognition kan het analyseren van beelden van een bron, wat betekent dat wordt weergegeven in afbeeldingen of video ‘s van een politie-surveillance tool—waaronder CCTV, body camera’ s en drones—zou kunnen betekenen dat zij worden vergeleken met databases. De privacy-aspecten zijn duidelijk en echt als de VS, werken met gezichtsherkenning in luchthavens, grenzen en zelfs scholen.
We bereikten Amazon voor commentaar en update van dit verhaal, als we horen terug.
[CNN Geld]