Foto: AP
Fredag, 20 grupper af Amazon aktionærer har sendt CEO Jeff Bezos et brev at presse ham til at stoppe med at sælge virksomhedens ansigtsgenkendelse software til håndhævelse af loven, CNN rapporter. Kaldes Rekognition, den software, der kom under større kontrol i sidste måned, når ACLU offentliggjort afslører interne dokumenter, der er relateret til brug af politi. Mange borgerlige rettigheder organisationer medunderskriver på et brev med krav om Amazon stoppe med at bistå regeringen overvågning, og flere medlemmer af Kongressen har udtrykt bekymring om partnerskaber.
“Vi er bekymrede for, at teknologien vil blive brugt til at uretfærdigt og uforholdsmæssigt mål og overvåge folk af farve, indvandrere og civilsamfundets organisationer,” de aktionærer, som efter sigende omfatte Social Equity Group og Nordvest Koalition for Ansvarlige Investeringer, skrev. “Vi er bekymrede, salg kan udvides til udenlandske regeringer, herunder autoritære regimer.”
Amazon har offentligt fremmes, hvor politiet har brugt sin ansigtsgenkendelse software til at identificere mennesker, der er af interesse for retshåndhævelse. På Amazons hjemmeside, en systemanalytiker med Oregon ‘ s Washington County forklarede, hvordan Rekognition blev fodret med en database på 300.000 anholdelse billeder til at matche mod ansigter, der ses i overvågning billeder. Det er vigtigt at bemærke, at blive arresteret er typisk, hvad der forårsager en person til at ende op i en database, ikke være dømt for en forbrydelse. Hvis en arrestee er i sidste ende fundet uskyldig, er der ingen garanti for, at deres billede vil blive slettet fra disse databaser for fremtiden matcher.
I Maj, ACLU udgivet bekymrende interne dokumenter, herunder en e-mail fra en Washington County officielle fortæller Amazon var de ved hjælp af Rekognition til at identificere “bevidstløse eller døde personer” samt “eventuelle vidner.” Et andet dokument, der viste, at den software, der identificerer et foto af O. J. Simpson som en 93.53 procent match med en hvid arrestee.
Tilbageslaget var hurtig, især fra mindretals medlemmer af Kongressen. Congressional Black Caucus har sendt et brev til Bezos at bemærke, at fordi “samfund af farve er stærkt og aggressive overvåget end hvide samfund,” de er bekymrede for, om “forkerte beslutninger vil ske på grund af den skæve data produceret af […] forfatningsstridig politiarbejde praksis.” Hvis en by uforholdsmæssigt anholdelser mennesker af farve, det er sandsynligvis dens mugshot database er for det meste folk af farve, herunder dem, der til sidst ryddet af forbrydelser.
Ansigtsgenkendelse bliver en politi-værktøj, der anvendes oftere på mennesker af farve er alarmerende for mange grunde, og mindst af alle er, at det er mindre præcis på dem. Repræsentanter Keith Ellison og Emanuel Cleaver, både black, har også sendt et brev til Amazon, citerer bekymring af den teknologi, nøjagtighed, med henvisning til en MIT studie, som fandt enorme racemæssige forskelle i nøjagtigheden af ansigtsgenkendelse teknologi.
“En række undersøgelser har vist, at ansigtsgenkendelse teknologi er konsekvent mindre nøjagtig i at identificere ansigter af Afrikanske Amerikanere og kvinder i forhold til Kaukasiere og mænd,” skrev Ellison og Cleaver. “Den uforholdsmæssigt høje anholdelse priser for medlemmer af det sorte samfund, gøre brug af ansigtsgenkendelse teknologi ved lov håndhævelse problematisk, fordi det kan bidrage til at styrke denne tendens.”
Rekognition kan analysere billeder fra enhver kilde, hvilket betyder, der optræder på billeder eller videoer fra politiets overvågning værktøj—herunder CCTV, krop kameraer, og droner—kunne potentielt betyde, at blive matchet mod databaser. Privatlivets fred er indlysende og meget reel, som den AMERIKANSKE beskæftiger ansigtsgenkendelse i lufthavne, grænser og endda skoler.
Vi nåede ud til Amazon for en kommentar, og vil opdatere denne historie, hvis vi hører tilbage.
[CNN Money]