‘Recipe for disaster’: Amazon under beskydning for at sælge face-recognition software til politiet

ACLU udgivelser dokumentation på Amazon Rekognition software, der giver næring til frygt for overvågning via politiet kroppen kameraer

@juliacarriew

E-mail

Ons 23 Maj 2018 00.55 BST

Første udgivet den Tue 22 Maj 2018 20.29 BST

A police officer demonstrates the use of a body camera.

En politibetjent, der demonstrerer brugen af en krop kamera.
Foto: Damian Dovarganes/AP

I kølvandet på opstanden i Ferguson, Missouri, over drabet på Michael Brown, politiet og politikere rundt om i landet ramt på en formodet universalmiddel til racistisk politi og politiets brutalitet: kropsbårne kameraer.

Mange hyldet bevæge sig som en sejr for ansvarlighed. Men blandt de få, der havde skilt sig ud, blev Malkia Cyril, som er administrerende direktør for Center for Media Retfærdighed og en leder i Sort Liv Sagen netværk, der advarede tidligt og ofte, at kameraerne kunne blive redskaber for overvågning mod mennesker af farve, fordi “bæres på kroppen kameraer ikke se, politiet, de ser, at fællesskabet bliver overvåget, folk kan lide mig”.

Omfanget af denne overvågning blev klarere tirsdag, når den American Civil Liberties Union i det Nordlige Californien udgivet en samling af offentlige registre med angivelse af, hvor Amazon har været markedsføring og salg af software til ansigtsgenkendelse, kaldet Amazon Rekognition, at retshåndhævende myndigheder.

Amazon marketing materialer fremmet ideen om at bruge Rekognition i samarbejde med politiet kroppen kameraer i realtid – netop det resultat, Cyril frygtet.

Amazon truer med at flytte arbejdspladser ud af Seattle over nye skat

Læs mere

“Det er en opskrift for autoritære og katastrofe,” Cyril sagde. “Amazon bør ikke være nogen steder i nærheden af det, og hvis vi har noget at sige om det, vil de ikke være.”

ACLU og cirka 40 andre organisationer, der også udgivet et brev til Amazon administrerende direktør, Jeff Bezos, opfordrer virksomheden til at stoppe med at sælge Rekognition og dens “farlige overvågning beføjelser” til regeringen.

“Rekognition er et kraftfuldt system til overvågning af let tilgængelige til at krænke rettigheder og mål samfund af farve,” de grupper, der skrev. “Med Rekognition, Amazon leverer disse farlige overvågning beføjelser direkte til regeringen.”

I en e-mailet erklæring, Amazon sagde Rekognition havde “mange nyttige programmer i den virkelige verden”, som lokalisere forsvundne børn i forlystelsesparker, og bemærkede, at virksomheden “, kræver, at kunder, der er i overensstemmelse med loven og være ansvarlig, når de bruger” sine software-produkter.

“Kvaliteten af vores liv ville være meget værre i dag, hvis vi forbød ny teknologi, fordi nogle mennesker kan vælge at misbruge den teknologi,” en redegørelse. “Forestil dig, hvis kunderne ikke kunne købe en computer, fordi det var muligt at bruge denne computer til ulovlige formål?”

Brevet fra de borgerlige frihedsrettigheder grupper ikke opfordring til regeringen om at forbyde Amazon ‘ s teknologi, men til Amazon til at afstå fra at sælge det til regeringen.

Selv om Amazon er bedst kendt for at forbrugerne for sin e-handel platform, selskabet driver også en kæmpe cloud computing business. I November 2016, lancerede Amazon Rekognition, en nem-at-bruge ansigtsgenkendelse til rådighed for kunder i Amazon Web Services. Mens nogle af de anvendelser, der er Amazon, der fremmes for det produkt, der blot var voyeuristisk – såsom automatisk detektering berømtheder på det kongelige bryllup – mange af de use cases syntes specielt skræddersyet til håndhævelse af loven.

ACLU ‘s dokumenter viser, hvordan Amazon arbejdet med byen Orlando, Florida, og sheriff’ s department i Washington county, Oregon, for at implementere teknologien.

På en konference i Seoul, Ranju Das, der er anført som direktør for Rekognition på hans LinkedIn-profil, pralede af, om funktionerne i den panopticon skabt i partnerskab med Orlando.

“De har kameraer over hele byen,” sagde han. “Vi analyserer videoen i real tid og søge mod indsamling af ansigter, de har.”

Orlando politiet fortalte NPR, at anvendelsen af den teknologi, der var en “pilot-program”, og at det efter gældende love.

Men mens de kapaciteter, der er af den teknologi, der var imponerende, at den potentielle downfallswere katastrofale, advarede om, Cyril.

“Teknologi er et værktøj, at placere et værktøj i forbindelse med ekstrem racisme og brutalitet er simpelthen kommer til at producere mere ekstrem racisme og brutalitet,” Cyril sagde om politiets brug af kameraer. “Når du tilføjer facial anerkendelse i denne sammenhæng, og du tilføje supercomputing beføjelser Amazon, hvad du skal gøre er at effektivisere allerede eksisterende forskelsbehandling til et niveau, der er uden fortilfælde.

“Ved du ikke blot øge den hastighed, hvormed diskrimination kan finde sted, men du øger skalaen, hvor diskrimination kan finde sted.”

De dokumenter, der viser, at i det mindste nogle offentligt ansatte rejst bekymringer om teknologi. “ACLU måske overveje at denne regering at komme i seng med big data,” one Washington county medarbejder skrev i en e-mail.

I et blogindlæg beskriver deres resultater, Matt Cagle og Nicole En Özer af ACLU svarede: “At medarbejderens forudsigelse var korrekt.”


Date:

by