Foto: Phillip Faraone (Getty)
Sent i juli, lovgivere sendt et brev, der søger oplysninger om Rekognition, at Amazon ‘ s in-house software til ansigtsgenkendelse. Amazon skrev tilbage, lystighed, i August, men ifølge denne mere og mere utålmodig gruppe af congresspeople, selskabet “har undladt at give tilstrækkeligt svar.”
Den indledende undersøgelse var planlagt omkring en ødelæggende ACLU ‘ s rapport, at der fandt Rekognition—software selskabet har solgt til retshåndhævelse og slog til brug ved Immigration and Customs Enforcement—havde fejlagtigt matchede ansigter af 28 medlemmer af Kongressen med personer, der indgår i en database af mugshots. Modreaktion mod udbredelse af denne potentielt fejlbehæftede software kom også fra Amazon, med medarbejdere underskrive en juni brev til ledelsen krævende det cancel Rekognition kontrakter med retshåndhævelse.
Mange af dem, der er ansat bekymring blev delt af congresspeople Markey, Schakowsky, Jayapal, Khanna, Chu, og Lewis, der skrev i dag brev om, at de følte i bekymring over Rekognition “nøjagtighed spørgsmål”, og sandsynligheden for, at det ville placere “uforholdsmæssigt store byrder samfund af farve.”
Offentligt, Amazon har været stort set tavs om de potentielle negative virkninger af sin software til ansigtsgenkendelse. Som først rapporteret af Gizmodo, administrerende DIREKTØR for Amazon Web Services Andy Jassy behandlet første gang medarbejder bekymringer på en all-hænder møde tidligere i denne måned, hvor han citerede den software ‘ s servicebetingelser, som er centrale trafikale problemer til potentiel anvendelse i nedtrampning borgerlige rettigheder. Formentlig Amazon ville tilbagekalde software fra organisationer, der misbruger det—selv i en linje, der er sikker på at hjemsøge hende, VP for AWS Teresa Carlson udtalt, at “vi ofte ikke ved alt [kunder] rent faktisk anvender det værktøj,” ved dette års Aspen Sikkerhed Forum.
På Amazon ‘ s re:Opfinde konference i går, Jassy sagde, at “Selv om vi ikke har haft en rapporteret tilfælde af misbrug, er vi meget opmærksomme på, at folk vil være i stand til at gøre ting med disse services, der kan gøre skade.” Amazon fortsætter med at sælge denne potentielt skadelig software, uanset.
Lovgivere lukket i dag ‘ s brev med fire specifikke spørgsmål om drift og tilbøjelighed til, at Rekognition, og de er at give Amazon en streng svar frist den 13 December. Læs den fulde tekst her.
Dele Denne Historie