Foto: Carolyn Kaster (AP)
Fjorårets brede og kritiske kongressens høringer fanget Facebook, Google, Twitter, Apple og andre tech gigantene i deres dragnet. Amazon, for det meste, kom seg ut uskadd, men det kan endre seg snart.
Den ACLU forskere reist bekymringer over Rekognition, Amazon ‘ s facial anerkjennelse software suite, denne siste sommeren når de oppdaget hva forskere karakterisert som vesentlige feil i produktet. Dette fikk en henvendelse fra lovgivere inkludert Senatorer Ron Wyden, Chris Coons, og Ed Markey. Amazon er utilfredsstillende respons bedt om enda en henvendelse i November. Ledet av Markey, dette arbeidet var sammen med sju andre lovgivere inkludert Kongressmedlem Jimmy Gomez, en California-Demokrat.
“Vi har ikke fått mye informasjon, og det virker som [for] noen som er veldig trygg på deres produkt er det overraskende at de ikke vil svare på disse spørsmålene,” Gomez fortalte Gizmodo.
Siden dette andre brevet var sendt, men en annen studie indikerte tilstedeværelse av bias i Rekognition. Amazon hevder at verken sett av forskere som følges selskapets retningslinjer for programvaren, men rapportering av Gizmodo fant at Rekognition er bare kjent politi klient—Washington County Sheriff ‘ s Office i Oregon—ikke følg de foreslåtte retningslinjene i sin bruk av programvaren. Representant Gomez sa at hans ansatte bedt om Amazon hvis selskapet utfører revisjon for å sørge for at deres kunder bruker programvaren som anvist: “De sa,” vi må komme tilbake til deg.’”
Det er mulig det er andre politimyndigheter kunder foruten WCSO, men Amazon nekter å avsløre dem til journalister eller lovgivere. “De har ikke gitt oss den listen av sine kunder,” Gomez fortalte Gizmodo. Han refererte til rapportering av Daglige Dyret som angitt Amazon hadde vært aktivt pitching Innvandrings-og Customs Enforcement på å bruke Rekogntion, noe han kalte “en stor bekymring til Latino samfunnet som et hele samt andre pro-innvandrer-forkjempere.”
Gallingly, den nærmeste Amazon har kommet til å svare på spørsmålene var et blogginnlegg forrige uke av Michael Punke, vice president of global public policy på Amazon Web Services, hvor han har gitt fem brede ideer for regulering av politi bruk av facial anerkjennelse teknologi, oppmuntrende ” politikere til å vurdere disse retningslinjene som potensielle lovgivning.” Punke ‘ s forslag omfatter følgende loven, menneskelig gjennomgang av kamper når identifisering av mistenkte, og for at politiet skal kunne være åpen om sin bruk av verktøy.
“Vi oppfordrer politikerne til å vurdere disse retningslinjene som potensielle lover og regler er vurdert i USA og andre land,” Punke skrev i innlegget, som han sa er ment å fremme en “åpen, ærlig og oppriktig dialog mellom alle involverte parter for å sikre at teknologien er brukt riktig og er kontinuerlig forbedret.”
Med selskapet fortsatt stonewalling lovgivere, Gomez har til hensikt å bringe selskapets representanter i for avhør. “Jeg er for tiden har denne diskusjonen med Leder av Underutvalg på Sivile Rettigheter og borgerrettigheter,” sa han. “Vi skal gjøre vårt tilfelle at det bør være en høre på det.” En talsmann for Rep. Jamie Raskin, underutvalg styreformann, sa Gizmodo at mens “Komiteen og subcommittee høring tidsplanen er ikke fastsatt ennå, men jeg vet dette er ett av mange temaer som har vært reist av Medlemmer og blir diskutert.”
“Vi har fortsatt å ha en alvorlig samtale på bruk av denne teknologien. Hvor nøyaktig det er?” Gomez sa, “Hvorfor er det slik at andre store selskaper er ikke selge det til politiet?”
Vi har nådd ut til den andre lovgivere som har signert disse to brev med spørsmål til Amazon og vil oppdatere hvis de gir kommentar. Amazon ennå ikke svare på vår forespørsel om å kommentere Gomez ‘ s innsats.
Oppdatering 2/12/19 3:25 pm EST: Vi har fått følgende uttalelse fra Senator Chris Coons:
Ansiktsgjenkjenning teknologien har utviklet seg raskt, og presenterer nye og unike muligheter for å gjøre samfunnet tryggere. Men, som med all ny teknologi, disse fordelene må veies opp mot kjernen personvern og borgerrettigheter. Vi bør etablere klare retningslinjer rundt bruk av facial anerkjennelse teknologi, herunder bruk av politi, som treffer den rette balansen. Jeg ser frem til å jobbe med mine kolleger og alle interessenter mot det målet.
Deler Denne Historien