Foto: AP
Dager etter ACLU utgitt en fordømmende rapport på Amazon ‘s face recognition produktet Rekognition, Amazon’ s general manager av AI, Dr. Matt Tre, motvirkes sine funn i et blogginnlegg. Den ACLU brukt Rekognition å skanne ansiktene på alle 535 medlemmer av Kongressen, finne programvaren trodde 28 av dem for mistanke om kriminelle. Dr. Tre notater for det første at ACLU ikke avslører sin metodikk eller datasett i rapporten, så punctuates Amazon ‘ s opprinnelige svar—at det oppfordrer til økt selvtillit og terskler for politiet.
Påfallende mangler fra bloggen, men det var en bestemt innsigelsen til den enorme rasistiske avvikene som er avdekket av ACLU. For Kongressen som en helhet, feil pris var bare fem prosent, men for ikke-hvite medlemmer av Kongressen, feil pris var 39 prosent. Når en sentre denne etniske ulikheter, som blogginnlegg ikke, Dr. Tre siste punktet lyder som et argument mot ansiktsgjenkjenning bruk av politi engros.
Han skriver:
“I tillegg til å sette sikkerhetsterskel altfor lav, Rekognition resultatene kan være betydelig skjev ved hjelp av en ansikts-database som ikke er hensiktsmessig representant som selv er skjev. I dette tilfellet, ACLU brukt en ansikts database av mugshots som kan ha hatt vesentlig innvirkning på nøyaktigheten av Rekognition funn.”
La oss bryte dette ned.
Hvis et byrå er skanne en gruppe av mennesker mot en database, makeup av databasen vil selvfølgelig påvirke resultatet. En database av ansikter hentet fra Guadalajara sannsynligvis ikke vil være nyttig når du skanner mot ansikter i et kjøpesenter i Wisconsin. Dr. Tre hevder at arrestee database ACLU skannede kongressen medlemmer mot seg selv kunne ha blitt forskjøvet eller gir en uriktig fremstilling.
Men, her er hva vi vet om ansiktene til folk som blir arrestert i usa: De skrå mot å bli mørkere. For congresspeople, de skew lettere. Hvis overrepresentasjon av mørkere hud folk i mugshot databaser som spilte en viktig rolle i den svimlende etniske ulikheter i ACLU s funn, det samme argumentet kan gjøres nesten enhver tid loven håndheving skanner folk mot “skjeve” kriminelle databaser.
Wood ‘ s blogg, og reflekterer problemer på tvers av Silicon Valley i å ta tak i måten statistiske skjevheter (over/under-representasjon av varierende hudtoner påvirker nøyaktighet) overlapper med rasistiske fordommer (ansiktsgjenkjenning brukes til å medvirke prejudiced politiet systemer). De spiser hverandre. Mørkere hud personer er arrestert mer, vises i kriminelle databaser mer, og dermed er matchet mer. Dette overrepresentasjon er bevart og lenge før normalisering av ansiktsgjenkjenning i politiet.
Ærlig talt, det er et argument mot alle ansikt anerkjennelse, fordi kriminelle databaser er ikke, og har aldri vært, en perfekt representant for enten USA i stor eller medlemmer av kongressen.
Bloggen avsluttes ved å foreslå sikringstiltak for ansiktsgjenkjenning i hendene på politiet, lik de som anført av Microsoft president Brad Smith. Første, Amazon anbefaler rettshåndhevelse bare handle på kamper med 99 prosent tillit nivåer, høyere enn 80 prosent brukt i studien. Smith tilsvarende foreslått et minimum for politiet. Disse er anbefalinger, imidlertid, ikke regler. Kunne ikke Amazon nekte å fornye kontrakter for virksomheter som opererer ved hjelp lavere terskler? Hvorfor hvile på bare en “anbefaling?”
Til slutt, innlegget ender med å si Rekognition bør være “et innspill på tvers av andre som gjør fornuft” og ikke erstatte menneskelig dømmekraft, men “tillate mennesker å raskt gjennomgå og vurdere alternativer ved å bruke sin dømmekraft (og ikke gjøre fullt autonome beslutninger).” Sikker. Det er svært rimelig—med mindre du er den personen som har å forklare en offiser at du ikke er som datamaskinen sier at du er.
Forutsetningen for hyper-rasjonalitet og fordommer-fri tenkning i hver offiser med tilgang til denne teknologien taler til en større misforståelse av hvordan rase, fordommer og teknologi skjærer, med den pris som til syvende og sist betales av svært folk ignorert i disse typer forsvar.