Foto: Getty
Gesichtserkennung Systeme sind noch weit davon entfernt, präzise, und doch Behörden weiterhin für die Bereitstellung. Zur Veranschaulichung der bestehenden Mängel der tech, die ACLU durchgeführt anderen test der Amazon Rekognition software, die fälschlicherweise identifiziert man in fünf Kalifornien-Gesetzgeber wie Streichhölzer um ein mugshot Datenbank.
Der test wurde detailliert bei einer Pressekonferenz am Dienstag in San Francisco Assemblymember Phil Ting genannt, für die Unterstützung einer Gesetzesvorlage, die ein Verbot der Verwendung von Gesichtserkennung in Polizei-Körper-Kameras. Die ACLU lief 120 Bilder von Kalifornien-Gesetzgeber gegen eine 25.000-Bild mugshot-Datenbank mit Amazon Rekognition software und fand 26 übereinstimmungen, inklusive Ting.
“Wir laufen wollten dies als eine demonstration, wie diese software ist absolut nicht bereit für die prime time,” Ting sagte während der Pressekonferenz. “Während wir lachen können, über die es als Gesetzgeber, es ist nicht zum lachen, wenn Sie sind eine Person, die versucht, einen job zu bekommen, wenn Sie versuchen, um ein Haus zu kaufen, wenn man fälschlicherweise beschuldigt, eine Verhaftung, was passiert, könnte es Auswirkungen auf Ihre Fähigkeit, Beschäftigung zu erhalten, ist es absolut Auswirkungen auf Ihre Fähigkeit zu erhalten Gehäuse. So gibt es Reale Menschen, die Reale Auswirkungen.”
ACLU-Anwalt Matt Cagle sagte während der Pressekonferenz, dass ein Informatiker, der zuletzt arbeitete an der UC Berkeley unabhängig verifiziert die Ergebnisse. Die civil liberties Organisation beschäftigt eine ähnliche Methodik, um die Tests durchgeführt, im letzten Jahr, in dem Sie versucht, Amazon Rekognition auf Mitglieder des Kongresses. Diese demonstration aufgewühlt ungenau und rassistisch verfälschte Ergebnisse. Obwohl Cagle fügte hinzu, dass die beiden tests sollten nicht angesehen werden als ein und das gleiche, da Sie auf die verschiedenen Bilder und potenziell unterschiedliche algorithmen.
Wenn für einen Kommentar gebeten, ein Amazon-Sprecher gegenüber Gizmodo:
Die ACLU ist wieder einmal wissentlich missbraucht und falsch interpretiert Amazon Rekognition zu Schlagzeilen machen. Wie wir gesagt haben viele Male in der Vergangenheit, wenn Sie Sie mit der empfohlenen 99% KONFIDENZ-Schwelle und als ein Teil einer vom Menschen gesteuerten Entscheidung, Gesichts-Anerkennung Technologie kann verwendet werden für eine lange Liste von nützlichen Zwecke, von der Unterstützung bei der Identifizierung von Straftätern zu helfen, finden vermisste Kinder zu hemmen Menschenhandel. Wir werden weiterhin eintreten für die Bundesgesetzgebung von Gesichts-Anerkennung Technologie, um sicherzustellen, verantwortlich nutzen, und wir teilen unsere konkreten Vorschläge für das privat mit politischen Entscheidungsträgern und auf unserem blog.
Cagle, jedoch, argumentiert gegen den Vorwurf, dass die ACLU hat nicht 99 Prozent KONFIDENZ-Schwellwert, Angabe während der Pressekonferenz, dass Sie die Standard-Einstellungen in der Amazon-Produkt, das zu 80 Prozent Vertrauen der Gäste, und die Voreinstellung für die Benutzer, wenn Sie das system einschalten.
Der Sprecher reagierte darauf mit dem Hinweis zu einem blog-post, dass ein Amazon-Mitarbeiter schrieb nach der ACLU der Letzte test, die darauf hingewiesen, dass für die öffentliche Sicherheit Anwendungsfälle, Rekognmition sollte nicht verwendet werden, die weniger als eine 99-Prozent-Konfidenzniveau, ein Punkt, der Sprecher bekräftigte Gizmodo. “Aber, maschinelles lernen ist ein sehr wertvolles Werkzeug, um die Strafverfolgungsbehörden, und zwar geht es richtig angewendet, sollten wir nicht wegwerfen, Backofen, da die Temperatur könnte falsch eingestellt und brennen Sie die pizza,” Amazon schrieb in dem blog-post von Juli.
Sonderbar pizza Metaphern beiseite, bleibt die Frage: Warum machen Sie nicht eine 99-Prozent-Schwelle die Standardeinstellung für die Rekognition? Amazon nicht sofort eine Antwort für uns.
Während der vertrauenswert verwendet, die von der ACLU war weniger als die, die vorgeschlagen, dass der von Amazon für die Strafverfolgung Anwendungsfälle, war es noch eine ziemlich hohe Stufe, und eine, die standardmäßig für andere Anwendungsfälle, und wenn der Zweck war es, einfach darauf hinzuweisen, dass dieser Technologie die Fähigkeit hat, die unter normalen Umständen zu versauen, es erreicht dieses Ziel.
Cagle sagte, dass Fehltreffer setzen würde, unschuldige Menschen in diese Gemeinschaften in Gefahr, nicht nur verhaftet, aber von der verletzt und getötet von der Polizei. Und der Gesetzgeber, als Freiheit und Gerechtigkeit-Befürworter bei der Pressekonferenz darauf hingewiesen, dass selbst wenn Amazon und andere ähnliche tech-Unternehmen entwickelt, die eine einwandfreie facial recognition system, die Installation dieses tech in Körper cams wandelt ein Gerät für cop Rechenschaftspflicht in ein Gerät, das würde zu Unrecht Auswirkungen auf gefährdete Bevölkerungsgruppen.
“Polizei-Körper-Kameras sind in Gemeinden, in denen die Polizei, das sind in Erster Linie die Gemeinschaften der Farbe Gemeinden, in denen Migranten Leben,” Cagle sagte. “Und so, auch wenn diese algorithmen waren vollkommen richtig, diese Gemeinschaften würden diejenigen sein, die wären unverhältnismäßig geschädigt durch die überwachungs-Praktiken.”
Teilen Sie Diese Geschichte