Foto: David McNew (Getty)
Axon, Amerikas größter Polizeibehörde Kamera-Hersteller, ist derzeit das Verbot der Verwendung von face recognition Technologie in seine Produkte nach Ihrer unabhängigen Ethik-Ausschuss sagte am Donnerstag, dass die “Technik ist noch nicht zuverlässig genug, um seine Verwendung zu rechtfertigen, am Körper getragenen Kameras” durch “ungleiche und unzuverlässige Leistung über Rassen, Ethnien, Geschlechtern und anderen identity-Gruppen”.
Einst vor allem bekannt für den Verkauf der Taser, Axon ist jetzt ein 300-Millionen-Dollar-Unternehmen verkaufen eine suite von Technologien, einschließlich Polizei-Körper-Kameras zu 17.000 Strafverfolgungsbehörden in über 100 Ländern. Vertreibt das Unternehmen auch sogenannte “intelligente” Waffen für den militärischen und behördlichen Einsatz.
In den letzten zehn Jahren Axon verlagerte sich stark auf den Verkauf Polizei-Körper-Kameras. Da die Technologie hat zugenommen, die bürgerlichen Freiheiten Experten sind zunehmend besorgt, dass die Geräte, die verwendet werden können, um heimlich einzuführen, heftig kritisiert Gesicht Anerkennung Technologie in die Städte.
San Francisco ist die Erste US-Stadt zu Verbieten, Gesichtserkennung, Überwachung
San Francisco am Dienstag wurde die erste Stadt in Amerika das Verbot der Gesichtserkennung…
Lesen Sie mehr Lesen
Barry Friedman, Direktor des Policing-Projekt an der New York University School of Law und Mitglied der Axon die Ethik-Vorstand, sagte in einer Erklärung, die “sehr Reale Besorgnis” über bias im Gesicht Anerkennung Technologie machen es zu riskant, um in Polizei-Körper-Kameras.
“Derzeit gibt es sehr Reale Bedenken hinsichtlich der Genauigkeit der Gesichtserkennung, und besonders über die Vorurteile in der Weise identifiziert er die Menschen entlang rassischen, ethnischen und gender-Linien,” Friedman sagte. “Bis wir Sie ansprechen und um diesen Herausforderungen können wir nicht riskieren Einbeziehung Gesicht Anerkennung Technologie in der Polizeiarbeit. Der Ethik-Ausschuss begrüßt Axon für konsequentes handeln mit dieser.”
In einer Erklärung per E-Mail an Gizmodo, Axon sagte “wir, als Unternehmen, Stimmen mit” dem Ethik-Gremium die Schlussfolgerung, die Gesicht Anerkennung Technologie, sollte ausgeschlossen werden von der Axon body-Kameras.
“Aktuelle Gesicht-matching-Technologie wirft ernste ethische Bedenken. Darüber hinaus gibt es auch technische Beschränkungen der Verwendung dieser Technologie auf Körper-Kameras,” Axon sagte. “Im Einklang mit der Board der Empfehlung, Axon wird nicht kommerzialisiert Gesicht die passenden Produkte, die auf unseren Körper-Kameras zu dieser Zeit.”
Das aktuelle Verbot wurde erstmals berichtet von der New York Times.
Letzten Monat in San Francisco war die erste amerikanische Stadt zu verbieten, die von der Regierung geführt Gesichtserkennung überwachung. In der Nähe von Oakland angezeigt wird, bereit, das gleiche zu tun, und die Rechtsprechung in den Vereinigten Staaten sind in unterschiedlicher Staaten zu untersuchen, die ähnliche Ideen. In New York, zum Beispiel, ein Vorschlag, der ein Verbot Vermieter von der Nutzung der Gesichtserkennung überwachung auf Mieter. Kalifornien erwägt ein landesweites Verbot von Gesichtserkennung bei der Polizei body-cams.
Es ist eine Vertiefung sowie der Forschung unterstreichen die tiefgreifenden Probleme von Gesicht Anerkennung Technologie der Videoüberwachung. Wie Gizmodo bereits berichtet:
Die Mehrheit der amerikanischen Erwachsenen sind der Polizei die Gesichtserkennung-Datenbank, nach einem Georgetown Law studieren. Eine MIT-Studie gefunden, dass Rekognition, Amazon beliebte Gesichtserkennung Produkt, Kämpfe zu identifizieren, die die Gesichter der Frauen und people of color. Eine Studie, die von der ACLU im Jahr 2018 gefunden Amazon Rekognition falsch abgestimmt 28 Mitglieder des Kongresses, mugshot Fotos, und, dass die Ergebnisse überproportional negativ beeinflusst, die Menschen von Farbe.
Das Axon des Ethik-Gremiums, das war besetzt von der Polizeiarbeit Projekt auf Wunsch von Axon selbst, argumentiert in seinem 42-seitigen Bericht in real-world-Bedingungen, die Art von schwer vorherzusagen Aktion ein Polizei-Offizier steht täglich—”face recognition-Technologie führt ganz schlecht — sowohl in Bezug auf die false negatives und false-positives.”
Der Vorstand wies auch auf die Diskrepanz in der Leistung zwischen weißen gegenüber people of color und Männer im Vergleich zu Frauen, zum Teil aufgrund nicht repräsentativer Trainingsdaten, verstärkt Jahrzehnte und mehr der Voreingenommenheit.
Im letzten Jahr, Axon festgestellt, einen Ethik-Ausschuss konzentriert sich auf die künstliche Intelligenz und die Polizeiarbeit Technologie. Fast sofort, die zunehmende Nutzung von Axon Körper-Kameras überwachungs-tools wurde der erste Punkt des Fokus.
Unter den Satz von sechs Schlussfolgerungen als detaillierter Bericht, der Vorstand von sich aus gesagt, dass AI Ethik-Komitees sind nicht annähernd so wichtig wie die Staatliche Regulierung der AI-überwachung Technologien—Verordnung, die derzeit weitgehend fehlen. Der Bericht liest:
“Auch wir sind stark Gläubigen in der Notwendigkeit, die Bestimmungen der Regierung der Gesichtserkennung. Obwohl wir applaudieren Axon ist Zurückhaltung und Engagement für die Ethik durch die Erstellung und Verwendung von dieses Board, wir wissen, dass wir nicht alle Antworten haben und sind nicht repräsentativ für alle Gemeinden, in denen face recognition schließlich könnten bereitgestellt werden. Wir können nicht verlassen sich auf private Unternehmen zu Regeln, die sich völlig, obwohl wir sicher halten Sie an hohen ethischen standards. Zu diesem Zweck rufen wir Regierungen—auf Bundes -, Landes -, oder lokale—auf Schritt und füllen Sie diese regulatorische Lücke, wie einige bereits begonnen haben, zu tun.”
Im Jahr 2018, Microsoft President Brad Smith forderte bundeseinheitliche Regelung der Gesichtserkennung, und das Unternehmen gewann Auszeichnungen in der Presse im April für die Veröffentlichung seiner Entscheidung zu geben Gesicht Anerkennung Technologie, um ein California law enforcement agency.
“Wir Leben in einer nation der Gesetze, und die Regierung muss eine wichtige Rolle spielen bei der Regulierung der Gesichtserkennung-Technologie,” Smith schrieb. “Als Allgemeines Prinzip, scheint es sinnvoller zu Fragen, eine gewählte Regierung zu Regeln-Unternehmen als zu Fragen, nicht gewählte Unternehmen zu regulieren, wie eine Regierung.”
Obwohl Axon davon ab, mit Gesicht-Erkennung-Technologie in seinem Körper-Kameras für jetzt, es offen gelassen, die Möglichkeit der Verabschiedung zu einem späteren Zeitpunkt. Das Unternehmen erklärte in seiner Aussage glaubt, dass es das “face-matching-Technologie, verdient weitere Forschung, um besser zu verstehen und zu lösen, für die wichtigsten Probleme in dem Bericht identifiziert werden, einschließlich der Evaluierung der Möglichkeiten, um de-bias-algorithmen, wie der Vorstand empfiehlt.” Axon ‘ s Ethik-Ausschuss erwartet, dass das Thema aufzugreifen “in regelmäßigen Abständen”, wie die Technologie ändert.
Teilen Sie Diese Geschichte