Foto: Getty
Früher in diesem Jahr, ist Amazon die Gesichtserkennung tech Rekognition—das kann Scannen Fotos und videos und passen Sie an, gegen Datenbanken von Gesichtern, die—angesichts einer Flut von Kritik aus der Amazon-Mitarbeiter, Aktionäre, und die Bürgerrechtler, die argumentierten, dass Ihre Verwendung durch Staatliche stellen war unethisch oder sogar gefährlich. Das Umkehrspiel wurde angespornt durch eine ACLU-Bericht, die zeigen, wie Amazon arbeitete mit Strafverfolgungsbehörden Markt sein surveillance-tech—und jetzt neue Dokumente bieten mehr Einblick, wie Amazon geben dieses umstrittene Instrument der Polizei.
Am Freitag, Buzzfeed News veröffentlicht Dokumente, die über einen öffentlichen Aufzeichnungen Anfrage weitere Details über die Beziehung zwischen Amazon und der Orlando Police Department, die an der pilot-Programm der Rekognition die Echtzeit-Gesichtserkennung-software. Im Juni, die Polizei hat angekündigt, dass seine erste Vertrag mit Amazon abgelaufen war, aber im Juli, die Stadt sagte, dass es weiterhin testen Rekognition.
Nach BuzzFeed, Amazon, sofern die Stadt Orlando mit “Zehntausende von Dollar der Technik” gratis dazu. Dies unterstützt ein Washington Post-Bericht, der fand, dass Oregon, Washington County, deren Polizei auch pilotiert Rekognition—nur gezahlt, $6 bis $12 pro Monat für den service. Das ist etwa, wie viel es kostet für ein Netflix-Abonnement.
Außerdem werden die neuen Dokumente zeigen, dass Amazon erforderlich Orlando zu unterzeichnen eine Geheimhaltungsvereinbarung (NDA) halten würden details über den Piloten unter Verschluss. Die ACLU zuvor entdeckt Washington County ebenso unterzeichnet eine Geheimhaltungsvereinbarung mit Amazon. Geheimhaltungsvereinbarungen sind par für den Kurs für tech-Unternehmen, und Amazon behauptet, dass so ist, die einen Menschen mit freiem Piloten Ihre Dienste an.
“Um Kunden die Möglichkeit zu testen-Technologie mit freien Krediten ist eine gängige Praxis in der Industrie und etwas, was wir bieten zu vielen unserer Kunden mit verschiedenen AWS-services,” Amazon Web Services-Sprecher gegenüber Gizmodo in einer Erklärung. “Miteinander reden-Organisationen über Produkte und neue Funktionen unter ein non-disclosure agreement ist auch etwas, was wir tun, Häufig mit vielen unserer Kunden für die Zwecke des Schutzes geistigen Eigentums und Wettbewerbsinformationen. Wir unterstützen unsere Kunden in den verantwortungsvollen Umgang mit den Technologien, die die Bereitstellung von öffentlich verfügbaren best practices und Dokumentation sowie laufende Führung von unserem machine-learning-Experten, die alle die standard für Kunden-engagements.”
Vielleicht die interessantesten Informationen in den neuen Dokumenten, aber auch, wie Orlando Beamten gekämpft, um Amazon-Technik arbeiten. Es scheint, Strafverfolgungs-teams haben dieses weithin kritisiert Technologie mit wenig—wenn überhaupt—training. Sgt. Eduardo Bernal des Orlando Police Department sagte BuzzFeed, dass Amazon nicht liefern jede person, die Anweisungen zur Verwendung Rekognition, einschließlich auf welche Fotos Sie hochladen können, um die Datenbank zu erstellen Sie Ihre Liste von mutmaßlichen Straftätern.
E-Mails enthalten, in die Dokumente deuten darauf hin, dass die pilot-Programm war weit Weg von makellos, mit internen und öffentlichen Kommunikation über it-gespickt mit Pannen und Verwirrung von Anfang an. Ein Februar-E-Mail zeigt einen Beamten der Stadt beschweren sich über die verspätete Lieferung von Amazon-tech. Sobald es eingerichtet wurde, die Probleme scheinbar weiter.
“Die streams immer wieder anhalten….scheint so, das passiert täglich” März-Mails von Orlando offizielle liest. “Angefangen habe ich 4 oder 5 streams der andere Tag, und als Sie sagte, jetzt nur noch 1, ist noch bis. Ich dachte, Sie arbeiteten an einem Skript, um automatisch neu zu starten, wenn es Probleme?”
Es ist nicht verwunderlich das Programm noch nicht gearbeitet, alle seine Knicke noch raus. Wir sahen die beunruhigenden Implikationen des system-Fehler in Juli, wenn der ACLU von Nord-Kalifornien zeigte, dass Rekognition falsch geflaggt 28 Mitglieder des Kongresses, wie die Menschen von Verbrechen verdächtigt. Der 28 fälschlicherweise Mitglieder wurden 11 Menschen von Farbe. Was mehr ist, ist die Fehlerquote für nicht-weiße Mitglieder des Kongresses, wurde bei 39 Prozent, im Vergleich zu fünf Prozent für den Kongress als ganzes. Der test kostet nur $12.33.
Das ist eine entscheidende treibende Faktor hinter Forderungen für Amazon zu stornieren Gesichtserkennung Verträge mit Strafverfolgungsbehörden—die Technologie ist derzeit fehlerhaft, voreingenommen und, in den falschen Händen ein mächtiges Werkzeug für die Diskriminierung. Derzeit, Orlando sagt, es wird nur die software zu testen, durch die passenden Gesichter gegen Fotos von freiwillige Polizei-Offiziere, aber es ist leicht vorstellbar, weitere schlimme Folgen, wenn die Nutzung dieser Technologie erweitert wird.
“Jedes Unternehmen, das in diesem Raum, die bereitwillig die Hände dieser software über eine Regierung, sei es Amerika oder einer anderen nation, ist vorsätzlich gefährden das Leben der Menschen,” Brian Brackeen, CEO der Gesichtserkennung und AI startup Kairos, schrieb in einem op-ed im Juni. “Wir brauchen eine Bewegung von der Spitze jedes einzelnen Unternehmens in diesem Raum zu beenden, diese Art von Vertrieb.”
[BuzzFeed]
Teilen Sie Diese Geschichte