Foto: Getty
Es gibt viele Belege dafür, dass die Gesichtserkennung tech ist weit von dienen als eine faire und korrekte Identifikation-tool, sondern weil der Sektor ist größtenteils Gesetzlos, diese Technologie ist einfach offensiver. Und laut einem neuen Bericht, in den Händen vieler Polizisten ist es in zutiefst dumme und unverantwortliche Weise.
Ein Bericht Des Center on Privacy & Technology an der Georgetown Law Center veröffentlichte am Donnerstag details eine Reihe von Möglichkeiten, in denen die Strafverfolgungsbehörden sind, die Ihre eigenen kreativen Freiheiten, wenn es um Fotos gefüttert wird, in die Gesichts-Erkennung-Datenbanken, um die Wahrscheinlichkeit einer falschen und ungerechten Verhaftung.
Ein NYPD-Präsentation detailliert Vorschläge für die Verwendung der Gesichtserkennung wurde ausgegraben in dem Bericht. Er beschrieb einige irritierend Möglichkeiten, sich kreativ mit der Technologie gearbeitet haben, aber nicht detailliert alle Fälle, oder Ansätze, die versagt haben. Ein Beispiel detailliert in dem Bericht ist, dass Detektive von einer Organisation, die läuft die Gesichtserkennung sucht für das NYPD verwendet ein Bild von Schauspieler Woody Harrelson aus einer Google-Bildersuche laufen über das system, weil der verdächtige sah wie er. Wenn der Algorithmus erkannt, dass eine übereinstimmung in das system, um das Foto Harrelson, die ermittelnden Beamten verwendet, um zu finden, ein vermuten (nicht Harrelson). Diese Organisation arbeitet mit der New Yorker Polizei, Gesichtserkennung Abschnitt (FIS), der auch ein Foto von einem New-York-Knicks-Spieler, der sah aus wie der Doppelgänger für einen Angriff vermuten.
Der Bericht besagt außerdem, dass mindestens sechs Polizei-Abteilungen im Land ausgeführt werden forensische Skizzen durch Gesichtserkennung Systeme. Also, eher als cross-check, jemand in das system mit ein Foto eines verdächtigen Gesicht, versuchen Sie zu finden sind Spiele basierend auf semi-realistischen Zeichnungen oder computer-mock-ups. Und diese sind nicht generiert, basierend auf aktuellen Fotos, Sie werden erstellt, basierend auf dem, was ein Zeitzeuge erinnert sich, die ist nicht besonders zuverlässig-Konto.
Abgesehen von Promi-Doppelgänger – Fotos und Skizzen, cops sind auch angeblich Fotos Bearbeiten, bevor Sie Sie füttern, um den Algorithmus. Zum Beispiel, nach dem Bericht, den die New Yorker Polizei hat ersetzt, die gesamten Gesichtszüge mit denen Sie auf Google-Bilder-Suche—wie der Wechsel aus einem offenen Mund, der mit einem Bild der Lippen auf dem internet gefunden oder geschlossenen Augen, mit geöffneten online gefunden. Detektive müssen auch kombiniert zwei verschiedene Gesichter, die alle gleich Aussehen in einer (denke “was wäre unsere nicht vorhandene Kind Aussehen?”) um die zu finden, die Leute umfasste. Sie haben auch verwendet, um sowohl den Blur-Effekt und der Klon Stempel-Werkzeug zu ergänzen, die Fotos vor der Suche durch die system.
Sergeant Jessica McRorie, stellvertretender Kommissar der Öffentlichen Informations-Sprecher, nicht leugnen, eine E-Mail an Gizmodo, die behauptet, dass das NYPD verwendet doppelgänger-Fotos für seine Gesichtserkennung system zur Identifizierung eines verdächtigen, sowie ersetzt Gesichtszüge in einige verdächtige Fotos mit Funktionen, die bei der Google-Bildersuche. Sie Tat charakterisieren Gesichtserkennung als “nur eine Führung” und erklärte, dass “es ist nicht eine positive Identifikation und es ist keine wahrscheinliche Ursache zu verhaften,” aber nicht angeben, ob die Abteilung hatte eine ausdrückliche Regelung zum Verbot Offiziere von der Verwendung als eine positive ID, anstatt nur einen assist.
“Niemand hat jemals verhaftet worden, auf der Grundlage einer Gesichtserkennung Spiel allein,” McRorie sagte. “Wie bei jeder führen, eine weitere Untersuchung ist immer notwendig, zu entwickeln, die wahrscheinliche Ursache zu verhaften.” Sie fuhr Fort:
Das NYPD wurde bewusste und verantwortliche Nutzung von Technologie der Gesichtserkennung. Wir vergleichen Sie die Bilder vom Tatort zu verhaften Fotos in der Strafverfolgung records. Wir beteiligen uns nicht an Masse oder zufällige Sammlung von Gesichts-Aufzeichnungen von NYPD-Kamera-Systeme, das internet oder social media. In jedem Fall, ob es zur Identifizierung eines verlorenen oder vermissten person oder die Täter eines Gewaltverbrechens, Gesichtserkennung Analyse beginnt mit einem spezifischen Bild, das ist im Vergleich zu anderen bestimmte Bilder zu entwickeln, die eine mögliche Führung. Führen wird, muss untersucht werden, indem Detektive zu entwickeln, die Beweise zu untermauern oder Rabatt.
Die New Yorker Polizei die Verwendung von Gesichtserkennung generiert hat, führt, die letztlich führte zu der jüngsten Verhaftung von einem Mann, der für das werfen der Urin in der MTA-Leiter, und ein anderer schiebt einen U-Bahn-Fahrgast auf die Gleise. Die leads haben auch zu Verhaftungen geführt, die für Morde, Vergewaltigungen und Raubüberfälle. Die New Yorker Polizei hat auch eine Gesichtserkennung für nicht-strafrechtlichen Ermittlungen, zum Beispiel eine Frau, die ins Krankenhaus mit Alzheimer identifiziert wurde, durch einen alten Verhaftung Foto für fahren ohne Führerschein.
Die New Yorker Polizei ständig reassesses unsere bisherigen Verfahren und im Einklang mit, dass in den Prozess der überprüfung unserer existierenden Gesichtserkennungs-Protokolle.
Es gibt mehrere beunruhigende Konsequenzen dieser experimentelle Ansatz für die Gesichtserkennung Systeme. Wie Georgetown Law Center Punkte in dem Bericht, diese tweaks und unorthodoxe Foto-Entscheidungen führen kann, die zu fehlerhaften Identifikation. Für investigative Zwecke, dies bedeutet, dass die falsche person verhaftet. Und das ist, warum, innerhalb der Liste der Empfehlungen am Ende des Berichts, der Mitte fordert diese Agenturen auf, klar abgegrenzt für Offiziere, was “ausreichend Bestätigung von einem möglichen match” sieht aus wie so gut wie komplett verboten Gesichtserkennung als ein Maß für eine positive Identifikation “unter keinen Umständen.” In anderen Worten, die Polizei darf nicht blind nehmen das Wort von einem algorithmischen entsprechen, da die endgültige vermuten. Die Empfehlungen auch darauf hin, das Verbot der Verwendung von Doppelgänger und forensische Kunst als legitime Daten Durchlaufen diese Gesichts-Erkennungssysteme.
“Als die Technologie, die hinter diesen Gesichtserkennung Systeme weiter zu verbessern, ist davon auszugehen, dass die Ermittlungen führt, noch genauer,” so der Bericht. “Doch ohne Regeln, was können und kann nicht eingereicht werden, da eine probe-photo, dieses ist weit entfernt von einer Garantie. Müll wird immer noch dazu führen, garbage out.”
Wir sind sehr viel in den frühen Phasen der Bereitstellung dieser überwachungssysteme auf einer massiven Skala, und wir sehen bereits, wie man Sie offensiver gegen ethnische Minderheiten und voreingenommen gegen Frauen und people of color. Diese algorithmen sind auch manchmal einfach nur komisch schlecht in Ihrem job sind. Und wenn die Gesichtserkennung Raum ist vor allem ungesetzlichen und ungeregelten, es ist entscheidend, um sicherzustellen, dass es nicht nur die Transparenz und Rechenschaftspflicht in Bezug auf, wie mächtig die Agenturen sind mit der tech, aber Sie haben eindeutig dargelegt wird, in welcher Weise Sie es verwenden können. Ansonsten werden wir sehen, mehr von diesen idiotischen Anwendungsfälle, die nur noch systemische Probleme für die am meisten gefährdeten.
Teilen Sie Diese Geschichte