Massachusetts Institute of Technology Gesichtserkennung Forscher Freude Buolamwini steht für ein Porträt hinter einer Maske in der Schule, in Cambridge, Mass. Buolamwini Forschung hat aufgedeckt, der Rasse und gender-bias in der Gesichts-Analyse-tools verkauft, die von Unternehmen wie Amazon, die haben eine harte Zeit erkennen bestimmter Gesichter, besonders die dunkler Hautfarbe, Frauen.Foto: Steven Senne / AP
Gesichtserkennung Experten, die als Zeugen vor einer Kongress-Anhörung am Mittwoch fand sich Breite Zustimmung: unter Berufung auf eine Litanei von Missbrauch, jeder gedrückt Bundes-Gesetzgeber reagiert damit auf die weit verbreitete, ungeregelte Nutzung der Technologie durch die Strafverfolgungsbehörden auf jeder Ebene im ganzen Land. Jedoch die Idee, wir sollten einfach Verbot die Polizei mit dieser Problematik und zur Zeit in der nachweislich rassistischen Technologie war irgendwie nicht das einzige argument, um gehört zu werden.
Einige Experten vorgeschlagen, in der Tat, dass, vielleicht, mit dem richtigen Maß an Regulierung, Amerika würde nicht übergehen, die in einem repressiven Polizei-Staat, nur weil seine Bürger haben Ihre Gesichter gescannt, jedes mal, wenn Sie Schritt außerhalb.
Zeugen vor dem Haus-Ausschuss für Aufsicht und Reform—Anwälte, Wissenschaftler, Akademiker und festgestellt, law enforcement professional—Sprachen lange über das Potenzial für Missbrauch und bietet eine Wäscherei-Liste von real-world Beispiele, bei denen die Gesichtserkennung schon verwendet trampeln die Rechte von US-Bürgern. Mit wenigen Ausnahmen, die Technik, die jeder Zeuge beschrieben, als beide zutiefst fehlerhaft und intrinsisch voreingenommen, wurde misemployed für das ungeschulte Polizisten, die es nutzen—von denen viele sich verborgen haben, die seine Verwendung von der Beklagten, die Verwicklung in die Verbrechen, die von dieser fehlerhaften algorithmen.
“Mit künstlicher Intelligenz zu verleihen, auf eine sehr subjektive visuelle Eindruck eines halo der digitalen Sicherheit ist weder faktenbasiert noch einfach”, sagte Dr. Cedric Alexander, ein ehemaliger Polizeichef und ex-sicherheitsdirektor für die Transportation Security Administration (TSA). “Aber”, Beklagte er sich, “es ist nicht illegal.”
Trotz bietet einige der stärksten Argumente für die-zumindest vorübergehend-das Verbot der Nutzung der Technologie, in der Feststellung zum Beispiel, dass es keine standards für die Arten von Bildern enthalten, die in “irgendeiner” Agentur Gesichtserkennung-Datenbank—”Wer ist in Ihr enthalten? Wer weiß?”—Alexander würde dem widersprechen, dass es Zeit war, sich zu “drücken Sie die pause-Taste” auf Gesicht Anerkennung, eine Meinung einhellig geteilt durch seine fellow-Experten berufen.
Andrew Ferguson, professor an der Universität des District of Columbia, zum Beispiel, nahm kein Blatt vor den Worten, in seiner Eröffnungsrede: “der Bau eines Systems mit dem potential willkürlich zu Scannen und zu identifizieren, Personen ohne kriminellen Verdacht und entdecken Sie, persönliche Informationen über Ihre Lage, Interessen oder Aktivitäten, kann und sollte einfach per Gesetz verboten ist.”
Aber in einem Raum, in dem sowohl Republikaner und Demokraten schien sich einig mit den Experten, die Gesichtserkennung stellt eine klare und gegenwärtige Bedrohung für die Amerikaner Bürgerrechte und der bürgerlichen Freiheiten—es gab zwei Gespräche auf einmal geschieht. In der Erwägung, dass Ferguson die Lösung wurde auf flat-out-Verbot, Polizei-algorithmen aus erlangen ungehinderten Zugang zu den (vielzitierten) “50 Millionen” überwachungskameras im ganzen Land, andere Vorschläge, die, vielleicht, es existiert eine Zukunft, in der alle Amerikaner ” Gesichter sind überwacht, aber nur unter ein faires und geordnetes system, transparent und nachvollziehbar für die Menschen.
[Gesichtserkennung] sollte nicht nur “auf pause”, bis die Amazon-zahlen, wie Sie fehlerfrei zu identifizieren, die die Bewohner des Schwarzen Gemeinschaften, wo einer meint, ein Großteil dieser AI-Kameras ausgestattet wird zwangsläufig eingesetzt werden.
Das deutlichste Beispiel HIERFÜR wurde in Anweisungen über die innewohnende Voreingenommenheit der Gesichtserkennung, die Studien haben wiederholt gezeigt werden dramatisch weniger präzise, wenn es um Gesichter von Frauen und Menschen der Farbe. “Unsere Gesichter kann gut sein, die Letzte Grenze der Privatsphäre,” sagte Freude Buolamwini, Gründer der Algorithmischen Justice League, dessen Forschung zur Gesichtserkennung Werkzeuge am M. I. T. Media Lab identifiziert, die eine 35-Prozent-Fehlerquote für Fotos von dunkler Hautfarbe und Frauen, im Gegensatz zu Datenbank-Recherchen nach Fotos von weißen Männern, die sich genau 99 Prozent der Zeit.
“In einem test von Amazon Anerkennung auch nicht auf das Gesicht von Oprah Winfrey Kennzeichnung Ihrer männlichen”, sagte Sie. “Ich persönlich habe zu greifen, um buchstäblich das tragen einer weißen Maske an meinem Gesicht erkannt, durch die einige dieser Technologien. Codierung in das weiße Gesicht, ist das Letzte, was ich erwartet hatte, zu tun an M. I. T., eine amerikanische Epizentrum der innovation.”
Die nachgewiesene Neigung der Gesichtserkennung Systeme wurde präsentiert von Buolamwini, unter anderen, als ein Grund zu erklären, ein “moratorium” auf die Verwendung von Gesichtserkennung; das ist, vorübergehend seine Verwendung zu untersagen, bis die Technologie verbessert, oder “gereift”, wie ein Zeuge es ausdrückte.
Ein moratorium ist sowohl geeignet und erforderlich, sagte Clare Garvie, der Autor einer aktuellen Studie, die am Georgetown Law Center auf Privatsphäre und Technologie, die die Polizei gefunden hatte, used-look-alike-Promi-Fotos und der Polizei, Skizzen, versuche, um verdächtige identifizieren. Sie fügte jedoch hinzu: “Es kann sein, dass können wir schaffen Regeln der gesunde Menschenverstand, dass die Unterscheidung zwischen angemessenen und unangemessenen Gebrauch—verwendet, die Förderung der öffentlichen Sicherheit und verwendet, die drohen, unsere bürgerlichen Rechte und Freiheiten.”
Diese Argumente lassen zumindest ein wenig Spielraum für den Gesetzgeber, den Begriff unterhalten, dass es eine Zukunft, in der eine künstliche Intelligenz entwickelt, für die Polizei zu verwenden, scannt die Gesichter der Amerikaner, wenn Sie Ihre Häuser verlassen. Es ist eine vision, die von einem Polizeistaat, das ist “gut”, dass die Polizei sich um ethische und das nur, weil Sie zur Rechenschaft gezogen werden durch Regeln und Vorschriften; eine Zukunft, in der die Polizei die Verfahren sind offen und transparent, und die Angeklagten immer die ganze Geschichte über, wie Sie kam unter Verdacht in den ersten Platz.
Letztlich ist dies eine absurde Fantasie, der ignoriert, was ist Allgemeines wissen über die Geschichte der menschenrechtsverletzungen durch US-Strafverfolgungsbehörden über die relevanten letzten halben Jahrhunderts. In den letzten zwei Jahren allein, eine Untersuchung von der Associated Press, entdeckten die Polizeibeamten im Land missbraucht “vertraulich Strafverfolgungs Datenbanken, um Informationen zu bekommen über romantisches Partner, Geschäftspartner, Nachbarn, Journalisten und andere Gründe, die haben nichts zu tun mit der täglichen Arbeit der Polizei…” Die Realisierung dieser ausgebreiteten Missbrauch durch die Polizei nicht auffordern Kongress, Maßnahmen zu ergreifen. Sie hatte nicht einmal davon abhalten, die Art der Polizei-stalking ist, dass die Reporter ausgesetzt.
Ein Florida-Polizisten, es wurde berichtet, im März dieses Jahres, die “mehrere hundert fraglich Datenbank-Abfragen von Frauen”, so die Behörden. Mindestens 150 Frauen ins Visier genommen wurden. Mitarbeiter in Bundesbehörden, deren Arbeit ist hoch klassifiziert, wurden auch für schuldig befunden, dieses Verhalten. 2013 Bericht von der National Security Agency ‘s Office of Inspector General, zum Beispiel detailliert, wie ein NSA-Mitarbeiter an seinem ersten Tag der Arbeit”abgefragt sechs e-mail-Adressen gehören zu einer ehemaligen Freundin, eine US-person, ohne Genehmigung.”
In jedem dieser Fälle gab es bereits Regelungen über die Bücher zu verbieten, die Art von Missbrauch begangen. Sie hatten einfach keine Wirkung.
Während die Zeugen am Mittwoch unterhielt die Vorstellung, dass einige gesetzgeberische Lösung geben könnte, die es erlaubt Strafverfolgungsbehörden verwenden der Gesichtserkennung, Sie haben auch dargelegt, weshalb eine solche Lösung würde im wesentlichen verfassungswidrig sowieso. Der Kongress könnte genauso gut geben der Polizei die Möglichkeit zum sammeln von DNA -, Fingerabdruck -, oder Handy-Standort Geschichte aus einer Laune heraus, ohne eine Vorladung, Haftbefehl oder Gerichtsbeschluss jeglicher Art.
“Diese macht wirft Fragen auf zu unserem Vierten und First Amendment protections,” sagte Garvie. “Polizei kann nicht heimlich Fingerabdruck einer Menge von Menschen von gegenüber der Straße. Sie kann auch nicht zu Fuß durch das Publikum anspruchsvoll, die jeder produzieren Ihren Führerschein. Aber Sie können Scannen Sie Ihre Gesichter aus der Ferne und im verborgenen, und identifizieren jede person durch Gesicht Anerkennung Technologie.”
Ein Gesichtserkennungs-Programm, das stellt keine rassistischen bias ist immer noch der gruseligste verwendet von Technologie von Strafverfolgungsbehörden immer. Es sollte nicht nur “auf pause”, bis die Amazon-zahlen, wie Sie fehlerfrei zu identifizieren, die die Bewohner des Schwarzen Gemeinschaften, wo einer meint, ein Großteil dieser AI-Kameras ausgestattet wird zwangsläufig eingesetzt werden.
Teilen Sie Diese Geschichte