Foto: Zach Gibson (Getty)
Inside Silicon Valley, der Konsens ist, dass künstliche Intelligenz die wichtigste Technologie für das nächste Jahrzehnt. Okay, aber was zur Hölle heißt das für den rest von uns?
In einem Versuch, zu bauen, in der Transparenz und der Rechenschaftspflicht in der nächsten generation von Welt-verändernden Technik, die amerikanischen Gesetzgeber einen Gesetzentwurf am Mittwoch zu benötigen große Unternehmen audit machine-learning-Systeme für eine Voreingenommenheit.
Die demokratischen Senatoren Ron Wyden und Cory Booker eingeführt, die Algorithmische Accountability Act am Mittwoch. Demokratische Kongressabgeordnete Yvette Clarke eingeführt, die ein äquivalent bill in das House of Representatives.
Maschinelles lernen und künstliche Intelligenz bereits Kräfte einer verdächtig großen Bogen von entscheidenden Prozessen und-tools wie Gesichts-Erkennung, selbst-fahrenden Autos, ad-targeting, customer service, content moderation, Kontrolle, Einstellung und sogar Krieg. Es ist eine riesige Liste, und manchmal macht es Spaß, lehnen Sie sich zurück und staunen Sie, wie unterschiedlich all diese verwendet werden.
Genau, wie diese Entscheidungen getroffen werden und ob oder nicht Sie sind fair, aber oft undurchsichtig oder unerkennbar. Das problem wurde, führte der Gesetzgeber, um diesen Versuch zu hebeln öffnen Sie die “black box”.
Das neue Gesetz würde die Aufgabe der Federal Trade Commission mit Handwerk Verordnungen machen Unternehmen führen “impact assessments” der automatisierten Entscheidung-Systeme zu beurteilen, die den Systemen der Entscheidungsfindung und beruflichen Daten “für Auswirkungen auf die Genauigkeit, fairness, Befangenheit, Diskriminierung, Datenschutz und Sicherheit.”
Unternehmen, die über $50 Millionen pro Jahr oder hält die Daten von über einer million Personen würden gezielt durch die Rechnung.
“Computer sind zunehmend eingebunden in so viele wichtige Entscheidungen, die Amerikaner machen mit Respekt für Ihr tägliches Leben—ob jemand ein Haus kaufen, einen job zu bekommen oder sogar ins Gefängnis gehen,” Wyden sagte in einem interview mit Der Associated Press.
Dieses ist nicht ein hypothetisches Szenario. Eine situation betrachten, die sich bei Amazon im Jahr 2018. Der amerikanische tech-Riese, weltweit führend in AI, verwendet die Technologie, um zu entscheiden, welche Bewerber es sollte ein interview für Arbeitsplätze. Nach zwei Jahren, fanden Sie, dass alle weiblichen Bewerber wurde automatisch gesprengt, um die Rückseite der Liste.
Die KI Jetzt Institut Kate Crawford diskutiert den Vorfall in einem interview mit Kara Swisher.
“Es sagt uns zwei Dinge,” Crawford sagte. “Man, es ist eigentlich viel schwieriger, diese zu automatisieren Werkzeuge, als Sie sich vorstellen können, denn Amazon hat ein paar gute Ingenieure. Es ist nicht wie Sie wissen nicht, was Sie tun. Es erzählt auch Sie etwas über den Haufen, der Lebenslauf, die Sie hatten. Was waren für Sie die Ausbildung auf? Was war der Trainingsdaten? Überraschung, überraschung: eine Menge von weißen Jungs, die im Grunde Ihre gesamte engineering-pool.”
Innerhalb des letzten Monats, Facebook ist diskriminierende Werbung Praktiken kam ins Rampenlicht, und das Unternehmen jetzt auch Gesichter Gebühren von der Abteilung von Gehäuse und Stadtentwicklung für Diskriminierung unter der Fair Housing Act.
“Indem die großen Unternehmen, die nicht ein Auge zudrücken, gegen unbeabsichtigte Auswirkungen Ihrer automatisierten Systeme, die Algorithmische Accountability Act sorgt 21st Century technologies sind tools der Ermächtigung, anstatt Marginalisierung, während auch die Stärkung der Sicherheit und Privatsphäre von allen Verbrauchern,” Clarke sagte.
Teilen Sie Diese Geschichte