Foto: Justin Sullivan (Getty)
Stanford Universität, der bastion der höheren Bildung bekannt für die Herstellung von Silicon-Valley der Zukunft ins Leben gerufen, das Institut für Human-Centered Artificial Intelligence in dieser Woche mit eine riesige party. Große Namen und Milliardäre wie Bill Gates und Gavin Newsom eingereicht, in campus, um wieder die erklärte mission, dass “die Schöpfer und Designer der KI muss weitgehend repräsentativ für die Menschheit.”
Die neue AI-Institut hat mehr als 100 Mitglieder der Fakultät aufgeführt, die auf Ihre website, und am Donnerstag, cybersecurity-executive Chad Loder bemerkt, dass nicht ein einziges Mitglied des Stanford ‘ s neue AI Fakultät war schwarz.
Was dann geschah, war eine seltsame Kunststück, public relations.
Wenn Gizmodo erreichte Stanford am Donnerstag morgen, dem Institut wurde die Homepage schnell aktualisiert und enthalten ein bisher nicht aufgeführtes Mitglied der Fakultät, Juliana Bidadanure, ein Assistent professor für Philosophie. Bidadanure nicht aufgeführt wurde, unter der Instituts-Mitarbeiter vor unserer E-Mail an die Schule am Donnerstag, nach einer version der Seite erhalten auf der Internet Archive Wayback Machine, aber Sie hat sprechen in dieser Woche auf der Instituts-opening. In der Tat, der Schule erschienen zu sein indem Bidadanure, und später Ihr bio, Fakultät Seite, wie ich war, diesen Artikel zu schreiben.
Basierend auf unseren zählen, das Institut mathematisch-naturwissenschaftliche Fakultät umfasst 72 weiße Männer aus insgesamt 114 Mitarbeitern, oder 63 Prozent—eine Zahl, die offenbar in jedem moment ändern. Stanford reagierte nicht auf unsere Fragen.
Ungefähr eine Stunde Fahrt von Stanford, wartete ich am Mittwoch Abend in einer langen Schlange von 150 Leuten in Berkeley, Kalifornien, um in einer ausverkauften Aula. Wir kamen alle zu hören, das Oxford Internet Institut Dr. Safiya Edel, Autor des 2018 Buch Algorithmen von Unterdrückung sprechen, wie die Silicon-Valley-algorithmen—der code der Fahrt alles aus Suchmaschinen in die künstliche Intelligenz—Rassismus stärken können.
“Es war sehr schwierig, Leute zu finden, die auf einer dissertation Ausschuss im Jahr 2010, wäre bereit, setzen Ihren Namen auf die Linie und sagen, dass wir denken, dass Technologie zu diskriminieren oder, dass die algorithmen zu diskriminieren,” Nobel, die damit begann, Ihre Forschung vor einem Jahrzehnt, sagte in Berkeley in der letzten Nacht. “Was die meisten Leute sagen: zu der Zeit war, dass, ‘Es ist einfach Mathematik. Code kann nicht diskriminieren.’ Das war der vorherrschende Diskurs. Ich nahm eine Menge von Körper-Schläge versucht zu argumentieren, dass es rassistische und sexistische Tendenz in unserer Technologie-Plattform. Und doch sind wir hier heute.”
Wir Leben heute in einem Zeitalter, wo predictive policing ist real und können unverhältnismäßig Treffer Minderheiten, job Einstellung erfolgt durch die KI und die können die Frauen diskriminieren, in denen Google und Facebook die algorithmen oft entscheiden, welche Informationen wir sehen und die Verschwörungstheorie YouTube bietet neben. Aber die algorithmen, die diese Entscheidungen sind eng bewacht Geheimnisse der Gesellschaft mit globalen Auswirkungen.
Im Silicon Valley und In der breiteren Bay Area, das Gespräch und die Lautsprecher haben sich verschoben. Es ist keine Frage mehr, wenn die Technik zu diskriminieren. Die Fragen, die jetzt zählen, wer beeinflusst, wie wir das beheben können, und was sind wir auch Ihr Gebäude überhaupt?
Wenn eine Gruppe von überwiegend weiße Ingenieure zusammen, um diese Systeme, die Einfluss auf die Gemeinschaften der schwarzen Bevölkerung ist besonders stark. Algorithmen verstärken kann Rassismus in den Bereichen Wohnungs-und Polizeiarbeit. Algorithmus bias spiegeln, was wir in der realen Welt. Künstliche Intelligenz Spiegel seiner Entwickler und die Datensätze trainiert.
Wo es verwendet werden, um eine populäre Mythologie, die algorithmen wurden nur die Technologie ist in der Weise zu dienen, bis objektives wissen gibt es nun eine ” laut und zunehmend globalen Streit darüber, wer genau baut die tech-und was macht der rest von uns. Die Entstehung der künstlichen Intelligenz-Industrie treibt es sogar noch weiter als KI-Systeme Dominieren unser Leben lernen und die Automatisierung von Entscheidungen in Prozessen, die zunehmend undurchsichtig und weniger zur Rechenschaft zu ziehen.
Letzten Monat, über 40 zivilen Gruppen Rechte schrieb einen Brief aufrufen auf Kongress-Adresse Daten-getrieben Diskriminierung. Und im Dezember, das Electronic Privacy Information Center (EPIC) schickte eine Erklärung zu den House Judiciary Committee detailliert das argument, dass “die Algorithmische Transparenz” sollte Sie erforderlich sein, um tech-Unternehmen.
“Am Schnittpunkt von Recht und Technik, Kenntnisse der Algorithmus ist ein grundlegendes Menschenrecht ist”, so Marc Rotenberg, EPIC ‘ s Präsident, sagte auf die Frage.
Das erklärte Ziel des Stanford ‘ s neue Mensch-AI-Institut ist bewundernswert. Aber um zu einer Gruppe, die ist wirklich “weitgehend repräsentativ für die Menschheit” haben Sie ein Wege zu gehen.
Teilen Sie Diese Geschichte