Foto: AP
YouTube-neueste push zu verbieten, terroristische propaganda über seine allgegenwärtige video-Plattform ist immer aus, um einen schweren start. Anfang dieser Woche festgestellt investigative reporter und Forscher Alexa O ‘ Brien wachte zu finden, dass nicht nur hatte Sie permanent gebannt von YouTube, aber, dass Ihre Gmail-und Google Drive-Konten hatte, wurde unterbrochen. Sie würde später erfahren, dass ein reviewer, der für Google arbeitet, hatte fälschlicherweise identifiziert wird Ihr Kanal, in den Worten eines YouTube-Vertreter, als “engagiert, um terroristische propaganda.”
Diese drastische Zwangsmaßnahmen folgten Monate der Benachrichtigungen von YouTube, in dem O ‘ Brien wurde gesagt, dass drei Ihrer videos hatte geflaggt wurden mit “grundlose Gewalt”. Keines der videos, jedoch zeigen keine tatsächlichen Szenen von Gewalt, außer für eine, enthält Filmmaterial von amerikanischen Hubschrauber-Piloten Spritz unten Zivilisten im Irak, die schon weit angesehen auf YouTube für ein halbes Jahrzehnt.
Unter Berufung YouTube-die Entscheidung, O ‘ Brien gelernt, dass der Mechanismus für die Korrektur dieser Fehler kann sein ärgerlich, und dass ein faires Ergebnis ist bei weitem nicht gewährleistet. Mittwoch morgen, Ihr Kanal wurde geplant, für die Löschung. Die Google Drive-Konto wurde Sie gesperrt werden, enthalten Hunderte von Stunden der Forschung—oder Jahre im Wert von Ihrer Arbeit—und war Sie plötzlich offline genommen. Sie wurde dann gesagt, dass Sie “verboten, den Zugriff auf, Besitz oder die Erstellung von beliebigen anderen YouTube-accounts.” Das Verbot wurde für das Leben, und mit wenig Erklärung, und keine menschliche Interaktion, O ‘Brien’ s Forschung, viel von ihm nicht zugänglich anderswo, war gebunden für Google Mülleimer.
Mit dem wissen, dass YouTube konfrontiert wurde, erhöhten Druck aus den USA und europäischen Regierungen zu knacken auf die Verbreitung terroristischer propaganda—eine Konsequenz, die hat führte zu das verschwinden von Inhalten angehäuft, die von Konflikten Reportern—es war nicht schwer zu folgern, was geschehen war, zu O ‘Brien’ s Konto.
Das problem wurde schließlich angesprochen und Vertreter von Google und YouTube später rief O ‘ Brien, sich zu entschuldigen und zu erklären, die Fehler. Wenn Sie erfuhr, dass Ihr Kanal hatte wurde falsch identifiziert als Ventil für terroristische propaganda, Sie konnte sich kaum enthalten, Ihr lachen. “Es war eine Serie von unglücklichen Ereignissen,” ein YouTube-rep sagte es Ihr. Die Fehler, erklärte Sie, war die Schuld von einem menschlichen Prüfer eingesetzt von Google.
Ein Sprecher von Google sagte Gizmodo am Freitag: “Mit der massiven Lautstärke der videos auf unserer Seite, manchmal machen wir das falsche call. Wenn es gebracht, um unsere Aufmerksamkeit, dass ein video oder ein Kanal wurde entfernt irrtümlicherweise, wir handeln schnell, es wiedereinzusetzen.”
“Diese für Archivierungszwecke. Dies ist nicht für propaganda-Zwecke.”
In diesem Jahr hat YouTube damit begonnen, zunehmend auf machine learning zu finden und zu schrubben extremistischen Inhalte von den Seiten—eine Entscheidung, die, angeregt durch die erfolgreiche online-recruiting-Bemühungen von extremistischen Gruppen wie ISIS. Mit über 400 Stunden Inhalt auf YouTube hochgeladen jede minute, Google hat sich verpflichtet, die Entwicklung und Umsetzung von Systemen zu Ziel und entfernen Sie, was es fordert “terror-Inhalte.”
Vergangenen Monat, als ein YouTube-Sprecher räumte jedoch ein, dass die Programme “nicht perfekt”, noch sind Sie “für jede Einstellung.” Aber in vielen Fällen, der Sprecher sagte, seine KI hat sich bewährt “genauer als Menschen zu Kennzeichnen-videos, die entfernt werden müssen.” In einem Aufruf am Mittwoch, ein YouTube-Vertreter sagte, Alexa: “der Mensch wird weiterhin Fehler machen, wie jede Maschine-Systems wäre offensichtlich fehlerhaft.” Die Maschine, die priorisiert die Inhalte überprüft, die von menschlichen Augen, war nicht “ganz fertig”, sagte Sie, zu erkennen, den Kontext unter dem umstrittenen Inhalten hochgeladen werden.
Der O ‘ Brien Vorfall zeigt, dass Google hat viele Meilen zu gehen, bevor seine KI und menschliche Prüfer sind erfahren genug, um zu unterscheiden zwischen extremistischen propaganda und die investigative Arbeit, dass auch Google damit einverstanden ist notwendig, zu erweitern, der öffentlichkeit das wissen über die komplizierten militärischen, diplomatischen, und law-Durchsetzung von Richtlinien bei spielen in der globalen Krieg gegen den terror.
Al-Qaida und Die As-Sahāb Band
Was veranlasst eine Google-Gutachter zu benennen, die O ‘ Brien als Lieferant von terroristischen Inhalten? Nun, zum einen, wird Ihr Kanal enthält die tatsächlichen al-Kaida-propaganda. Aber, dass propaganda ist auch ein wichtiges Stück US-Geschichte: vor Ein paar Jahren, ist es fast Kosten ehemaligen US-Armee-Private Chelsea Manning eine lebenslange Haftstrafe.
O ‘Brien’ s Kanal enthalten Teile eines Juni 2011 video präsentiert von al-Kaida-Steckdose As-Saḥāb Medien mit Adam Yahiye Gadahn, einem in den USA geborenen al-Qaida-Agent in der arabischen Halbinsel, die in früheren Dschihad-propaganda Bänder rebroadcast von UNS Netzwerk-news—bezeichnet sich selbst als “Azzam der Amerikaner.” Im Jahr 2006, Gadahn erschien in einem al-Kaida-Dokumentarfilm, enthält eine Einführung von Ayman al-Zawahiri, dem al-Qaida-co-Gründer und aktuelle Anführer der Organisation, der es gelang, Bin Laden in 2011.
Im Januar 2015, Gadahn wurde in Pakistan getötet in einer Reihe von US-Drohne Streiks, die auch das Leben gekostet ausländische Helfer Giovanni Lo Porto und Warren Weinstein.
O ‘Brien’ s Interesse in Gadahn hat nichts zu tun mit der Verbreitung seiner Ansichten über den “Großen Satan” oder seine Prophezeiungen der amerikanischen Straßen mit Blut. Das footage, das Sie erhalten mit dem YouTube-Dienst, der war auch eingebettet in eine off-site-Analyse, die verwendet wurde, durch militärische Staatsanwälte zu unterstützen, die Straftaten an das Kriegsgericht von Chelsea Manning. Das Strafverfahren gegen Manning fehlte gleichzeitigen Zugang zum Gericht aufnehmen. Nur die Arbeit von Reportern, wie O ‘ Brien, die persönlich nahmen an der Studie, für die öffentlichkeit zugänglich ist.
Die As-Saḥāb video mit Gadahn kam ins Spiel, nachdem die US-Regierung beschuldigt Manning der “Unterstützung des Feindes”, eine Anklage, die, im Gegensatz zu den meisten abgeleitet von den militärischen code der Gerechtigkeit, die angewendet werden können, um Zivilisten. Und es trägt eine lebenslange Haftstrafe.
Manning angeklagt wurde, Beihilfe Gadahn, gesetzlich definiert, in das Kriegsgericht als Feind der USA, weil die As-Saḥāb video zitiert, sowohl WikiLeaks und das State Department Kabel, dass Manning zugespielt. Eine unbekannte männliche Erzähler in die Gadahn video-Referenzen, zum Beispiel, die “Enthüllungen von WikiLeaks”, und behauptet, Sie setzen “die Unterwürfigkeit der Herrscher der muslimischen Welt für Ihren Meister, Amerika.” Im video sind auch Teile der berüchtigte “Collateral Murder” – Band, die zeigt amerikanischen Apache-Piloten brennen auf eine Gruppe von Männern in Bagdad, töten, unter Ihnen zwei Reuters-Journalisten.
“Die Auszüge enthalten in allen drei videos wurden direkt in das öffentliche Interesse…”
Eine Bestimmung im Strafverfahren zeigt, dass die US-Regierung argumentiert, die Osama bin Laden selbst hatte in den Eingang, und folglich unterstützt durch die Intelligenz Manning zugespielt. Die Beweise, dies zu unterstützen, jedoch ist klassifiziert—alle Sie gesammelt, die während des 2. Mai 2011, überfall auf seine Abbottabad Verbindung. Eine Analyse, durchgeführt von O ‘ Brien, das umfasst die Teile der As-Saḥāb video, das Sie auf YouTube hochgeladen, deutet darauf hin, dass Bin Laden möglicherweise irgendwie erhielt eine Kopie des Videos, während Versteck in Pakistan. Eine digitale Kopie des Bandes selbst kann sogar zurückgewonnen wurden von der US Navy SEALs, verletzt seine Verbindung während der CIA-geführte mission, endete in Bin Laden ‘ s Tod.
Das video von Gadhan bereits eingegangen Beweise für die Unterstützung des Feindes Ladung—aber um zu verhindern, dass das Zeugnis, das würde ich mit einem aufwändigen set-up zu verbergen, die Identität eines Zeugen verbunden mit der Bin-Laden-Beweise, Manning defense vereinbart, zu vereinbaren, daß Bin Laden war im Besitz von Informationen gebunden zu WikiLeaks. Die CIA wiederhergestellt, zum Beispiel, ein Brief von Bin Laden, in denen er Anträge von einem Mitglied von al-Qaida, US Department of Defense material von WikiLeaks veröffentlicht wurde. In einem anderen Brief, ein al-Qaida-Agent in der Anlage eine Reihe von geleakten battlefield Berichte. Die Verteidigung ferner festgelegt, dass Bin Laden war im Besitz des “Department of State Informationen”, die O ‘Brien’ s Analyse zeigt, ist wahrscheinlich der As-Saḥāb Band selbst.
Letztlich wird die Ladung nicht haften. Manning wurde freigesprochen, der Unterstützung des Feindes und verurteilt, statt von “mutwilligen Veröffentlichung,” eine Anklage, die, wie O ‘ Brien stellt fest: “hatte nie zuvor verwendet wurde, und ist nicht gebunden an irgendwelche existierenden Bundesgesetz oder Artikel in der Uniform Code der Militärischen Gerechtigkeit.” Die schiere Komplexität des Falles, die minute, die details sind spärlich verstanden, durch die öffentlichkeit, verdeutlichen die Notwendigkeit für Aufzeichnungen wie diejenigen, katalogisiert von O ‘ Brien erhalten, vielleicht sogar von YouTube, trotz seiner zimperlich Haltung gegenüber Terrorismus-bezogene Inhalte.
Unbestreitbar, Teile der Gadahn-Videos hochgeladen von O ‘ Brien enthalten, die al-Kaida-propaganda—und 75% der Inhalte von YouTube entfernt über einen Zeitraum von einem Monat in diesem Sommer beteiligt “gewalttätigen Extremismus”—aber es nicht enthalten Szenen von graphischer Gewalt, andere als das Collateral Murder Band, die, wieder, bleibt weithin verfügbar über YouTube. “Ich persönlich würde es nicht hochgeladen haben, die material enthalten, dass eine Enthauptung aus Respekt für das Opfer und seine Familie”, sagte Sie zu Gizmodo. “Das ist eine sehr persönliche Wahl, denn sofern der Kontext solcher Materialien ist sicherlich im Interesse der öffentlichkeit. Außerdem, wenn die Opfer sterben sollte, in einer solchen Art und Weise, ich könnte das Gefühl, dass ich hatte eine ethische oder Gesellschaftliche Verantwortung zu (mindestens) nicht wegzuschauen.”
“Die Auszüge enthalten in allen drei videos wurden direkt in das öffentliche Interesse und behandelte ich das material verantwortungsvoll,” sagte O ‘ Brien. “Ich habe ein Auszug der Teile und Sie hochgeladen auf YouTube zu verwenden, in meiner Analyse der Fall, weil ich nicht buchen wollen, eine ganze Stunde und vierzig fünf Minuten Terror-propaganda-video.” Darüber hinaus enthält jedes video eine Beschreibung enthalten, dass die angebotenen Rahmen über das video öffentliche Relevanz—obwohl das möglicherweise nicht sichtbar für die Zuschauer auf einem mobilen Gerät.
“Das material wurde auf ein Kriegsgericht, die nicht nur nicht eine gleichzeitig stattfindende öffentliche Dokumentation des Verfahrens,” sagte O ‘ Brien, “aber auch die hatten Präzedenzfälle mit breiten Auswirkungen, für die öffentlichkeit.”
Takedown-Benachrichtigungen
Der erste takedown-Benachrichtigung von YouTube kam am 5. Juli und bezogen sich auf eine Gadahn video mit dem Titel “der Anteil des Als Shahab-video vom Juni 6, 2011 von US v Pfc Manning 2007 U S Bagdad Luftangriff Videos.” Eine zweite Meldung, unter Berufung auf eine separate clip aus dem Jahr 2011-video, kam am Aug. 8. In beiden Fällen O ‘ Brien wurde gewarnt, dass die videos hatten geflaggt wurden, und dass, nach der überprüfung, YouTube bestimmt hatte Sie verletzt Benutzer-Richtlinien. In insgesamt drei videos waren nach unten gezogen. In jedem Fall war Sie “zugewiesen Leitlinien der Gemeinschaft Streik,” weitere Einnahmen, die YouTube gewarnt, die dazu führen könnten, die Ihr “Konto nicht beendet werden.”
On September 12, O ‘ Brien wurde per E-Mail informiert, dass Ihre YouTube-Konto hatte, suspendiert worden wegen “wiederholter oder schwerer Verstöße gegen die [YouTube] – Community-Richtlinien.” Zur gleichen Zeit, Google deaktiviert Ihr Google Mail-Konto. Sie wurde angewiesen, wieder anmelden, und warnte: “Wenn Sie nicht handeln schnell, Ihr Konto und all Ihre Inhalte werden zum löschen vorgesehen.” Sie ergriff sofort die Entscheidung.
Über ein online-Formular zur Verfügung gestellt von Google, O ‘Brien erklärte, wer Sie war, dass der Zweck des Videos war, Archivierung, aktuell, und es war eingebettet in Beiträge beschreiben Ereignisse von Manning’ s Verfahren, aber in keiner Weise war es beabsichtigt, zu fördern Al-Kaida, seine Ideologien, oder “grundlose Gewalt”. Der Appell wurde sofort abgelehnt, in einer E-Mail signiert, “Das YouTube-Team.”
Basierend auf Ihrer Erfahrung, sagte O ‘ Brien der Prozess, bei YouTube informiert Ihre Nutzer darüber, wie Sie Ihre videos gelöscht werden, funktioniert einwandfrei; es ist die Berufungsverfahren, wo die Dinge scheinen auseinander zu fallen.
Es war unklar, beispielsweise, ob der “Streik” in Ihrem Konto erhalten hatte, Stand noch. Nach Erörterung des Problems mit Google-und YouTube-Vertreter per Telefon—eine form der Wiedergutmachung, die normalerweise nicht verfügbar für die meisten Benutzer, Sie wieder Zugriff auf Ihr YouTube-Konto, kurz nachdem Sie erhalten eine weitere E-Mail sagen, es war immer noch unterbrochen, der eine offensichtlich Fehler gegeben, Ihr Konto ist immer noch online. Sie auch wieder Zugriff auf Ihr gmail-Konto und Google-Laufwerk, und nur eine der drei videos unten bleibt offline, aber Bizarr es ist nicht das video mit dem Hubschrauber Angriff oder Gadahn sprechen direkt in die Kamera. Das video noch gesperrt ist in Erster Linie Nachrichten-clips und Aufnahmen von Musikvideos verwendet, Wie-Saḥāb, die Funktionen voiceover Diskussion der leak des US-State Department-Kabel.
“Das ist mehr als ein usability-Problem”, sagte Sie. “Die Firma konnte zu artikulieren, seine Richtlinien und Verfahren in einer sinnvollen Weise.”
Fingerprinting terroristische Inhalte
Während eines Telefonats -, YouTube-und Google-Wiederholungen zeigten, dass Probleme entstanden sind, während Sie versuchen, um die Anforderungen der Regierungen im Krieg mit internationalen terror-Gruppen. Der service ist die Erhöhung der Anforderungen von Bürgern und Journalisten für investigative Reporter—aber auch die Beratung mit Ihnen—zu rechtfertigen Entsendung videos zu ISIS, al-Qaida und andere terroristische outfits.
Wenn das Material trifft, um die Website mit Inhalten zu denen die US-Regierung mag einwenden, die Belastung fällt auf Journalisten, um sicherzustellen, dass die richtigen Kontext angewendet wird, und zu zeigen, dass das video enthält die tatsächlichen bildungsbezogenen oder dokumentarischen Wert. “So etwas wie das hochladen von al-Qaida-footage, zum Beispiel, ohne etwas in das video selbst, das macht es wirklich klar, dass diese Berichterstattung etwas, das Sie versuchen zu beleuchten, etwas, was Sie kritisieren, was auch immer es ist, kommen würde,” das YouTube-rep sagte.
YouTube ‘ s Entscheidung Baum sollte nicht mehr als zwei Zweige. Nuance ist nicht binäre…
In den kommenden Wochen die rep sagte YouTube wird Roll-out der neuen Funktionen als Teil seiner takedown-system, dass speziell die Anforderung, dass die Benutzer-Kontext-videos mit terror Inhalte zu zeigen, die dokumentarischen Wert. Nach der Empfehlung, eine Art, wie dies getan werden kann, ist durch die Verwendung der YouTube-built-in-tools, die Benutzern ermöglichen, fügen Sie Beschriftungen, Karten oder endcards, Ihre videos. O ‘ Brien fragte, ob Sie ausreichend waren, fügen Sie eine Beschriftung, die liest sich etwas wie, “Dieses für Archivierungszwecke. Dies ist nicht für propaganda-Zwecke.”
“Ja, genau,” die rep geantwortet.
Die rep darauf hingewiesen, dass YouTube hat gemeinsam mit anderen tech-Unternehmen wie Twitter, Facebook und Microsoft, zu teilen material mit bekannten verbindungen zu terroristischen Organisationen. “Aber Sie sollten nicht betroffen sein,” die rep sagte O ‘ Brien, hinzufügen: “Es ist möglich, dass das video, das du geteilt umfasst al-Kaida-propagandafilme, die in unserem gemeinsamen Datenbank bereits.” In anderen Worten, es ist möglich, O ‘Brien’ s videos enthalten, einen Fingerabdruck, der YouTube-AI ist direkt ausgebildet zu erkennen, und dass diese Informationen wurden gemeinsam mit anderen Unternehmen zu helfen, im Kampf gegen Radikalisierung und terroristische propaganda”, sagte Sie.
Für die Strafverfolgung und Geheimdienste, den Erwerb, den Zugang zu Informationen über die Fingerabdrücke videos, oder die Identitäten der Menschen, die gepostet habe, erfordert noch einer gesetzlichen Anforderung—in der Regel eine Vorladung. Natürlich, je mehr Unternehmen, die Zugang zu den Daten, die mehr Möglichkeiten des FBI, zum Beispiel, hat, es zu erwerben.
“YouTube ist eine wichtige Globale Plattform für Neuigkeiten und Informationen, und wir haben klare Richtlinien, die aufzeigen, welche Inhalte akzeptabel ist, zu posten,” ein Google-Sprecher gegenüber Gizmodo. “Manchmal Grafik material ist entscheidend für unser Verständnis von der Welt, ob es gebucht wird, zu dokumentieren, Kriege oder Revolutionen, aussetzen, eine Ungerechtigkeit, oder um sicherzustellen, dass die lokalen Ereignisse sind Global zu sehen. Für alle Arten von Inhalten auf YouTube, aber vor allem mit grafischen Inhalten, hinzufügen von Kontext ist wichtig, um das YouTube-team prüft ein video, wenn es gekennzeichnet ist. Hinzufügen Kontext, in dem video, wie Kommentar oder text, hilft uns zu verstehen, hintergrund und Absicht.”
YouTube-Hoffnungen zu verhindern, dass andere Journalisten von verboten, wie O ‘ Brien war, die durch “whitelisting” Ihre Konten, das heißt, Sie werden markiert, so dass Google die Rezensenten nicht halten Sie fälschlicherweise für Terroristen-Lauf-Kanälen. Die Google-rep sagte O ‘ Brien, dass Ihr Kanal wäre der whitelist Hinzugefügt. Einzelne videos sind jedoch noch unter dem VORBEHALT der normalen reporting-und review-Verfahren, so ist es immer noch möglich, dass einige Ihrer videos könnten abgebaut werden.
“Ich weiß nicht die Schuld der Unternehmen für die Auseinandersetzung mit terroristischer propaganda auf Ihren Plattformen,” sagte O ‘ Brien. “Aber YouTube ‘ s Entscheidung Baum sollte nicht mehr als zwei Zweige. Nuance ist nicht Binär. Weder ist die Weisheit. Ich denke, es ist humorvoll und erschreckend, dass eine nicht identifizierte Menschen festgestellt, dass mein Kanal unterstützt terroristische propaganda.”
“Außerhalb von YouTube oder Google sorgen über Ihr image in der öffentlichkeit oder der öffentlichen Sicherheit, die Unternehmen in der Verantwortung engagieren, um seine Nutzer über Ihre Staatsbürgerlichen und ethischen Verantwortung,” fügte Sie hinzu. “Es muss sich engagieren und zu artikulieren, Ihre Politik, und wenn Sie es nicht tun, dann ist es wirklich nicht verdient, die Glaubwürdigkeit, noch würde es sich verdienen das macht, es hat Auswirkungen auf die Gesellschaft. Es hat auch eine ethische Verantwortung, um Benutzer zu Benachrichtigen, wenn es Risiken, rechtlicher oder sonstiger, für die Sie identifiziert in Ihren Protokollen als Lieferant von unangemessenen Inhalten.”