Foto: Getty
Jeden schrecklichen moment verstärkt über soziale Medien folgt den gleichen basic-Skript, und Freitag, den Livestream im tödlichen Terroranschlag in Neuseeland, bei denen mindestens 49 Menschen getötet und Dutzende verletzt wurden, trifft alle üblichen plot-Punkte, die Hass geht virale online.
Der Amokläufer geschrieben einen livestream von seinem Massaker auf Facebook, letztlich streaming für 17 Minuten. Facebook schließlich entfernt den stream, nachdem die Polizei markiert, aber das video verteilen sich über seine erste Zielgruppe über YouTube, Reddit, Twitter und anderen Plattformen, wo es war umgebucht, nicht nummerierte mal, die Verbreitung von Gewalt und die Amokläufer der hasserfüllten Ideologie der unbekannten Millionen von Menschen. Das Unternehmen, natürlich, sagen, Sie arbeiten wie Wild, um take down die umgebucht videos.
Wir haben dieses mal wieder gesehen, so, jetzt müssen wir uns Fragen: Warum sind diese großen tech-Unternehmen so schlecht zu halten, Neuseeland Moschee-shooter-videos von Ihren Plattformen? Warum Sie daran scheitern, zu halten, zündender und radikalisierender, rassistische und hasserfüllte Inhalte von Sättigung Ihrer Websites? Warum Silicon Valley effektiv ausfallen, um der Polizei Ihre Plattformen? Das problem geht weit darüber hinaus, ein video von Massenmord—und es geht direkt ins Herz des Silicon Valley, Reichtum und macht.
“Der Maßstab ist das Problem,” den Schriftsteller Antonio Garcia Martinez, ein ehemaliger Facebook-Werbung-manager, sagte, auf Twitter, auf Freitag, wenn Sie gefragt, warum.
Für das Silicon Valley, das Ausmaß Ihrer Plattformen ist, was macht Sie multibillionaires. Das beispiellose Ausmaß ist eine absichtliche Schöpfung konzipiert für den beispiellosen Gewinn. Für Führungskräfte, Aktionäre. und die Ingenieure suchen, um einen bonus zu erhalten und zu erhöhen, die Skala ist alles.
Waage ist auch immer Ihre Entschuldigung ist.
Durch Ihre eigene Zulassung, diese Unternehmen sind zu groß, um erfolgreich zu sein, wirksam moderieren Ihre Plattformen, besonders in einem Fall wie dem Freitag das explosive video von massengewalt. Also, wenn Sie sind zu groß um dieses problem zu lösen, vielleicht ist es Zeit, verringern Ihre Größe.
“Die schnelle und großflächige Verbreitung dieser hasserfüllte Inhalte—per live-Stream auf Facebook, auf YouTube hochgeladen wurde, und verstärkt auf Reddit zeigt, wie leicht der größten Plattformen können immer noch missbraucht werden”, sagte Senator Mark Warner sagte in einem E-Mail an Gizmodo. “Es wird immer klarer, dass YouTube, insbesondere, hat noch zu kämpfen, die mit der Rolle, die Sie gespielt hat bei der Erleichterung der Radikalisierung und Rekrutierung.”
Wenn tech-Führungskräfte selbst sind, in Ihren eigenen Kreisverkehr, anzuerkennen, dass Ihre Firmen zu groß, vielleicht sollten wir Ihnen Zuhören.
Den genauen Umfang dieser Unternehmen ist schwierig zu wissen, voll, weil Ihr Mangel an Transparenz. Facebook antwortet nicht auf eine Anforderung für Kommentar auf die Frage, aber das Unternehmen sagt, es hat 30.000 Arbeitnehmerinnen und Arbeitnehmer und der künstlichen Intelligenz mit der Aufgabe, das entfernen hasserfüllte Inhalte. YouTube, das anscheinend sieht man 500 Minuten video hochgeladen, jede Sekunde, sagte in seinem aktuellen Quartalsbericht für das vierte Quartal 2018, der Website entfernt 49,618 videos und 16,596 accounts bei Verstoss gegen unsere Richtlinien über die Förderung von Gewalt oder gewalttätiger Extremismus. Sie werden auch entfernt, 253,683 videos Verstoss gegen unsere Richtlinien auf graphische Gewalt.
Gerade Letzte Woche, YouTube-CEO Susan Wojcicki sagte, viel die gleiche Sache, wenn die Journalistin Kara Swisher fragte die executive, warum die neo-Nazis weiterhin gedeihen und wachsen auf YouTube und warum die Webseite die Kommentare sind ein notorisch vile Platz kürzlich berichtet, für ein Beispiel werden, die von den Pädophilen Netzwerk. Ihre Antwort: Die Waage ist das problem.
Verteidigt Ihr Unternehmen, Wojcicki sagte über 500 Stunden Videomaterial werden auf YouTube hochgeladen jede minute, und dass Millionen von schlechte Kommentare werden entfernt, jedes Quartal. “Aber Sie haben zu erkennen, das Volumen, die wir haben, ist sehr beträchtlich, und wir arbeiten zu geben, die Macher mehr tools auch für Sie auch in der Lage sein, Sie zu verwalten”, sagte Sie.
Warten, genau deren Aufgabe ist es, verwalten die Verbreitung von Gruppen wie Nazis und Pädophile auf Websites wie YouTube? Ist es der Benutzer? Auf YouTube, zumindest, die Antwort ist offensichtlich ja.
Wenn der YouTube-Twitter-account gepostet frühen Freitag, dass das Unternehmen ist “untröstlich” über den Neuseeland-Morde, es provoziert eine Reaktion.
“Tut mir Leid, aber niemand kümmert es, wenn YouTube ist untröstlich,” Jackie Luo, Ingenieur im Silicon Valley tech-Industrie, sagte. “Das Leben verloren, noch mehr werden. YouTube ist mitschuldig—nicht so sehr, weil Sie von gestern sind Aufnahmen, aber wegen der großen Rolle, die Sie spielte und spielt weiterhin in der Normalisierung und Verbreitung dieser Art von gewalttätigen Rhetorik. Es ist ärgerlich zu sehen, ein Unternehmen, das Gewinne enorm von regelmäßige Zusendung von Menschen nieder Kaninchen Löcher, die Radikalisierung in mit diese Arten von überzeugungen führen dann Trauer auf social media, Wann das Modell produziert realen und schrecklichen Folgen. Es ist ein schwer ‘Nein’ von mir.”
YouTube ist berüchtigt Radikalisierung problem ist Brennstoff für das Feuer, das ist Maßstab. Das Ziel ist es, mehr Leute zu beobachten, hochladen, ansehen, hochladen und konsumieren s die ganze Zeit. Das ist der ganze business. Radikalisierung passiert einfach zu sein, eine besonders effektive und gewinnbringende Weise das Ziel zu erreichen von Wachstum.
“Dies ist nicht, weil eine Intrige der YouTube-Techniker ist Plotten zu fahren, die Welt von einer Klippe,” die Akademische Zeynep Tufekci im letzten Jahr geschrieben. “Eine wahrscheinlichere Erklärung zu tun hat mit dem nexus künstliche Intelligenz und Google-business-Modell. (YouTube ist im Besitz von Google). Für alle seine hehre Rhetorik, Google ist eine Werbe-broker, verkaufen unsere Aufmerksamkeit auf Unternehmen, die zahlen für ihn. Der längere Aufenthalt der Menschen auf YouTube, die mehr Geld Google macht.”
Fahren die Nutzer auf die nächste Radikale Stimme ist Teil der grundlegenden business—Augäpfel plus Stunden gleich ad-Dollar.
Zu einer Zeit, als Washington Gesetzgeber sprechen Aufbrechen großer tech ist, ist es sehr interessant zu sehen, ein tech-executive bestätigen, dass Ihre Plattform ist zu groß, um Griff die Verantwortung der brachte auf sich.
“Tut mir Leid, aber niemand kümmert es, wenn YouTube ist untröstlich.”
Ich habe meine eigene kleine Erfahrung mit dem YouTube Radikalisierung business-Modell, wenn auch in einem viel harmloser Weise. Ich bin ein Läufer, der, erst in den letzten paar Jahren, liebte schnelle 5K Rennen. Als ich begann, um die Nutzung von YouTube mehr ansehen videos laufen, die empfohlen und auto-play-videos schoben mich weiter und weiter entlang. Seltsam, es wird davon ausgegangen, dass ein 5K-Läufer würde wollen Marathon zu laufen und dann Ultramarathon. Ich brav zugeschaut, und sah, bevor ich lief einen halb-marathon im letzten Monat.
Wenn es bedeutet das, wir schauen mehr videos, die YouTube machen soll ultramarathon-laufen-radikalen, die uns alle, weil, vermutlich, Radikalisierung sorgt für zuverlässige und profitable Konsumenten von Inhalten.
Am Freitag, nach über 12 Stunden nach dem Ereignis selbst, videos von dem Amokläufer in Christchurch, Neuseeland, töten Muslime beten in einer Moschee weiterhin zu verbreiten, über das internet auf Websites wie Facebook, YouTube und Twitter, da es als ein propaganda-Werkzeug für rechts-weißen Nationalisten.
“Maßstab ist der Chef-problem für FB und YouTube,” Medienwissenschaftlerin Siva Vaidhyanathan getwittert. “Sie wären harmlos <50 Mio [Benutzer].”
Die Reaktion von Neuseeland, wo der Angriff aufgetreten ist, ist weniger nachsichtig.
“Das scheitern, um sich mit diesem rasch und entschlossen stellt eine völlige Abdankung der Verantwortung durch die social-media-Unternehmen”, Tom Watson, stellvertretender Vorsitzender der britischen Labour-Partei sagte. “Das hat zu oft passiert. Andernfalls nehmen Sie sich diese videos sofort runter und verhindern, dass andere, die hochgeladen wird, ist ein Misserfolg der Anstand.”
Das argument, dass Maßstab ist das problem, und Sie kann nie vollständig gelöst werden kommt implizit verpackt mit der Idee, dass die Art, wie die Dinge sind, wie die Dinge zu sein haben. Die Entschuldigung richtet schön mit der Tatsache, dass die schnelle Geschwindigkeit, Wachstum und Skalierung geschieht, um diese bereits Wild profitable Unternehmen noch mehr Geld.
“Es tut mir Leid, dass der status quo, was passiert, um uns Wild Reich, werden kann so Gott schrecklich,” Sie scheinen zu sagen. ‘Aber was können wir schon tun?’
Skala ist ein Rorschach-test in Silicon Valley. Auf der einen Seite, es ist ein Ziel, wenn ein tech-executive ist auf ein Ergebnis aufrufen. Auf der anderen Seite, es ist eine Entschuldigung, wenn es ein tech-Sprecher entschuldigte sich bei den Medien über die Misserfolge.
Wenn tech-Führungskräfte selbst sind, in Ihren eigenen Kreisverkehr, anzuerkennen, dass Ihre Firmen zu groß, vielleicht sollten wir Ihnen Zuhören.
In Europa, Regulatoren sind, suchen Sie genau auf Schönung social-media-Plattformen, die nicht zu entfernen extremistischen Inhalten innerhalb einer Stunde. “Eine Stunde ist das entscheidende Zeitfenster, in dem der größte Schaden erfolgt,” Jean-Claude Juncker, sagte im letzten Jahr ‘ s State of the Union-Adresse an das Europäische Parlament.
“Wir brauchen starke und gezielte Werkzeuge, um zu gewinnen in diesem online-Kampf,” Justiz-kommissarin Vera Jourova sagte.
Das problem ist die Aufmerksamkeit in den Vereinigten Staaten als auch.
“Wir brauchen starke und gezielte Werkzeuge, um zu gewinnen in diesem online-Kampf.”
Zunehmend amerikanische Politiker wollen etwas tun, über das Ausmaß und die macht der tech-Unternehmen. Vor kurzem, Demokratischen Präsidentschaftskandidaten Senator Elizabeth Warren vorgeschlagen Aufbrechen der großen tech-Unternehmen. Aufbrechen Amerika ist big tech-Firmen drängen würde “jeder in den Markt, um bessere Produkte und services bieten.”
Silicon-Valley-Firmen “content-moderation problem, das grundsätzlich außerhalb der Skala, dass Sie wissen, wie zu behandeln,” Becca Lewis, Forscher an der Stanford University und der think tank Daten & Gesellschaft, sagte gegenüber der Washington Post. “Das sind finanzielle Anreize im Spiel zu halten, zuerst den Inhalt und Monetarisierung ersten. Jeder Umgang mit den negativen Folgen, die aus kommen, ist reaktiv.”
Gerade jetzt, die Anreize line-up, so Silicon Valley wird weiter schlecht, bei der Polizeiarbeit, die Plattformen, die Sie erstellt haben. Anreize können geändert werden. In der Sprache, die das Silicon Valley verstehen kann, es gibt innovative Möglichkeiten, zu stören, die social-media-Branche Abwärtsspirale. Man nennt Verordnung.
Korrektur: Eine frühere version dieses Artikels fälschlicherweise Tom Watson als stellvertretender Leiter der Neuseeland Labour-Partei. Er ist stellvertretender Vorsitzender der britischen Labour-Partei. Wir bedauern den Fehler.
Teilen Sie Diese Geschichte