Foto: Getty
Die wachsende Realität für soziale Netzwerke ist, dass Sie ständig genutzt werden, in neue und terrorisieren Möglichkeiten, und es kann nicht sein, eine durchgreifende Lösung für schlechte Schauspieler. Die Hoffnung ist, dass Lösungen schneller sein als Täter. Dieses Rennen wurde auf störende anzeigen, über das Wochenende, wie ein Grausames video von einem Amokläufer öffnen Feuer auf die Betenden in zwei Moscheen in Neuseeland ging viral, und der weltweit führende video-sharing-Dienst verschlüsselt Gestrüpp der Flut der uploads.
Der mutmaßliche Schütze ist jetzt in Haft, mindestens 50 Menschen sind tot, und viele andere sind ins Krankenhaus eingeliefert mit Verletzungen. Aber eine andere wichtige Facette des Massakers war die Verbreitung einer haßerfüllten 74-Seiten-Manifest und die erste-person-Aufnahmen von den Dreharbeiten, war gefangen in einem Körper der cam getragen durch den Täter. Die beunruhigende footage begann sofort zu verbreiten und YouTube entfernt, jede Instanz, die es finden konnte. Traditionell, viraler content verbreitet sich, indem Menschen teilen, die es von der ursprünglichen Quelle, und wenn es früh genug gefangen, schneiden Sie den Kopf der Schlange kann eine Menge tun, Sie zu verlangsamen. Aber in diesem Fall, Trolle und ideologische Verbündete der Amokläufer sofort begann hämmerte YouTube-Servern mit frischen uploads der Grafik-Material.
“Jedes mal, wenn eine Tragödie wie diese geschieht, lernen wir etwas neues, und in diesem Fall war es die beispiellose Menge” von videos, Neal Mohan, YouTube-chief product officer, sagte in Der Washington Post. Banal, Mohan sagte, Sie “würde gerne in den Griff bekommen, dies früher.”
Mohan erzählte der Washington Post, dass die Christchurch Angriff, “war eine Tragödie war, dass fast entwickelt für den Zweck, zu gehen viral, und fügte hinzu, dass YouTube hat “Fortschritte gemacht, aber das bedeutet nicht, dass wir nicht haben eine Menge Arbeit vor uns, und dieser Vorfall hat gezeigt, dass, insbesondere im Fall von mehr virale videos wie dieses, gibt es mehr Arbeit zu sein getan.”
Video hochgeladen über das Wochenende war nicht einzigartig in seinem footage von einer Masse Schießen, aber in Ihrer point-of-view: der Amokläufer Livestream im video von einer body-cam. Und Mohan angeblich gesagt, dass das video geteilt wurde, so schnell wie ein upload pro Sekunde in der Zeit unmittelbar nach dem shooting. YouTube nicht freigegeben hat genaue zahlen, wie viele uploads es gab den Angriff zu, aber die zahlen, die zur Verfügung gestellt wurden, auf anderen sozialen Plattformen sind umwerfend, Facebook sagte, dass es dauerte, um 1,5 Millionen videos, die den Angriff innerhalb der ersten 24 Stunden nach der Schießerei.
Mohan ist richtig in seiner Behauptung, dass YouTube die Modell-Plattform für solche grausigen Viralität. YouTube ist der stärkste video-sharing-Plattform der Welt. Es hat auch einen sehr glaubwürdigen Ruf für die Annahme, videos rund um Verschwörungstheorien und die weiße überlegenheit. Für die Nazis, was besseren Weg, um zu verbreiten Ihre Ideologien und Schüren hasserfüllte Gewalt, als in dieses Fass leicht ausgenutzt und Herkules-Plattform?
YouTube, bestimmte Systeme in Ort, um Flagge und entfernen hasserfüllte und gewalttätige Inhalte. Sie können verwenden eine Hash-system, um zu identifizieren, die videos entsprechen dem original-video, das automatische erkennen und löschen Sie alle Kopien, die anschließend hochgeladen. Leider, dieses system ist nicht effektiv, wenn es darum geht zu alle Arten von subtilen Manipulationen am video. Wie die Washington Post bemerkt, Nutzer, dass hochgeladene videos von der Christchurch Aufnahmen machte einige Optimierungen, um die original-video, einschließlich Wasserzeichen, logos, Größe änderungen und Animationen.
“Viele gewalttätige extremistische Gruppen wie ISIS, die Nutzung von gemeinsamen Filmmaterial und Bildern,” YouTube schrieb in einem Twitter-thread am Montag. “Diese können auch Signale für unser detection-Systeme, die uns helfen, Inhalte zu löschen, zu skalieren.” Das Unternehmen fügte hinzu: “Aber alle breaking news event ist einzigartig und es gibt keine Referenz-Dateien zur Verfügung gestellt, im Voraus. Und es gibt auch einen Konstanten Fluss von neuen Aufnahmen und unzähligen Variationen von bekannten Filmmaterial hochgeladen, in den Stunden unmittelbar nach einem Ereignis. Diese Faktoren stellen eine erhebliche Herausforderung, aber wir arbeiten kontinuierlich an der Verbesserung unserer detection-Systeme.”
Wenn wir erreichten auf YouTube mit einige klärende Fragen darüber, wie seine Filter-system arbeitet, so ein Sprecher einfach umgeleitet, die uns an diesen Twitter-thread, gibt die Grundzüge seiner Funktionalität.
YouTube ist hier teilweise verweisen auf den Content-ID-system, können die Inhaber von Urheberrechten präventiv senden von Dateien auf die Plattform, die wird dann mit Querverweisen auf alle videos hochgeladen, um den Dienst. Diese Macher können dann verfolgen, wenn ein video hochgeladen wird, entspricht Ihrem Inhalt. Während dies gilt für mehr harmlos material, wie Musik und film, stellt sich die Frage, ob das gleiche system anwenden können, um videos, wie die Christchurch Schießen. Aber die Aufnahmen von den Massenerschießungen überschwemmen die sozialen Netzwerke über das Wochenende ist im Gegensatz zu den bestehenden Medien in der YouTube-Datenbanken, und so Ihr system ist nicht in der Lage, um präventiv zu Kennzeichnen. Und, wie bereits erwähnt, wurde hochgeladen mit verschiedenen Varianten, das spielen und umgehen das system. Dies, kombiniert mit der unglaublichen Lautstärke des uploads, eine Art von Viralität, der beispiellos ist.
“Wie in jedem Stück von machine learning software, unsere matching-Technologie weiter, um besser zu werden, aber ehrlich gesagt, es ist ein work in progress,” Mohan sagte der Washington Post.
Da das system in seinem aktuellen Zustand nicht in der Lage ist, zu erkennen, bestimmte Varianten, und weil sogar Tausende von Menschen sind nicht genug, um dringend Augapfel und überprüfen gemeldete videos, Mohan ausgewählt haben, dass die endgültige Entscheidung getroffen werden, die durch Maschinen. Wie wir gesehen haben-mit anderen Störungen für die KI-gesteuerte moderation, gutartige videos sind oft versehentlich entfernt. Das war wahrscheinlich hier der Fall, aber letztendlich entschied sich das team für die Zweckmäßigkeit über Präzision. Macher, deren Inhalt zu Unrecht entfernt, können Rechtsmittel einlegen.
Das Problem plagt YouTube ist, dass Trolle und Extremisten haben, den Anreiz zu verbessern, Ihre Anstrengungen auf die Plattform—deren Inhalt wird fast sicher den meisten Ansichten und anschließend die meisten Aktien. Und YouTube ist berüchtigt für die Empfehlung von Hass-Inhalten, das heißt, es verschärft das problem, es versucht zu beseitigen. Der Inhalt kommt vom inneren des Hauses. Im Zuge einer Tragödie auf film festgehalten, wenn Extremisten drängen, dass die Inhalte schwer auf der führenden Plattform (zwar auch leicht manipulieren einige der Versionen) ist es unvermeidlich, dass einige slip durch die Anlage in Rissen und finden Ihren Weg in die Empfehlungen.
Als YouTube erwähnt in seiner Twitter-thread am Montag, es ist immer arbeiten an Möglichkeiten, um besser zu erkennen, unzulässige Inhalte. Und wie wir bereits erwähnten, ist unsere einzige rettende Gnade ist, dass diese Gebäude die Plattformen können weiterhin mindestens einen Schritt Voraus diejenigen, die versuchen zu missbrauchen. Es ist eine beunruhigende Realität, und eine, die möglicherweise den sozialen Netzwerken Abrechnung mit Ihrer Rolle als Katalysatoren für diese neue störende Viralität.
[Washington Post]
Teilen Sie Diese Geschichte