Das Unternehmen führte die Inhaltsmoderation auf eine zu gewissenhafte KI zurück.
Foto: Loic Venance (Getty Images)TikTok, ein Unternehmen, dem Bedenken hinsichtlich der Inhaltsmoderation nicht fremd sind, hat diese Woche einige wichtige Warnsignale ausgelöst, als es beliebte YouTuber fälschlicherweise daran hinderte, Phrasen wie “Black Lives Matter” in ihre aufzunehmen bios. Damals behauptete TikTok, die Formulierungen seien „unangemessener Inhalt“ – ein Problem, von dem das Unternehmen verspricht, es behoben zu haben.
Comedian Ziggi Tyler bemerkte das Problem zum ersten Mal, als er versuchte, seine Bio-Seite im Creator Marketplace von TikTok zu aktualisieren – eine Beta-Funktion, die die Plattform letztes Jahr eingeführt hat, um beliebte Creator mit Markensponsoren zu verbinden. Tyler veröffentlichte mehrere Clips auf seinem Konto, die zeigten, dass TikTok jedes Mal, wenn er versuchte, seine Biografie so zu optimieren, dass sie Phrasen wie “Black Lives Matter”, “Pro-Black” oder “Black Success” enthielt, eine Nachricht aussendete, dass seine Biografie “unangemessen” war Inhalt“ und konnte nicht aktualisiert werden.
Später im selben Video ersetzte Tyler das Wort „Schwarz“ durch „Weiß“ in jedem dieser Sätze – was zeigt, dass TikTok seine Biografie nicht markierte, wenn sie Begriffe wie „Unterstützung der weißen Vorherrschaft“ oder „Pro-Weiß“ enthielt.
“Weiße können hier einsteigen und mich das N-Wort nennen und Videos über gewalttätigen Extremismus machen, aber ich kann nichts tun”, sagte Tyler. „Wir können nichts machen. Wir sind müde.“
Tyler sagte Forbes kürzlich in einem Interview, dass er als schwarzer Schöpfer hoffte, seinen rassischen Hintergrund speziell im Creator Marketplace hervorzuheben, in der Hoffnung, dass Werbetreibende sich in ihren Kampagnen auf Rassengerechtigkeit konzentrieren oder ihre Anzeigen im Allgemeinen diversifizieren möchten. würde seine Talente einsetzen. Das ist ein Kampf, wenn Sie nicht einmal den Satz “Black Lives Matter” in Ihre Biografie aufnehmen können, sagte er.
G/O Media kann eine Provision erhalten
Samsung Galaxy A52 5G (128 GB)$500 bei Best Buy
TikTok bestritt das Problem nicht und sagte Gizmodo, es könnte auf einige Knicke zurückgeführt werden, die das Unternehmen im noch in Entwicklung befindlichen Marketplace ausbügelt. TikTok hat zwar versprochen, dass die KI-Probleme, die dazu führten, dass diese Sätze markiert wurden, inzwischen behoben wurden, es wurde jedoch auch eine vorübergehende Sperre festgelegt, die alle Ersteller davon abhält, ihr Bios zu ändern.
„Unsere TikTok Creator Marketplace-Schutzmaßnahmen, die Phrasen kennzeichnen, die typischerweise mit Hassreden in Verbindung stehen, wurden fälschlicherweise so eingestellt, dass sie ohne Rücksicht auf die Wortreihenfolge gekennzeichnet werden“, sagte ein TikTok-Sprecher gegenüber Gizmodo. „Wir erkennen an und entschuldigen uns dafür, wie frustrierend diese Erfahrung war, und unser Team hat diesen schwerwiegenden Fehler behoben. Um es klar zu sagen, Black Lives Matter verstößt nicht gegen unsere Richtlinien.“
Per TikTok markierten seine Algorithmen Tylers Biografie, weil er neben Phrasen wie „Black People Matter“ auch das Wort „Publikum“ eingefügt hatte. Insbesondere erklärte TikTok, dass seine KI-Tools gelehrt wurden, Bios zu markieren, die das Wort “die” enthielten, das … in der Mitte des Wortes “audience” steht. Gegenüber dem oben genannten Satz interpretierte der Algo die Wörter in Tylers Biografie als „sterben“ und „schwarze Leute“.
TikTok wies auch darauf hin, dass sein Algorithmus auf jede Kombination der Wörter „die“ und „schwarz“ aufmerksam gemacht hätte: „ingredie< /strong>nts zum Beispiel für schwarzeBeerenkuchen oder “die schlimmste Plage der medie-Ära wurde von winzigen schwarzen verursachtFlöhe.” Beide wären, wenn sie in die Creator Marketplace-Biografie einer Person aufgenommen worden wären, von TikToks verpfuschter KI wegen unangemessenen Inhalts gekennzeichnet worden.
Es ist unwahrscheinlich, dass Entwickler von Farbe of wird der Plattform schnell verzeihen, die eine strittige Beziehung zu den schwarzen Schöpfern hat, die sie nutzen. Einige dieser Figuren traten in einen „unbestimmten Streik“, von Choreografien von Tänzen bis hin zu populären Liedern, nachdem weißen Benutzern vorgeworfen wurde, sich Bewegungen der schwarzen Gemeinschaft angeeignet zu haben – und dadurch manchmal viralen Ruhm erlangt zu haben – ohne Kredit anzubieten. Während der Proteste gegen Black Lives Matter im letzten Jahr behaupteten mehrere schwarze Schöpfer, dass TikTok Inhalte über George Floyds Tod unterdrückte, was das Unternehmen später auf einen „technischen Fehler“ zurückführte. Hmmm. Klingt sicher bekannt.
Shoshana WodinskyPostsEmailTwitter
Ich behandle das Datengeschäft für Gizmodo. Senden Sie Ihre schlechtesten Tipps an swodinsky@gizmodo.com.