Foto: Getty
Wie Hunderte von Millionen Menschen überschwemmen die sozialen Netzwerke, tech-Unternehmen kämpfen, um Unkraut aus Belästigung auf Ihren Plattformen—und so sind Sie drehen an Maschinen für die Hilfe. Am Dienstag, Instagram bekannt gegeben, genau das zu tun.
“Während die Mehrheit der freigegebene Fotos auf Instagram sind positiv und bringen den Menschen Freude, gelegentlich ein Foto geteilt wird, ist unfreundlich oder unerwünscht,” Instagram ‘ s neue führen Adam Mosseri, schrieb in einem blog-post. “Wir sind jetzt mit machine-learning-Technologie zur proaktiven Erkennung von Mobbing in Fotos und deren Bildunterschriften und senden Sie Sie an unsere Community Operations team zu überprüfen.”
Instagram ermöglicht es Benutzern, um Bericht die Konten, die zeigen, dass die Absicht von Mobbing oder Belästigung, die gegen die Community-Richtlinien, obwohl es ist unklar, wie es steht, wie effektiv und schnell diese Konten sind bestraft-oder Herunterfahren. Mosseri notiert Dienstag blog-post, dass “viele Menschen, die erleben oder beobachten, dass Mobbing nicht melden, es” und,, Rollen diese Maschine-learning-Bemühungen neben menschlichen, wird der Mannschaft helfen “identifizieren und entfernen Sie deutlich mehr Mobbing.” Diese neue Technologie wurde bereits eingesetzt und wird weiterhin Rollen in den kommenden Wochen, so das Unternehmen.
Instagram wird auch hinzufügen, seine Mobbing-Kommentar-filter—die “Häute, Kommentare mit Angriffen auf eine person, Aussehen oder Charakter, wie auch die Bedrohung einer person das Wohlbefinden oder die Gesundheit”—alle live-videos. Es ist bereits in Instagram-Feeds, Erforschen Sie und Profile. Der service fügte auch einen “Güte-Kamera-Effekt zu verbreiten Positivität.”
Dies ist Mosseri die erste Ankündigung für die Foto-sharing-Dienst seit seiner ursprünglichen Gründer strittig verließ im letzten Monat. Instagram gehört Facebook, hat es kaum verdient, der Muttergesellschaft der Ruf dient als Katalysator für die psychologische Zerstörung, Gewalt und die Zerstörung der Demokratie, aber es hat immer noch seine Probleme mit Mobbing an der Spitze dieser Liste. Die Forschung von anti-Mobbing-non-profit-Graben das Label im vergangenen Jahr festgestellt, dass von den 10.000 Befragten im Alter von 12 bis 20, 7 Prozent sagten, dass Sie gemobbt hatte auf Instagram. Es rangiert als Nummer eins Soziales Netzwerk für Cyber—Mobbing-etwas höher als Facebook selbst.
Während Sie sich auf algorithmen für Hilfe bei Probleme die auf einem so großen Maßstab ist nicht grundsätzlich eine schlechte Sache, es ist auch weit von eine durchgreifende Lösung. Algorithmen sind nicht frei von Voreingenommenheit und Sie verfügen momentan nicht über die Fähigkeit zu verstehen, die Nuancen und den Kontext der menschlichen Sprache. Sie haben geschraubt, bis in der Vergangenheit, und Sie haben noch zu beweisen, Sie sind ausgestattet fehlerfrei zu bewältigen ein Problem, so weitläufig, zu Komplex und zu empfindlich, da Cybermobbing.
Teilen Sie Diese Geschichte