Foto: Getty
Als honderden miljoenen mensen stromen sociale netwerken, tech bedrijven worstelen om onkruid uit intimidatie op hun platforms—en dus het draaien van machines voor hulp. Op dinsdag, Instagram kondigde het was precies dat te doen.
“Terwijl de meerderheid van de foto’ s gedeeld op Instagram zijn positieve en brengen mensen vreugde, af en toe een foto wordt gedeeld dat is onvriendelijk of ongewenst,” Instagram het nieuwe leiden Adam Mosseri schreef in een blog post. “We zijn nu met behulp van machine learning technologie om proactief te detecteren pesten in foto’ s en hun bijschriften en stuur ze naar onze Gemeenschap Operations team te beoordelen.”
Instagram kunnen gebruikers verslag rekeningen die de intentie van pesten of intimidatie, die tegen de Richtlijnen van de Gemeenschap, hoewel het onduidelijk is, als het staat, hoe effectief en snel deze rekeningen worden gestraft of afsluiten. Mosseri opgemerkt op dinsdag ‘ s blog dat “veel mensen die het ervaren of waarnemen pesten niet melden” en dat de uitrol van deze machine-learning inspanningen naast mensen zal helpen het team “te identificeren en te verwijderen significant meer pesten.” Deze nieuwe tech is al ingezet en zal verder uit te rollen in de komende weken, volgens het bedrijf.
Instagram zal het pesten reactie filter—die “verbergt opmerkingen met aanvallen op iemands uiterlijk of karakter, maar ook bedreigingen voor een persoon die het welzijn of de gezondheid”—naar alle live-video ‘ s. Het is nu al beschikbaar in de Instagram-Feed, Ontdek, en Profiel secties. De service ook nog een “vriendelijkheid camera effect te verspreiden van positiviteit.”
Dit is Mosseri de eerste aankondiging voor de foto-sharing service sinds de oorspronkelijke oprichters contentiously vertrok vorige maand. Instagram, dat eigendom is van Facebook, is nauwelijks verdiend zijn ouder de reputatie van het bedrijf voor het dienen als een katalysator voor psychologische vernietiging, geweld en de vernietiging van de democratie, maar het heeft nog steeds zijn problemen met pesten op de top van die lijst. Onderzoek van de anti-pesten non-profit Sloot het Label vorig jaar bleek dat van de 10.000 respondenten in de leeftijd van 12 tot en met 20, 7 procent zei dat ze was gepest op Instagram. Het is gerangschikt als de nummer één sociaal netwerk voor cyberpesten iets hoger dan Facebook zelf.
Terwijl het leunen op algoritmen voor hulp bij problemen op deze grote schaal is niet inherent slecht zijn, het is ook verre van een radicale oplossing. Algoritmen zijn niet vrij van vooroordelen en dat zij momenteel niet in staat zijn om juist de nuance en de context van de menselijke taal. Ze hebben het verknald in het verleden, en ze moeten nog bewijzen dat ze uitgerust om feilloos aan te pakken een probleem als een uitgestrekt, complex en gevoelig als cyberpesten.
Deel Dit Verhaal