Foto: Getty
Som hundredvis af millioner af mennesker strømmer til sociale netværk, tech virksomheder kæmper for at luge ud chikane på deres platforme—og så er de henvender sig til maskiner til hjælp. Tirsdag, Instagram meddelte, at det var at gøre netop det.
“Mens størstedelen af fotos delt via Instagram, er positive, og bringer mennesker glæde, lejlighedsvis et foto er fælles, der er uvenlige eller uvelkommen,” Instagram ‘ s nye ledende Adam Mosseri skrev i et blogindlæg. “Vi er nu ved hjælp af machine learning-teknologi til proaktivt at opdage mobning i billeder og deres billedtekster og sende dem til vores Samfund Operationer team til at gennemgå.”
Instagram giver brugerne mulighed for at rapportere konti, der viser den hensigt at mobning eller chikane, som er imod sine Retningslinjer for Fællesskabet, men det er uklart, som det står, hvor hurtigt og effektivt disse konti er straffet eller lukke ned. Mosseri bemærkes i tirsdagens blog-indlæg, at “mange mennesker, der oplever eller observerer mobning ikke indberette det”, og at udrulle disse machine-learning indsats sammen med den menneskelige dem, der vil hjælpe holdet, “at identificere og fjerne betydeligt mere mobning.” Denne nye tech har allerede været anvendt, og vil fortsætte med at rulle ud i de kommende uger, efter selskabet.
Instagram vil også tilføje sine mobning kommentar filter—som “skjuler kommentarer, der indeholder angreb på en persons udseende eller karakter samt trusler mod en persons velbefindende eller sundhed”—til alle live-videoer. Det er allerede til rådighed i Instagram Feed, Udforske, og profiler. Tjenesten har også tilføjet en “venlighed kamera effect til at sprede positivitet.”
Dette er Mosseri første meddelelse til foto-sharing service siden dens oprindelige stiftere contentiously forlod i sidste måned. Instagram, der ejes af Facebook, har næppe tjent sit moderselskab ry for at tjene som en katalysator for psykologisk ødelæggelse, vold og ødelæggelse af demokrati, men det har stadig sine problemer med mobning på toppen af listen. Forskning fra anti-mobning non-profit Droppe den Etiket, der sidste år fandt ud af, at der på 10.000 respondenter i alderen 12 til 20, 7 procent sagde, at de var blevet mobbet på Instagram. Det rangeret som nummer et socialt netværk for cybermobning—lidt højere end Facebook selv.
Mens du hælder på algoritmer til at hjælpe med spørgsmål på en så stor skala er ikke i sig selv en dårlig ting, det er også langt fra en flot løsning. Algoritmer er ikke gratis fra bias, og de i øjeblikket mangler evnen til at forstå nuancer og rammerne af det menneskelige sprog. De har skruet op i fortiden, og de har endnu at bevise, at de er udstyret fejlfrit løse et problem, som ekspansiv, komplekse og følsomme som cybermobning.
Dele Denne Historie