Ett nytt verktyg är tillgängliga för att kontrollera den ständiga trakasserier av online troll. Googles Pussel tankesmedja i förra veckan lanserade
Perspektiv, ett tidigt skede teknik som använder maskininlärning för att hjälpa till att neutralisera troll.
Perspektiv recensioner kommentarer och noter dem baserat på deras likhet med kommentarer folk har märkt som är giftigt, eller som sannolikt kommer att resultera i någon lämnar en konversation.
Utgivarna kan välja vad de vill göra med informationen Perspektiv ger till dem. Deras alternativ är följande:
- Flaggning kommentarer för sina egna moderatorer översyn.
- Att ge verktyg för att hjälpa användare att förstå de potentiella toxiciteten av kommentarer som de skriver dem; och
- Att låta läsarna kommentarer sortera baserat på deras troliga toxicitet.
Fyrtiosju procent av 3.000 Amerikaner i åldern 15 år eller äldre rapporterade att de upplevde online för trakasserier eller övergrepp, enligt en
survey-Data Och Samhälle som genomfördes förra året. Mer 70 procent sade att de hade bevittnat online trakasserier eller övergrepp.
Perspektiv fick sin utbildning genom en undersökning av hundratusentals kommentarer märkt av mänskliga granskare som ombads att gradera online kommentarer på en skala från “mycket giftigt” till “mycket frisk.”
Som alla machine learning program, Perspektiv förbättras när det används.
Samarbetspartners och Framtida Planer
Ett antal partners har skrivit på för att arbeta med Pussel i denna strävan:
- Wikimedia Foundation är att forska sätt att upptäcka personliga attacker mot frivilliga redaktörer på Wikipedia;
- New York Times är att bygga en open source måtta verktyg för att utvidga gemenskapens diskussion
- The Economist är en omarbetning av dess kommentarer plattform, och
- Väktare undersöker hur man bäst till måttlig kommentar forum, och vara värd för diskussioner på nätet mellan läsare och journalister.
Jigsaw har testat en version av denna teknik med New York Times, som har en lag på att gå igenom och modererande 11 tusen kommentarer dagligen innan de publiceras.
Jigsaw är att arbeta för att utbilda modeller som låter moderatorer sortera genom kommentarer mer snabbt.
Företaget söker fler partners. Det vill leverera modeller som fungerar i andra språk än engelska, liksom modeller som kan identifiera andra egenskaper, såsom när kommentarer är obetydlig eller off-topic.
Lite Perspektiv på Perspektiv
“Perspektiv är en av de saker som är både fascinerande och skrämmande”, säger Rob Enderle, förste analytiker på Enderle Group.
Dess potential att användas som ett verktyg för censur är som gäller, föreslog han.
“Vi vet redan att Vänster och Höger är att få mycket olika nyhetsflöden, [och Perspektiv kan ytterligare förvärra problemet, eftersom människor ofta visa andra världsbilder som fientliga, falska och giftiga,” Enderle berättade TechNewsWorld. “Den här tekniken mognar, det kunde faktiskt se till att du bara kan se vad du håller med om.”
Vidare, “för att komma runt system som detta med kreativ stavning är inte så svårt,” vidhöll han.
Perspektiv “är verkligen inte ta itu med de grundläggande problemen, vilket är att troll är i hög grad ostraffade och verkar för att få status,” sade Enderle.
Perspektiv sannolikt är inte mycket sofistikerade när det kommer till sammanhang eller känslighet, sade Michael Jude, en program manager på Stratecast/Frost & Sullivan.
“Vad en person kan överväga att vara giftiga, en annan kanske inte — och detta är kontextuell,” han berättade TechNewsWorld.
Vidare, “ett AI-system som saknar sunt förnuft, så det finns en betydande potential för oväntade konsekvenser,” Jude sade. Ytterligare implicita fördomar “är en betydande fara.”
Perspektiv Verktyg för Sociala Medier
Twitter har drabbats särskilt hårt av online troll. Perspektiv kan vara till hjälp i dess strider mot online missbrukare “om det faktiskt fungerar,” säger Jude.
Men, Twitter måste “erkänna att deras service inte är en bastion för det fria ordet”, tillade han.
Strängare regler för kommentarer ses subjektivt som online misshandel är en form av censur, säger Jude, och det väcker frågan om vad som “public forum” som egentligen betyder.
“Om en sociala medier webbplats är inte riktigt ett offentligt forum, så bör det inte låtsas vara,” menade han.
Webbplatser som begränsar kommentarer bör varna för att alla inlägg kommer att granskas för att säkerställa att de uppfyller gemenskapens normer, sa Jude. Om de inte vill genomföra en sådan översyn bör de skicka en varning på målsidan: “se upp alla ni som skriver in här.”
Richard Adhikari har varit en ECT News Network reporter sedan 2008. Hans fokusområden omfatta it-säkerhet, mobil teknik, CRM, databaser, utveckling av programvara, stordator och mid-range design, utveckling och tillämpning. Han har skrivit och redigerat ett flertal publikationer, bland annat Information Vecka och Computerworld. Han är författare till två böcker om klient/server-teknik.
E-Post Richard.