Et nyt redskab, der er til rådighed til at kontrollere, at den vedvarende chikane af online trolde. Google ‘ s Puslespil tænketank i sidste uge lancerede
Perspektiv, et tidligt tidspunkt teknologi, der bruger machine learning til at hjælpe neutralisere trolde.
Perspektiv anmeldelser, kommentarer og noder dem baseret på deres lighed med kommentarer folk har mærket, som er giftige, eller som kan forventes at resultere i, at en person forlader en samtale.
Udgivere kan vælge, hvad de vil gøre med de oplysninger Perspektiv giver til dem. Deres indstillinger omfatter følgende:
- Udflagning kommentarer til deres egne redaktører til at gennemgå;
- Giver værktøjer til at hjælpe brugere med at forstå de potentielle toksicitet af kommentarer som de skriver dem; og
- At lade læserne slags kommentarer, der er baseret på deres eventuelle toksicitet.
Syv og fyrre procent af 3.000 Amerikanere i alderen 15 år eller ældre rapporterede oplever online chikane eller misbrug, i henhold til en
survey-Data & Samfund gennemførte sidste år. Mere 70 procent sagde, at de havde været vidne til online chikane eller misbrug.
Perspektiv fik sin uddannelse gennem en undersøgelse af hundredvis af tusindvis af kommentarer, der er mærket af menneskelige vurderinger, der blev bedt om at vurdere online kommentarer på en skala fra “meget giftig” og “meget sundt.”
Ligesom alle machine learning programmer, Perspektiv forbedrer, som det er brugt.
Partnere og Fremtidige Planer
En række partnere har underskrevet på at arbejde med Puslespil i denne bestræbelse:
- Wikimedia Foundation er at forske i måder at registrere personlige angreb mod frivillige skribenter på Wikipedia;
- New York Times er ved at bygge en open source-moderation værktøj til at udvide fællesskabet diskussion
- The Economist er efterbearbejdning sine kommentarer platform; og
- The Guardian er at forske i, hvordan man bedst til moderat kommentar fora, og være vært for online diskussioner mellem læsere og journalister.
Jigsaw har været at teste en version af denne teknologi med New York Times, som har et team gennemgår og modererende 11 tusinde kommentarer dagligt, før de er udgivet.
Puslespil er at arbejde for at uddanne modeller, der lader moderatorer sortere gennem kommentarer mere hurtigt.
Virksomheden er på udkig efter flere samarbejdspartnere. Det vil skabe modeller, der virker på andre sprog end engelsk, samt modeller, der kan identificere andre egenskaber, såsom når kommentarer er uvæsentlige eller off-topic.
Nogle Perspektiv til Perspektiv
“Perspektivet er en af de ting, der er både fascinerende og skræmmende,” siger Rob Enderle, ledende analytiker hos Enderle Group.
Dets potentiale til at blive brugt som et redskab for censur er om, han foreslog.
“Vi ved allerede, at den Venstre og den Højre er til at få meget forskellige nyhedskilder, [og Perspektiv, kan yderligere forværre dette problem, fordi folk ofte se andre opfattelser af verden som fjendtlig, falsk og giftigt,” Enderle fortalte TechNewsWorld. “Da denne teknologi modnes, det kunne effektivt at sikre, at du kun kan se, hvad du er enig med.”
Yderligere, “at komme rundt systemer som dette med kreativ stavemåde er ikke så svært,” fastholdt han.
Perspektiv “virkelig ikke løse det centrale problem, som er, at trolde er ustraffet og synes at få status,” Enderle sagde.
Perspektiv sandsynligvis ikke meget sofistikeret, når det kommer til sammenhæng eller følsomhed, sagde Michael Jude, et program manager på Stratecast/Frost & Sullivan.
“Hvad en person kan overveje for at være giftig, en anden kunne ikke — og det er kontekstuel,” fortalte han TechNewsWorld.
Yderligere, “et AI-system mangler almindelig sund fornuft, så der er et betydeligt potentiale for uventede konsekvenser,” sagde Jude. Yderligere, implicit bias “er der en betydelig risiko.”
Perspektiv Nytte for Sociale Medier
Twitter er blevet særlig hårdt ramt af online-trolde. Perspektiv kan vise sig nyttigt i sine kampe mod online misbrugere “, hvis det faktisk virker,” siger Jude.
Men, Twitter ville have til at “indrømme, at deres service er ikke en bastion for ytringsfrihed,” tilføjede han.
Slå hårdt ned på kommentarer vist subjektivt som online misbrug er en form for censur, sagde Jude, og det rejser spørgsmålet om, hvad “offentligt forum” betyder i virkeligheden.
“Hvis en social media websted ikke er virkelig en åben offentlig forum, så det skal ikke foregive at være,” mente han.
Websteder, der begrænser kommentarer skal advare om, at alle stillinger vil blive gennemgået med henblik på at sikre, at de opfylder eu-standarder, sagde Jude. Hvis de ikke ønsker at foretage en sådan gennemgang, skal de skrive en advarsel på destinationssiden: “Pas på, alle i, der kommer ind her.”
Richard Adhikari har været en ECT News Network reporter siden 2008. Hans fokusområder omfatter cybersecurity, mobile teknologier, CRM, databaser, software udvikling, mainframe og mid-range design, udvikling og anvendelse. Han har skrevet og redigeret en lang række publikationer, herunder Oplysninger Uge og Computerworld. Han er forfatter til to bøger om klient/server-teknologi.
E-Mail Richard.