Misbrug kan være grusom – men for nogle tech virksomheder er det en eksistentiel trussel. Kan giganter som Facebook bruger adfærds-psykologi og overbevisende design til at tæmme trolde?
Kærlighed og enhjørninger … software kan gøre os pænere mennesker?
Mandag 22 februar 2016 18.57 GMT
Sidst opdateret mandag den 22 februar 2016 22.00 GMT
Det var en bog om den nysgerrige tilbagegang af mordet sats, der gav Aja Bogdanoff hendes idé.
Hendes job tilbage, så stoppede kort for faktiske blodsudgydelse, men det gjorde hende ikke fremmed for den mørke side af den menneskelige natur. En software ingeniør, der har bygget og modereret kommentar online platforme, Bogdanoff tilbragte sine dage med at vade gennem fornærmelser, og hendes fritid brandslukning mere presserende hændelser. Hun kunne se platforme bliver overvældet af den store mængde af antisocial brugere, men kunne ikke finde ud af, hvordan du får en hoppe foran dem.
Så læste hun Steven Pinker er Bedre Engle i Vores Natur, som viser udviklingen i menneskers vold. “Bogen siger folk altid tror, at deres handlinger er berettiget. Uanset, hvad de laver, de mener, der er en gyldig grund,” husker hun, fra kontoret for hendes start i Oregon. “Så, jeg indså, at vi var nødt til at komme i gang med at afbryde denne proces, få folk til at tænke om det, at disse er rigtige mennesker.” I stedet for hele tiden kører for at hamle op med “dårlige” plakater, hun kunne designe bedre adfærd i fra start?
Ideen om en “pænere” net lyder en smule twee, garanteret til at hidse libertarianere, der frygter oprettelsen af intetsigende, beige sikkert rum, hvor ytringsfriheden går til at dø. Men det er en idé med nogle store kanoner bag det, og hvad de er fortaler for, er ikke censur, men smartere design. I denne måned på Sundance film festival, web pioner Tim Berners-Lee opfordrede platforme til at begynde at bygge “- systemer, der har tendens til at producere konstruktiv kritik og harmoni, i modsætning til negativitet og mobning”.
I Storbritannien, Yvette Cooper, der udholdt nogle dystre kvindefjendske online misbrug, da hun var en kampagne for at blive Labour-leder, planlægger en “reclaim the net” topmøde, at undersøge mulighederne for at bygge et venligere, mere civiliseret kultur. “Når de taler med politikere, folk bør være i stand til at være uenig og siger så stærkt,” siger hun. “Men når det handler om at bombardere folk, der ikke er i det offentlige liv med aggressive misbrug, det er, hvor det bliver et problem, hvis det begynder at lukke munden på folk. Du hører teenage piger siger, ‘Ret, jeg har tænkt mig at holde op med at sige noget om feminisme på Facebook, fordi det er bare så fjendtligt.’” Dette handler ikke om censur af ytringsfrihed, men at beskytte det, hun skriver, for dem, der bliver mobbet ud af samtalen.
For idealister, som Berners-Lee, det faktum, at nettet er blevet en udmattende sted at tilbringe tid, er en hån mod de grundlæggende værdier. Teknologi, der skulle gøre verden til et bedre sted, ikke en bitchier. Og for de store corporate spillere – Twitter, Instagram, online forlag og andre virksomheder, der er afhængige af os bruger mere og mere tid online – det er en ægte kommerciel trussel. Kun få brugere, og færre annoncører nyde at hænge ud i et rum fuld af rasende mennesker, for at ødelægge en kamp.
“Hvis Facebook var ikke et sikkert sted, og at folk ikke føler, at de kunne have en samtale, der er civil og respektfuld, hvorfor ville nogen, der ønsker at annoncere på dette sted?” siger Simon Milner, Facebook ‘ s direktør for politik, for STORBRITANNIEN, Mellemøsten og Europa. “De to ting hænger sammen. Det er en vigtig del af forretningsmodellen.”
Dette er, hvor Civile Kommentarer, start Bogdanoff grundlagt med Christa Mrgan, kommer i.
Ideen er simpel (selv om den software, der er så komplekse, at det tog et år at bygge): før du sender en kommentar i et forum eller under en artikel, skal brugerne sats to tilfældigt udvalgte kommentarer fra andre for kvalitet, argumentation og høflighed (defineret som en mangel på personlige angreb eller misbrug). Ratings er kværnet til at opbygge et billede af, hvad brugerne på et givet websted vil tolerere, der er så nyttige for markering af potentielt stødende materiale.
Det afgørende er, at brugerne skal derefter vurderer deres egen kommentar til høflighed, og kan omskrive det, hvis de vil (i test, cirka 5% har).
Det kan ikke afskrække hærdet trolde, men, siger Bogdanoff, den proces, der minder om almindelige brugere, at de er ikke bare “råbe ind i et tomrum” – andre mennesker er at dømme dem, også. Det vækker den lille følelse af social hæmning, vi føler i det virkelige liv, når bedt om at tale foran et publikum. “Hvis nogen gav dig en mikrofon og gav dig et par øjeblikke i søgelyset, du ville tænke:” Er dette, hvad jeg virkelig ønskede at sige?’”
Det er tidlige dage – systemet er ved at blive afprøvet af to lokale Oregan aviser. Men Mrgan insisterer på, at det ikke har ført til sterile, renset kommentarer. “Folk er stadig at lave jokes, som er en lille smule spydige, bliver virkelig stædig,” siger hun. “De personlige angreb, name-calling og misbrug er gået, men den samme følelse har virkelig opholdt sig.”
At bede mennesker om at dømme hinanden kan være en overraskende kraftfuld ting. Tage Uber taxa app ‘ s rating system, som opfordrer passagerer og chauffører til at give hinanden stjerne-bedømmelser – bund og grund en måde at skabe en gensidig relation mellem to fremmede mennesker, hvor hver har et ry for at miste. Virksomheden ikke stave konsekvenser for passagererne, der får dårlige anmeldelser, fordi, helt ærligt, det behøver ikke at; passagererne gå til overraskende langt for at holde en god rating, uden virkelig at forstå, hvorfor det er vigtigt. Men påberåber sig en følelse af at blive overvåget er ikke den eneste måde platforme sublimt fremme social adfærd.
For et par år siden, Facebook ledere bemærket en rush af klager fra brugere, venner udstationering billeder af dem, at de ikke kan lide. Billederne var ikke eksplicit; de bare mindede brugere af noget, de helst ville glemme, eller fik dem til at se dum ud. Disse klager blev altid afvist, fordi der ingen regler var blevet brudt, men venskaber blev anstrengt som følge heraf. “Vi har prøvet at sige, ‘Hvorfor går du ikke bare besked til den person, der?’, men folk vidste ikke helt, hvad jeg skal sige,” siger Milner, tilføjer taktfuldt, at ikke alle “har de sociale færdigheder” til at løse sådanne smålige skænderier.
Så, Facebook introducerede social rapportering, som fungerer som en lærer forsigtigt med at hjælpe børn i en legeplads tvist at løse tingene mellem sig. Klagerne får en skabelon budskab at sende til deres ven, der forklarer, hvordan billedet gør dem til at føle og spørger høfligt til dens fjernelse. Normalt, det er alt det tager – det er, siger Milner, “hjælpe dig har en empatisk reaktion”, der efterlader alle have det godt. “Vi har sat op i vores systemer, for at tilskynde folk til at være godt – at tænke over tingene, før du skriver.”
Det er et klassisk eksempel på, hvad BJ Fogg, en Stanford-baserede videnskabsmand, der har specialiseret sig i psykologi på Facebook, opfordrer overbevisende design: hvis du vil have folk til at gøre noget, forklarer ikke, hvorfor lige vise dem hvordan. Mennesker lærer ved efterligning, hvilket betyder, modellering nice adfærd beats forelæsninger folk til at være rart.
Sidst, Facebook ‘ s planer for at fremme harmoni er blevet markant mere ambitiøse. Sidste måned, og dets chief operating officer, Sheryl Sandberg, provokeret løftede øjenbryn i Davos, som tyder på, at brugerne kan hjælpe med at underminere jihad-propaganda med en samlet modoffensiv af, hvad der kun kan beskrives som organiseret pænhedens. Hun nævner en nylig “som angreb”, der afholdes af de tyske brugere, der har oversvømmet en nynazistisk gruppe ‘ s Facebook side med beskeder af inklusivitet og tolerance.
Det er svært at forestille sig, hærdet fascister bliver lovebombed til omvendelse natten over. Men Sandberg var der afspejler en voksende tro på, at mens du spiller Whac-a-Mole med ekstremister – at lukke offensiv-konti kun for dem til at dukke op igen under nye identiteter – er nødvendige, er det ikke nok. (Twitter, har lukket 125,000 konti, der er knyttet til Isis siden midten af 2015, hvilket viser omfanget af problemet.) Hvorfor ikke mobilisere det store flertal af fornuftige mennesker til at marginalisere hvad er virkelig en lille, men uforholdsmæssigt larmende mindretal af ekstremister?
Sidste efterår, Facebook iværksat et projekt med det tænketank Demos på, hvad det kalder “counterspeech”, og giver alternativer til ekstremistiske idéer, og det er for nylig begyndt at arbejde med akademikere på King ‘ s College i London, der specialiserer sig i jihad-propaganda. Det har ikke alle svarene endnu, siger Milner, men “hvad der virker er den slags ting, Sheryl var tale om: humor og varme”. Hvis ekstremister søge at sprede frygt og chok, counterspeech måske har til formål at gøre dem til at se små og latterlige. Facebook har nu planer om at bygge et netværk af Ngo ‘ er over hele europa og uden for Europa, dyrker en græsrods-mod-fortælling jihad-propaganda. Det spørgsmål, som det er kæmper med, siger Milner, er næsten “hvordan gør vi det muligt for empati i mængden, som i modsætning til enkeltpersoner?”
Det lyder måske langt ude. Men en anden ledende tech executive privat sammenligner problemet med hadefuld tale online med racisme i fodbold årtier siden. Der var kun så meget klubber kunne gøre for at ændre mængden adfærd, og den reelle skift kom, da Kick It Out kampagnen opfordres almindelige fodboldfans at se det som deres ansvar. Slå ned på antisocial adfærd fra det høje fungerer bedst sammen med at ændre kulturen fra bunden og op.
For nylig, Cooper, var at se fodbold med en ven, der netop var tiltrådt Twitter. “Det var en stor kamp, og de var interviewe ledere bagefter, og hans umiddelbare reaktion var fascinerende,” siger hun. “Han var på udkig gennem Twitter, og kigger på, hvad folk’ s svar var, at arbejde ud af, ‘Hvad skal jeg sende? Åh, må jeg sige, sikke en idiot jeg tror, at fyren er?’ Fordi det ser ud som om det er den slags ting, du skulle til at sige.”
Mennesker tage vores udgangspunkt i nye situationer fra, hvad alle andre gør, hvilket betyder, at på de sociale medier og vi vil ubevidst forsøge at matche den generelle tone. På Sundance, Berners-Lee udpeget Twitter ud for at skabe en verden, hvor “folk har en tendens til at retweete ting, der virkelig får dem til at gå”.
Twitter ansatte klagende afvise den kritik, der insisterer på, at de hashtags, at gå viral er ofte varmt optimistiske. “Det er ting som #lovewins eller ” du er ikke nogen Muslim, bruv’, ting, hvor folk er udfordrende samfund med et positivt budskab, ” siger Nick Pickles, leder af den offentlige politik på Twitter, der argumenterer, at dens store styrke er at styrke folk til at tage afstand fra fordomme kollektivt.
Men med brugeren numre falder, Twitter er nu ved at tage en hårdere se på dens kultur.
Psykolog viste web-design konsulent Susan Weinschenk, forfatter af 100 Ting Hver Designer har Brug for at Vide, Om Folk der sammenligner den hastighed, som aggressiv adfærd colonises platforme med den berygtede “broken windows” afhandling om, hvordan kvarterer tilbagegang. En lille hændelse, venstre uantastet, hurtigt skaber det indtryk, at alt er tilladt, og således tilskynder til mere alvorlige problemer. Blidere sjæle flytte ud, og ballademagere til at flytte ind.
“Når du giver noget af det i, det virkelig er let for den at eskalere,” siger hun. “It’ s broken windows theory, bare online.” Og på de store platforme, windows bryde alt for hurtigt og alt for talrigt at holde styr på.
Flere platforme, har eksperimenteret med at opbygge algoritmer, der kan opdage truende mønstre i tale, måske endda gribe ind automatisk at køle opvarmet udveksling sige, ved at sende en “er du sikker på du ønsker at sige dette?” besked til de involverede.
Men så langt, siger Bogdanoff, tanken om at computere bliver i stand til at bedømme offensiveness “virkelig ikke kan arbejde uden for den film”. Software kæmper med sarkasme, ironi og det store udvalg af menneskelige gener (den mest rapporterede indlæg i Youtubes historie, siger Pickles, var en Justin Bieber video).
Et andet oprindeligt lovende idé er software, der giver brugerne mulighed for at blokere meddelelser, der indeholder stødende ord til dem personligt, såsom racistiske skældsord. Dr. Claire Hardaker, en lektor i korpus lingvistik på University of Lancaster, der for nylig blev gennemført et projekt med Twitter analyse af beskeder, der sendes til den meget kontrolleret feministisk aktivist Caroline Criado-Perez. Hun har identificeret en række søgeord, der typisk bruges af mennesker gør trusler – lige fra “bitch”og “voldtægt” til det mere overraskende, “LOL” – men desværre, siger hun, ingen er helt pålidelig indikator for problemer. “Der er meget få ord er i sig selv og uden vaklen dårlig. Selv N-ordet er helt acceptabelt, når de anvendes af visse medlemmer af gruppen i visse sammenhænge.” Så er der, hvad hun kalder “den Scunthorpe problem”, hvor scanning til en forbudt gruppe af breve producerer falske positiver.
Relateret: Kræft ulemper, forloren ulykker og falske dødsfald: mød internettet hoax buster | Rachel Monroe
Twitter ‘ s store problem, i mellemtiden, er, at hvert skridt i retning af en lysere, mere positiv kultur – om beskikkelse af en “sikkerheds råd” til at håndtere chikane, der tilbyder en valgfri algoritmisk foder, som fremmer tweets, du kan lide, eller indføre en animeret hjerte symbol for indhold, som brugerne kan lide – beder rasende klager over, at det bliver ligesom Facebook. Der henviser til, at Facebook er centreret omkring venskaber, Twitter ‘s raison d’ etre er at forbinde fremmede mennesker, og udsætter mennesker for at udfordre nye idéer og perspektiver. Det er det, der gør det intellektuelt stimulerende. Men overvej, hvad der sker, når Corbynistas opfylde Blairites på stedet, og det kan også være, hvad der gør nogle brugere mad.
Den nye besvare er, hvad Pickles-opkald”, der giver brugerne mulighed for at styre deres egen oplevelse”, for eksempel ved hjælp af mute-knappen for at frasortere mennesker, de ikke kan lide, uden at person at kende. I det væsentlige, det er en mulighed for, at nogle diskanter til at udtrykke kontroversielle meninger uden at genere andre, hvem vil ikke gerne det. En persons ret til at tale frit modsvares af en anden ret til ikke at lytte, som det kunne være til en fest, hvor du forsøger at flygte, når fanget af boringen i hjørnet.
For nogle, selv om dette lyder som en oase i nogle intetsigende boble, hvor du aldrig behøver at opfylde en idé, du ikke kan lide. Men hvis pionererne inden for prosocial adfærd har ret i, at strømmen kan være langsomt at dreje, selv i et samfund, der, når værdsatte ytringsfrihed over alt. “Da jeg startede, ville jeg fortælle folk, hvad jeg gjorde for at arbejde, og at de ville være sådan, ‘Åh, du er censor,” siger Bogdanoff. “Nu skal du fortælle folk, at du arbejder på det civil-kommentar, og de tænker,” Åh, tak!’”