Brukere av video service på jakt etter informasjon om Chemnitz opptøyene var alt for lett ledet til høyre nettsteder
Søndag 23 September 2018 07.00 BST
Sist endret på Søndag den 23 Sep 2018 16.08 BST
Brukere som leter etter video informasjon om Chemnitz opptøyene ble ledet til ekstremistisk innhold.
Foto: Odd Andersen/AFP/Getty Images
Tidlig en søndag morgen for en måned siden, en tysk snekker var dødelig knivstukket i en gatekamp i Chemnitz i øst-Tyskland. Lite er kjent om hvordan den brawl gang, men rykter raskt sirkulert på nettet at mannen var forsvarer en kvinne fra seksuelle overgrep. I løpet av timer av hans død, rykter om at hans mordere var to flyktninger som utløste en voldsom reaksjon. For to netter kjører, tusenvis av høgreekstreme ekstremister og sympatisørar tok til gatene i byen. Sjokkerende videoer av demonstranter åpent ved hjelp av Nazi-hyllest (en straffbar handling i Tyskland) og jage og angripe folk med utenlandsk utseende raskt dukket opp på nettet.
Den gjenklang av opptøyene fortsetter å roil tysk politikk og samfunn. De synes å ha gitt et massivt løft til høyre vinge AfD part, for eksempel, som ifølge noen meningsmålinger er nå på andre plass i Tyskland. Og i forrige uke, Angela Merkel fjernet hodet av den innenlandske intelligence agency, Hans-Georg Maaßen, fra sin stilling etter at han hadde møtt kritikk for sin reaksjon på anti-immigrant protester i byen Chemnitz. Han hadde sår tvil om ektheten av videoer som viser mørk hud folk blir jaget og angrepet.
Hva er det som skjer? Hvordan fikk mange Tyskere blitt så jobbet opp om en gate slagsmål? Dette spørsmålet fascinert Ray Serrato, en Berlin-basert digital forsker som først la merke til det når hans kones onkel viste ham en YouTube-video som hevdet pøblene hadde vært Muslimske flyktninger. Videoen var billig produsert og som er lastet opp av en obskur marginal gruppe, og men det hadde nesten en halv-en-million ganger – langt mer enn noen legitime nyheter video av opptøyene. Hvordan var dette mulig?
Rasistiske opptøyer i Chemnitz har gjenåpnet Tyskland øst-vest-split | Jacqueline Boysen
Les mer
Så Serrato begynte å grave, på jakt etter informasjon på hver Chemnitz-relaterte video publisert på YouTube dette året. Hva fant han, ifølge New York Times i rapporten, er at plattformen anbefaling systemet konsekvent rettet mennesker mot ekstremistiske videoer på opptøyene — klikk på til høyre videoer på andre fag. “Brukere som søker etter nyheter på Chemnitz ville bli sendt ned kaninhullet av feilinformasjon og hat. Og som interesse i Chemnitz vokste, det vises, YouTube funnelled mange Tyskere til ekstremistiske sider, som vise-teller til himmels.”
Ingen som vet noe om YouTube vil bli overrasket. Gang på gang og forskere har oppdaget at når videoer med politiske eller ideologiske innhold som er lastet opp til plattformen, YouTube “recommender” algoritme vil henvise deltakere til mer ekstremistisk innhold etter at de har sett den første. Gitt at de fleste mennesker sannsynligvis har autokjør-funksjonen til venstre på som standard, som betyr at du kan se på YouTube videoer ofte fører folk til ekstremistiske nettsteder.
Merkelig, dette er ikke bare inne for politiske eller andre typer av kontroversielt innhold. Zeynep Tufekci, en velkjent teknologi kommentator, fant at videoer om vegetarisme førte til videoer om veganisme, videoer om jogging førte til videoer om å kjøre ultramarathons, og så videre. “Det virker,” skrev hun, “som om du er aldri ‘hardcore’ nok for YouTube ‘ s anbefaling algoritme. Det fremmer, anbefaler og distribuerer videoer på en måte som ser ut til å stadig opp staver.”
Gitt sin milliarder eller så brukere, hun konkluderte med at “YouTube kan være en av de mektigste radikaliserende instrumenter i det 21. århundre.”
Er dette fordi ingeniører arbeider for Google (som eier YouTube) har en radikaliserende eller ekstremistiske agenda? Neppe; de fleste programvare ingeniører jeg vet er terminalt uinteressert i politikk, som de ser på som en hobby for undersysselsatte personer med lav IQ skårer.
Den viktigste faktoren er en utfordrende kombinasjon av maskin-læring, programvare og Google ‘ s forretningsmodell. Google er et reklamebyrå maskert som en tech-giganten. Det selger våre seere til annonsører som er villige til å betale for det. Så selskapets overordnede motivasjon er å holde folk ser på YouTube for så lenge som mulig. Og sin anbefaling algoritmen er informert av forskning i menneskelig psykologi, noe som tyder på at folk trekkes mot innhold som er mer ekstreme eller brannbomber enn video de startet med. QED.
En av de ironier av den aktuelle uenighet om Facebook er sverte innflytelse på demokrati er at det har viderekoblet oppmerksomhet fra Google er like destruktive egenskaper. Men en av de tingene vi har lært fra forskning til alt-høyre infrastruktur etter Trump valget er at YouTube spiller en helt sentral rolle i økosystemet. Så hvis myndighetene virkelig ønsket å gjøre noe med online ekstremisme (et stort “hvis”, IMHO), da kunne de tilbyr Google en grei deal: endre anbefaling algoritmen for å deprioritise ekstreme innholdet, eller vi vil gjøre det for deg.
Hva jeg leser
John Naughton anbefalinger
Selv-å stjele biler
Som rapportert i Registeret, noen security forskere viste hvor enkelt det var å klone Tesla S fjernkontroll. Angivelig, dette hullet i selvkjørende bil forsvar har nå blitt oppdatert.
Hard-hearted Apple
Siste uken, er det gjort en stor avtale om å sette en EKG-monitor i Apple-Watch 4, men som Business Insider rapportert, Apple merkelig unnlot å nevne at en annen selskapet har i noen tid vært å selge en stropp for eksisterende Apple-klokker som gjør det samme.
Mer for ditt megapiksler
Apple har mer enn 800 ingeniører arbeider med å forbedre iPhone-kameraet. Tech Crunch spurte en profesjonell fotograf til å forklare hva de har gjort.