Användare av video service söker information om Chemnitz upplopp var alltför lätt ledde till högerextrema webbplatser
Sön 23 Sep 2018 07.00 BST
Senast ändrad Sön 23 Sep 2018 16.08 BST
Användare som letar efter video information om Chemnitz upplopp har lett till extremistiska innehåll.
Bild: Odd Andersen/AFP/Getty Images
Tidigt en söndag morgon för en månad sedan, en tysk snickare var livshotande knivhuggen i en street fight i Chemnitz i östra Tyskland. Lite är känt om hur bråk igång, men rykten snabbt sprids på nätet att man försvarade en kvinna från sexuella övergrepp. Inom några timmar efter hans död, rykten om att hans mördare var två flyktingar utlöste en våldsam reaktion. Två nätter för att köra, tusentals djupare blå extremister och sympatisörer tog till gatorna i staden. Chockerande video av demonstranter öppet med Nazistisk hälsning (ett brott i Tyskland) och jagar och attackerar personer med utländskt utseende snabbt dök upp på nätet.
I efterdyningarna av upploppen fortsätter att grumlar den tyska politiken och samhället. De verkar ha gett ett enormt lyft för right-wing AfD fest, till exempel, som enligt vissa opinionsundersökningar är nu på andra plats i Tyskland. Och i förra veckan, Angela Merkel bort huvudet av den inhemska underrättelsetjänsten, Hans-Georg Maaßen, från sin post efter att han mött kritik för att hans reaktion till anti-immigrant protester i staden Chemnitz. Han hade tvivel om äktheten av de videor som visar mörkhyade människor jagad och attackerad.
Vad är det som händer? Hur gjorde många Tyskar att bli så upprörd över en gata bråk? Denna fråga fascinerad Ray Serrato, Berlin-baserade digitala forskare som först lade märke till det när hans frus farbror visade honom en YouTube-video som påstås upprorsmakare hade varit Muslim flyktingar. Filmen var billigt producerade och uppladdad av en obskyr frans grupp och ändå hade nästan en halv miljon visningar – långt mer än någon legitima nyheter video av upploppen. Hur var detta möjligt?
Rasistiska upplopp i Chemnitz har öppnat Tyskland i öst och väst split | Jacqueline Boysen
Läs mer
Så Serrato började gräva, letar efter information om varje Chemnitz-relaterade video som publicerades på YouTube i år. Vad fann han, enligt New York Times rapport, är att plattformen rekommendation system som konsekvent regisserad människor mot extremistiska videor på upplopp — då på att högerextrema videor på andra ämnen. “Användare som söker efter nyheter på Chemnitz skulle skickas ner i ett kaninhål av desinformation och hatar. Och som ränta i Chemnitz växte, verkar det som, YouTube kanaliseras många Tyskar att högerextrema sidor, vars syfte-räknas skjutit i höjden.”
Ingen som vet något om YouTube kommer att bli förvånad. Gång på gång har forskare upptäckt att när filmer med politiska eller ideologiska innehåll som laddas upp till plattformen, YouTube ‘ s “recommender” algoritm kommer direkt tittare till mer extrema innehåll efter att de har sett den första. Med tanke på att de flesta människor har förmodligen autoplay-funktionen vänster på som standard, som innebär att titta på YouTube-videor ofta leder människor till extrema platser.
Märkligt, detta inte bara håller för politiska eller andra typer av kontroversiellt innehåll. Zeynep Tufekci, en välkänd teknik kommentator, som finns som video om vegetarianism ledde till videor om veganism, videor om jogging ledde till videor om att köra ultramaraton, och så vidare. “Det verkar”, skrev hon, “som om du aldrig är allvarliga nog för YouTube rekommendation algoritm. Det främjar, rekommenderar och sprider filmer på ett sätt som verkar ständigt upp insatserna.”
Med tanke på dess miljarder eller så att användarna, hon drog slutsatsen att “YouTube kan vara en av de mest kraftfulla radikaliserat instrument för det 21: a århundradet.”
Är det på grund av ingenjörer som arbetar för Google (som äger YouTube) har radikaliserat eller extremistiska agenda? Osannolikt; de flesta program ingenjörer vet jag är kroniskt ointresserade av politik, vilket de betraktar som en hobby för undersysselsatta människor med låg IQ-poäng.
Den viktigaste faktorn är en diabolisk kombination av maskin-och programvara för lärande och Googles affärsmodell. Google är en reklambyrå som maskerats som en tech jätten. Det säljer vår uppmärksamhet till annonsörer som är villiga att betala för det. Så företaget är tvingande incitament är att hålla människor att titta på YouTube så länge som möjligt. Och rekommendation algoritm är underbyggda av forskning om mänsklig psykologi, vilket tyder på att människor dras till innehåll som är mer extrema eller upphetsande än den video som de började med. QED.
En av de ironiernas av den nuvarande kontroversen om Facebook är malign inflytande på demokrati är att det avleds uppmärksamheten från Google är lika destruktiva egenskaper. Ännu en av de saker vi lärt oss från forskning till alt-höger infrastruktur efter Trump val är att YouTube spelar en absolut avgörande roll i ekosystemet. Så om regeringarna verkligen ville göra något åt online extremism (ett stort “om”, IMHO), då kunde de erbjuder Google en enkel affär: ändra rekommendation algoritm för att deprioritise extrema innehåll eller ska vi göra det för dig.
Vad jag läser
John Naughton rekommendationer
Själv-att stjäla bilar
Som rapporterats i Registret, vissa säkerhets-forskare visade hur lätt det var att klona Tesla S handsändare. Tydligen är det hål i den som själv kör bil försvar har nu blivit uppdaterad.
Hard-hearted Apple
Förra veckan, det gjorde en stor affär av att sätta en EKG-monitor i Apple Titta på 4, men som Business Insider rapporterade Apple konstigt undvek att nämna att ett annat företag har sedan en tid varit att sälja en rem för befintliga Apple-klocka som gör samma sak.
Mer för din megapixel
Apple har mer än 800 ingenjörer som arbetar på att förbättra iPhone-kameran. Tech Crunch frågade en professionell fotograf för att förklara vad de har gjort.