Tech-savvy rightwingers har varit i stånd till ‘spel’ algoritmer för jättar internet och skapa en ny verklighet där Hitler är en bra kille, Judar är onda och… Donald Trump blir president
@carolecadwalla
Sön 4 Dec 2016 10.00 GMT
Senast ändrad Lör 2 Dec 2017 15.43 GMT
Var försiktig med vad du söker för… Googles automatisk frågor kan leda till vissa mörka vägar.
Foto: Michael Gottschalk/Photothek via Getty Images
Här är vad du inte vill göra sent en söndag kväll. Du vill inte typ sju brev till Google. Det är allt jag gjorde. Jag skrev: “a-r-e”. Och sedan “j-e-w-s”. Sedan 2008 har Google försökt att förutse vilken fråga du kanske ställer och erbjuder dig ett val. Och det är just vad det gjorde. Det gav mig ett val av potentiella frågor det trodde jag kanske vill ställa: “är judarna en ras?”, “är judar vitt?”, “är judar kristna?”, och slutligen, “är judarna det onda?”
Är Judar onda? Det är inte en fråga jag någonsin tänkt på att fråga. Jag hade inte gått att leta efter det. Men det var det. Jag trycker på enter. En sida av resultat visas. Detta var Google fråga. Och detta var Googles svar: Judar är onda. Eftersom det, på min skärm, var beviset: en hel sida av resultat, nio av 10 som “bekräfta”. Toppen resultat, från en plats som kallas Listovative, har rubriken: “Topp-10 Viktiga Skäl till Varför Människor Hatar Judar.” Jag klickar på det: “Judarna har idag tagit över marknadsföring, milis, medicinska, tekniska, media, industri, bio utmaningar etc och fortsätter att möta världens [sic] avund genom oförklarlig framgångar gett sitt skamliga förflutna och ohyra som förtryck över hela Europa.”
Google sök. Det är verbet, till Google. Det är vad vi alla gör, hela tiden, när vi vill veta något. Vi Google det. Webbplatsen hanterar minst 63,000 söker en sekund till 5,5 miljarder euro per dag. Uppdraget som ett företag, en översikt som har meddelat bolaget sedan starten och är fortfarande den banner rubriken på företagets hemsida idag, är att “organisera världens information och göra den tillgänglig och användbar överallt”. Den strävar efter att ge dig de bästa, mest relevanta resultaten. Och i detta fall som den tredje bästa, mest relevanta resultatet för sökfrågan “är Judarna…” är en länk till en artikel från stormfront.org en nynazistisk hemsida. Den femte är en YouTube-video: “Varför Judarna är Onda. Varför vi är emot dem.”
Den sjätte är från Yahoo Answers: “Varför är Judar så ond?” Den sjunde resultatet är: “Judar är demoniska själar från en annan värld.” Och den 10: e är från jesus-is-saviour.com: “Judendomen är Sataniskt!”
Det är ett resultat under de 10 som har en annan synvinkel. Det är en länk till en ganska tät, vetenskaplig bokrecension från thetabletmag.com en Judisk tidning, med tyvärr missvisande rubrik: “Varför Bokstavligen Alla I hela Världen Hatar Judar.”
Jag känner att jag har fallit ner i ett maskhål, in i ett parallellt universum där svart är vitt, och bra är dåligt. Men senare, jag tror att det kanske är vad jag har gjort faktiskt skrapas matjorden från ytan av 2016 och hittade en av de underjordiska källorna som har varit lugnt vårda den. Det har varit det hela tiden, naturligtvis. Bara några tangenttryckningar bort… på våra datorer, våra tabletter, våra telefoner. Detta är inte en hemlig Nazistisk cell lurar i skuggorna. Det är gömd i vanlig syn.
Är kvinnor… Googles sökresultat.
Historier om falska nyheter på Facebook har dominerat vissa delar av pressen i veckor efter det Amerikanska presidentvalet, men utan tvekan är detta som är ännu mer kraftfulla, mer smygande. Frank Pasquale, professor i juridik vid Universitetet i Maryland, och en av de ledande akademiska siffror att ringa för tech företag att bli mer öppna och transparenta, kallar resultatet “mycket djupgående, mycket oroande”.
Han kom över ett liknande exempel i 2006, då, “Om du skrev “Judisk” i Google, det första resultatet var jewwatch.org. Det blev “se upp för dessa hemska Judarna som förstör ditt liv”. Och Anti-Defamation League gick efter dem och så att de sätter en asterisk bredvid som sa: “Dessa sökresultat kan vara oroande, men detta är en automatiserad process.’ Men vad du visar och jag är väldigt glad att du dokumenterar det och screenshotting det – är att trots att de har mycket forskat kring detta problem, har det blivit betydligt värre.”
Och beställning av sökresultat påverkar människor, säger Martin Moore, chef för Centrum för Studier av Medier, Kommunikation och Makt vid King ‘ s College, London, som har skrivit utförligt om effekterna av den stora tech företag på vår medborgerliga och politiska sfärer. “Det är stora, statistiskt signifikant forskning om effekterna av sökresultat på politiska åsikter. Och det sätt på vilket du ser resultatet och vilka typer av resultat du ser på sidan nödvändigtvis har en inverkan på ditt perspektiv.” Falska nyheter, säger han, har helt enkelt “visade ett mycket större problem. Dessa företag är så kraftfull och så förbundit sig till störningar. De trodde att de skulle störa politik, men på ett positivt sätt. De hade inte tänkt på om de nackdelar. Dessa verktyg ger anmärkningsvärda egenmakt, men det finns en mörk sida till det. Det gör det möjligt för människor att göra mycket cynisk, skadliga saker.”
Google är kunskap. Det är där du kan gå för att hitta saker ut. Och onda Judarna är bara början på det. Det finns också onda kvinnor. Jag ville inte gå ut för dem heller. Detta är vad jag typ: “a-r-e-w-o-mig-n”. Och Google har jag bara två val, av vilka den första är: “Är kvinnor onda?” Jag trycker du på return. Ja, de är. Var och en av de 10 resultat “visar” att de, inklusive de översta, från en plats som heter sheddingoftheego.com som är förpackad ut och betonade: “Varje kvinna som har en viss grad av prostituerad i hennes. Varje kvinna har lite ont i henne… Kvinnor inte älskar män, de älskar vad de kan göra för dem. Det är inom skäl att säga att kvinnor känner attraktion, men de kan inte älska män.”
Nästa jag typ: “a-r-e-m-oss-l-i-m-s”. Och Google föreslår jag skulle fråga: “Är Muslimer onda?” Och här är vad jag reda på det: ja, de är. Det är det högsta resultatet, säger han och sex i den andra. Utan att skriva något annat, helt enkelt sätta markören i sökrutan på Google ger mig två nya sökningar och jag gå på den första, “Islam är dåligt för samhället”. I nästa lista med förslag, jag är som erbjuds: “Islam måste förstöras.”
Detta är motsvarigheten till att gå till biblioteket och frågar en bibliotekarie om Judendomen och lämnas 10 böcker av hat
Danny Sullivan
Judar är onda. Muslimer måste avskaffas. Och Hitler? Vill du veta om Hitler? Låt Google. “Hitler var dålig?” Jag skriver. Och här är Googles topp resultat: “10 Anledningar till Varför Hitler Var En Av The Good Guys” jag klickar på länken: “Han har aldrig velat döda alla Judar”, “han brydde sig om villkoren för Judar i arbetsläger”; “han genomförde sociala och kulturella reformer.” Åtta av de andra 10 sökresultat håller med om att Hitler egentligen inte var så illa.
Några dagar senare pratar jag att Danny Sullivan, grundare av SearchEngineLand.com. Han har blivit rekommenderad till mig av flera akademiker som en av de mest kunniga experter på sök. Är det bara jag som är naiv, jag ber honom? Borde jag ha känt till detta var det? “Nej, du är inte naiv, säger han. “Detta är fruktansvärt. Det är hemskt. Det är motsvarigheten till att gå till biblioteket och frågar en bibliotekarie om Judendomen och lämnas 10 böcker av hat. Google gör en hemsk, hemsk jobb att leverera svar här. Det kan och bör bli bättre.”
Han är också förvånad. “Jag trodde att de slutat erbjuda autoavsluta-förslag för religioner under 2011.” Och sedan han typ “kvinnor” i sin egen dator. “Herren är god! Som svar på toppen. Det presenterade resultatet. Det kallas en “direkt svar”. Detta är tänkt att vara obestridligt. Det är Googles högsta godkännande.” Att alla kvinnor har en viss grad av prostituerad i henne? “Ja. Detta är Googles algoritm som går fruktansvärt fel.”
Jag tog kontakt med Google om sin till synes fungerar autoavsluta-förslag och fick följande svar: “Våra sökresultat är en spegling av innehållet på webben. Detta innebär att ibland obehagliga skildringar av känsliga ämnet på nätet kan du påverka vad sökresultat visas för en viss fråga. Dessa resultat återspeglar inte Googles egna åsikter eller övertygelser – som företag, vi stort värde på en mångfald av perspektiv, idéer och kulturer.”
Google är inte bara en sökmotor, naturligtvis. Sök låg till grund för företaget, men det var bara början. Alfabetet, Googles moderbolaget, nu har den största koncentrationen av artificiell intelligens experter i världen. Det expanderar till hälso-och sjukvård, transport, energi. Det kan locka till sig världens bästa datavetare, fysiker och ingenjörer. Det är köpt hundratals av start-ups, inklusive Calico, vars målsättning är att “bota död” och DeepMind, som syftar till att “lösa intelligens”.
Googles grundare Larry Page och Sergey Brin i 2002. Foto: Michael Grecco/Getty Images
Och för 20 år sedan inte ens existerade. När Tony Blair blev premiärminister, var det inte möjligt att Google honom: sökmotor ännu inte hade uppfunnits. Företaget var först grundades 1998 och Facebook inte kommer att visas förrän 2004. Googles grundare Sergey Brin och Larry Page är fortfarande bara 43. Mark Zuckerberg på Facebook är 32. Allt de har gjort, den värld som de har gjort, har skett i blink of an eye.
Men det verkar som om konsekvenser om makt och nå dessa företag är först nu som sipprar in i det allmänna medvetandet. Jag frågar Rebecca MacKinnon, chef för Ranking Digital Rights project vid New America Foundation, oavsett om det var den senaste furore över falska nyheter som vaknade folk upp till den risk avgivit våra rättigheter som medborgare och till företag. “Det är lite konstigt just nu,” säger hon, “eftersom människor är äntligen säger,” Gee, Facebook och Google verkligen har en hel del makt’ som om det är denna stora uppenbarelse. Och det är liksom, ” D ‘ oh.’”
MacKinnon har en särskild kompetens i hur auktoritära regeringar anpassa sig till internet och böja den till sina syften. “Kina och Ryssland är ett varnande exempel för oss. Jag tror att det som händer är att det går fram och tillbaka. Så under den Arabiska våren, det verkade som bra killar var längre fram. Och nu verkar det som the bad guys. Pro-demokratiska aktivister använder internet mer än någonsin men på samma gång, den onde har blivit så mycket mer skickliga.”
Förra veckan Jonathan Albright, biträdande professor i kommunikation vid Elon University i North Carolina, som publicerades första detaljerad forskning på hur djupare blå webbplatser hade sprida sitt budskap. “Jag tog en förteckning över dessa falska nyheter webbplatser som cirkulerar, jag hade en första lista av 306 av dem och jag använde ett verktyg som Google använder för att skrapa dem för länkar och sedan har jag kartlagt dem. Så jag tittade på var länkarna gick till YouTube och Facebook, och mellan varandra, miljoner av dem… och jag kunde bara inte tro vad jag såg.
“De har skapat en webb som blöder igenom på vår web. Detta är inte en konspiration. Det är inte en person som skapat det här. Det är ett stort system av hundratals olika webbplatser som använder samma knep som alla webbplatser som använder den. De skickar ut tusentals länkar till andra webbplatser och tillsammans detta har skapat en stor satellit-system med djupare blå nyheter och propaganda som har helt omgiven mainstream-media-system.”
Han fann 23,000 sidor och 1,3 m hyperlänkar. “Och Facebook är bara förstärkning enhet. När man tittar på den i 3D, det ser faktiskt ut som ett virus. Och Facebook är bara en av värdarna för den service som hjälper den att sprida sig snabbare. Du kan se New York Times och Washington Post och sedan kan du se hur det är ett stort, stort nätverk som omger dem. Det bästa sättet att beskriva det är som ett ekosystem. Detta verkligen går långt bortom enskilda anläggningar eller enskilda berättelser. Vad denna karta visar är fördelningen nätverk och du kan se att det är omgivningen och faktiskt kvävning nyheter mainstream ekosystem.”
Som en cancer? “Som en organism som växer och blir starkare hela tiden.”
Charlie Beckett, professor vid institutionen för medier och kommunikation vid LSE, berättar: “Vi har varit argumentera för lite tid nu att mångfald av medier är bra. Mångfald är bra. Kritik i mainstream-media är bra. Men nu… det har gått vilt utom kontroll. Vad Jonathan Albright forskning har visat att detta inte är en biprodukt av internet. Och det är inte ens klar för kommersiella skäl. Det är motiverade av ideologi, av människor som är ganska medvetet försöker destabilisera internet.”
En geografisk karta över den djupare blå falska nyheter ekosystem. Jonathan Albright, biträdande professor i kommunikation vid Elon University, North Carolina, som “skrapats” 300 falska nyheter webbplatser (den mörka former på denna karta) för att visa 1,3 m hyperlänkar att koppla ihop dem och länka dem till den vanliga nyheter ekosystem. Här, Albright visar att det är en “stor satellit-system med djupare blå nyheter och propaganda som har helt omgiven mainstream-media-system”. Foto: Jonathan Albright
Albright är kartan ger också en ledtråd till att förstå Googles sökresultat jag hittade. Vad dessa djupare blå nyhetssajter har gjort, förklarar han, är vad de flesta kommersiella webbplatser försöker göra. De försöker att hitta knepen som kommer att flytta upp dem Googles PageRank-system. De försöker och “spel” – algoritmen. Och vad hans kartan visar är hur bra de gör det.
Det är vad mina sökningar visar också. Att rätten har koloniserat den digitala rymden runt dessa ämnen – Muslimer, kvinnor, Judar, Förintelsen, svarta människor – långt mer effektivt än den liberala vänstern.
“Det är en information kriget, säger Albright. “Det är det jag alltid kommer tillbaka till.”
Men det är där det går från det här så är det verkligen skrämmande. Jag frågar honom hur det kan stoppas. “Jag vet inte. Jag är inte säker på att det kan vara. Det är ett nätverk. Det är långt mer kraftfull än någon annan aktör.”
Så, det är nästan fått eget liv? “Ja, och det är att lära sig. Varje dag, det blir starkare.”
Ju fler människor som söker efter information om Judar, desto fler människor kommer se länkar till hat platser, och ju mer de klickar på dessa länkar (mycket få människor klicka på den andra sidan av resultaten) mer trafik webbplatser som får mer länkar de kommer att tillfalla och de mer auktoritativa de visas. Detta är en helt cirkulär kunskapsbaserad ekonomi, som bara har en enda resultatet: en förstärkning av budskapet. Judar är onda. Kvinnor är onda. Islam måste förstöras. Hitler var en av de goda.
Falska nyheter och ett 400 år gammalt problem: vi behöver för att lösa den “post-sanningen’ krisen
Läs mer
Och den konstellation av webbplatser som Albright finns – en slags skugga internet – har en annan funktion. Mer än bara att sprida djupare blå ideologi, de används för att spåra och övervaka och påverka vem som helst som kommer över deras innehåll. “Jag skrapade uppföljningar på dessa platser och jag var helt mållös. Varje gång någon gillar en av dessa inlägg på Facebook eller besök en av dessa webbplatser, de skript som sedan följer dig runt på nätet. Och detta gör att data-mining och påverka företag som Cambridge Analytica att exakt rikta in sig på individer, att följa dem runt på nätet och att skicka dem mycket personlig politiska budskap. Detta är en propaganda maskin. Det riktar sig till personer individuellt för att rekrytera dem till en idé. Det är en nivå av social ingenjörskonst som jag aldrig sett förut. De är att fånga människor och sedan hålla dem på en känslomässig koppel och aldrig låta dem gå.”
Cambridge Analytica, en Amerikansk-ägda företag baserat i London, var anställd av både Rösta Lämna kampanj och Trump kampanj. Dominic Cummings, kampanj chef för Omröstning Lämna, har gjort några offentliga tillkännagivanden sedan Brexit folkomröstning men han sa så här: “Om du vill göra stora förbättringar i kommunikation, är mitt råd att anställa läkare.”
Steve Bannon’, grundare av Breitbart News och den nytillsatta chefsstrateg att Trump, är på Cambridge Analytica: s styrelse och det har framkommit att företaget är i samtal för att genomföra politiska meddelanden arbete för Trump administration. Man hävdar att man har byggt psykologiska profiler med 5,000 separata bitar av data på 220 miljoner Amerikanska väljarna. Det vet deras påhitt och nyanser och dagliga vanor och kan anpassa dem individuellt.
“De var med 40-50,000 olika varianter av annons varje dag som kontinuerligt mäter responser och sedan anpassa sig och utvecklas baserat på svar, säger Martin Moore på Kings College. Eftersom de har så mycket uppgifter om individer och de använder sådana fenomenalt kraftfull distributionsnät, de tillåter kampanjer för att kringgå en del av befintliga lagar.
“Det är gjort allt helt oklart och att de kan spendera så mycket pengar som de som på vissa platser eftersom du kan fokusera på en fem kilometers radie eller ens en enda demografiska. Falska nyheter är viktiga, men det är bara en del av det. Dessa företag har hittat ett sätt att överskrida 150 år av lagstiftning som vi har utvecklat för att göra val för en sund och öppen.”
Gjorde micro-riktade propaganda – för närvarande lagligt – swing Brexit rösta? Vi har inget sätt att veta. Gjorde samma metoder som används av Cambridge Analytica hjälpa Trump till seger? Igen, vi har inget sätt att veta. Detta är alla händer i fullständigt mörker. Vi har ingen möjlighet att veta hur våra personuppgifter som bryts och används för att påverka oss. Vi inser inte att den Facebook-sida som vi tittar på, Googles sida, annonserna som vi ser, de sökresultat som vi använder, är alla vara personlig för oss. Vi ser det inte eftersom vi inte har något att jämföra det med. Och det är inte övervakas eller registreras. Det är inte reglerad. Vi är inne i en maskin och vi har helt enkelt inget sätt att se kontroller. De flesta av tiden, att vi inte ens inser att det finns kontroller.
Facebook och Google flytta till kick falska nyheter platser av deras annonsnätverk
Läs mer
Rebecca MacKinnon säger att de flesta av oss anser att internet ska vara som att “luften vi andas och vattnet vi dricker”. Det omger oss. Vi använder det. Och vi behöver inte fråga det. “Men detta är inte ett naturligt landskap. Programmerare och chefer och redaktörer och formgivare, de gör detta landskap. De är människor och alla gör val.”
Men vi vet inte vilka val de gör. Varken Google eller Facebook att göra sina algoritmer för allmänheten. Varför gjorde mitt Google-sökning avkastning nio av 10 sökresultat som påstår att Judarna är onda? Vi vet inte och vi har inget sätt att veta. Deras system är vad Frank Pasquale beskriver som “svarta lådor”. Han kallar Google och Facebook “en skrämmande duopol av makt” och har lett till en växande rörelse av akademiker som ringer för “algoritmiska ansvar”. “Vi måste ha regelbundna revisioner av dessa system, säger han. “Vi behöver människor i dessa företag att vara ansvarig. I USA, enligt Digital Millennium Copyright Act, varje företag måste ha en talesman du kan nå. Och detta är vad som behöver hända. De behöver för att svara på klagomål om hate speech, om fördomar.”
Är en bias som är inbyggda i systemet? Det påverkar inte den typ av resultat som jag såg? “Det finns alla möjliga fördomar om vad som räknas som en legitim källa av information och hur det är vägda. Det finns enorma kommersiella bias. Och när man tittar på den personal, de är unga, vita och kanske Asien, men inte svart eller Spansktalande, och de är överväldigande majoritet män. Den världsbild av unga rika vita män informerar alla dessa domar.”
Senare talar jag till Robert Epstein, en forskning som psykolog vid det Amerikanska Institutet för Beteendevetenskaplig Forskning och Teknik, och författare till studien som Martin Moore berättade för mig om (och att Google inte har offentligt kritiserat), som visar hur sök-rank resultat påverkar rösta mönster. På andra änden av telefonen, han upprepar en av de sökningar jag gjorde. Han typ “göra svarta…” i Google.
“Titta på det. Jag har inte ens trycka på en knapp och det fylls i automatiskt sidan med svar på frågan: “Do svarta begår fler brott?’ Och se, det kunde ha varit jag kommer att ställa alla typer av frågor. “Gör blacks excel på sport’, eller något. Och det har bara gett mig två val och dessa är inte helt enkelt söka eller de mest sökta termer just nu. Google används för att använda det, men nu använder en algoritm som ser på andra saker. Nu, låt mig titta på Bing och Yahoo. Jag är på Yahoo, och jag har 10 förslag, inte en som är ” black människor begår fler brott?’
“Och folk inte ifrågasätta detta. Google är inte bara att erbjuda ett förslag. Detta är en negativ förslag och vi vet att negativa förslag beroende på massor av saker kan dra mellan fem och 15 fler klick. Och allt detta programmerats. Och det kan programmeras på olika sätt.”
Vad Epstein arbete har visat att innehållet på en sida med sökresultat kan påverka människors synpunkter och åsikter. Typ och ordning av sökning ranking var visat att påverka väljarna i Indien i dubbel-blind-studier. Det fanns liknande resultat avseende de sökförslag som du erbjuds.
“Allmänheten är helt ovetande om grundläggande frågor när det gäller online-sök och inflytande. Vi talar om de mest kraftfulla mind-control maskin som någonsin uppfunnits i historien av den mänskliga rasen. Och att folk inte ens märker det.”
Lycka till i Google avslöjar sin algoritm | John Naughton
Läs mer
Damien Tambini, associate professor vid London School of Economics, som fokuserar på media, säger att vi saknar någon form av ram för att ta itu med eventuella konsekvenser av dessa företag på den demokratiska processen. “Vi har strukturer att ta itu med kraftfulla media företag. Vi har lagar om konkurrens. Men dessa företag inte hålls ansvariga. Det finns inga krafter för att få Google eller Facebook för att avslöja något. Det är en redaktionell funktion för att Google och Facebook, men det görs av sofistikerade algoritmer. De säger att det är maskiner som inte är redaktörer. Men det är helt enkelt en mekaniserad redaktionell funktion.”
Och företag, säger John Naughton, the Observer, krönikör och senior research fellow vid Universitetet i Cambridge, är livrädd för att skaffa redaktionellt ansvar som de inte vill ha. “Även om de kan och regelbundet för att justera resultaten på alla möjliga sätt.”
Säkert resultat om Google på Google verkar inte helt neutral. Google Är Google rasistiskt?” och de presenterade resultat – Google svara på boxar ut längst upp på sidan – är helt klart: nej. Det är det inte.
Google och Facebook funderar på lång sikt. De har resurser, pengar och ambition att göra vad de vill
John Naughton
Men den enorma omfattningen och komplexiteten av att ha två globala företag av ett slag som vi aldrig sett förut som påverkar så många områden i våra liv är en sådan, säger Naughton, att “vi inte ens har den mentala apparaten till ens vet vilka problem som finns”.
Och detta är särskilt sant i framtiden. Google och Facebook är i framkant av AI. De kommer att äga framtiden. Och resten av oss kan knappt börja komponera typer av frågor vi borde ställa oss. “Politiker tror inte på lång sikt. Och företag tror inte på lång sikt, eftersom de är fokuserade på nästa kvartals resultat och det är det som gör att Google och Facebook intressant och annorlunda. De är absolut tänka långsiktigt. De har resurser, pengar, till och ambitionen att göra vad de vill.
“De vill digitalisera alla böcker i världen: de gör det. De vill bygga en självgående bil: de gör det. Det faktum att folk läser om dessa falska nyheter och inser att detta skulle kunna ha en inverkan på politik och val, det är liksom, ” Vilken planet har du bott på?’ För Kristi skull, det är uppenbart.”
“Internet är en av de få saker som människan har byggt att de inte förstår.” Det är “det största experimentet i anarki i historien. Hundratals miljoner människor, varje minut, skapa och konsumera en oräknelig mängd av digitala innehåll i en online-värld som inte riktigt är bunden av marksänd lagar.” Internet som ett laglöst anarkistisk stat? En massiv mänskliga experiment med några kontroller och balanser och otaliga potentiella konsekvenser? Vilken typ av digital doom-mongerer skulle säga en sådan sak? Steg framåt, Eric Schmidt – Googles styrelseordförande. De är de första raderna i boken, Den Nya Digitala Tidsåldern, som han skrev tillsammans med Jared Cohen.
Vi förstår inte det. Det är inte bundna av marksänd lagar. Och det är i händerna på två stora, mäktiga företag. Det är deras experiment, inte vårt. Den teknik som var tänkt att göra oss fria kan mycket väl ha hjälpt Trump till makten, eller i hemlighet hjälpt swing röster för Brexit. Det har skapat ett stort nätverk av propaganda som har inkräktat som en cancer över hela internet. Detta är en teknik som har möjliggjort gillar Cambridge Analytica för att skapa politiska budskap unikt anpassade till dig. De förstår dina känslomässiga reaktioner och hur för att utlösa dem. De vet vad du gillar, ogillar var du bor, vad du äter, vad får dig att skratta, vad får dig att gråta.
Och vad är nästa steg? Rebecca MacKinnon forskning har visat hur auktoritära regimer att förändra internet för sina egna syften. Är det vad som kommer att hända med Silicon Valley och Trump? Som Martin Moore påpekar, kan den tillträdande presidenten hävdade att Apples vd Tim Cook ringde för att gratulera honom strax efter sin valseger. “Och det kommer utan tvekan att vara press på dem att samarbeta, säger Moore.
Journalistik är inte i ansiktet av en sådan förändring och endast kommer att misslyckas ytterligare. Nya plattformar har lagt en bomb under den finansiella modell – reklam – resurser krymper, trafiken är allt mer beroende av dem, och förlagen har ingen tillgång, ingen insikt alls, i vad dessa plattformar gör i deras högkvarter, deras labb. Och nu de rör sig utanför den digitala världen som i den fysiska. Nästa gränser är hälso-och sjukvård, transport, energi. Och precis som Google är en monopolställning för att söka dess ambition att äga och kontrollera den fysiska infrastrukturen i våra liv är vad som kommer härnäst. Den som redan äger våra data och med det vår identitet. Vad kommer det att betyda när det rör sig i alla andra områden av våra liv?
Facebook-grundaren Mark Zuckerberg: fortfarande bara 32 års ålder. Foto: Mariana Bazo/Tt-Reuters
“Just nu, det finns ett avstånd när du Google “Judar” och få “Judarna är onda”, säger Julia Powles, forskare vid Cambridge på teknik och juridik. “Men när du flyttar in i den fysiska världen, och dessa begrepp blivit en del av de verktyg som används när du navigerar runt din stad eller påverka hur människor är sysselsatta, jag tror att det har verkligen skadliga konsekvenser.”
Powles inom kort att publicera en uppsats att titta på DeepMind relation med NHS. “För ett år sedan, 2 miljoner Londonbor” NHS patientjournaler överlämnades till DeepMind. Och det var total tystnad från politiker, från tillsynsmyndigheter, från någon i en position av makt. Detta är ett företag utan någon sjukvård erfarenhet ges aldrig tidigare skådad tillgång till NHS och det tog sju månader att ens veta att de hade uppgifter. Och det tog undersökande journalistik för att ta reda på det.”
Rubriken var att DeepMind kommer att arbeta med NHS för att utveckla en app som skulle ge tidig varning för dem som lider av njursjukdom. Och det är, men DeepMind ambitioner – “för att lösa intelligens” – går långt bortom det. Hela historien om 2 miljoner NHS patienterna är, för artificiell intelligens forskare, en skattkammare. Och deras inträde i NHS – att erbjuda användbara tjänster i utbyte för vår personliga uppgifter – är ett annat stort steg i deras makt och inflytande i alla delar av våra liv.
Eftersom skede bortom sökning är en förutsägelse. Google vill veta vad du vill ha innan du vet det själv. “Det är nästa steg, säger Martin Moore. “Vi talar om den allvetande dessa tech jättar, men det allvetande tar ett stort steg framåt igen och se om de kan förutse. Och det är där de vill gå. Att förutsäga sjukdomar i hälsa. Det är verkligen, verkligen problematisk.”
För nästan 20 år som Google har varit i vår tillvaro, vår syn på bolaget har varit präglad av ungdomar och frikostigheten av dess grundare. Dito Facebook, vars uppdrag, Zuckberg sade var inte att vara “ett företag. Den byggdes för att åstadkomma ett socialt uppdrag att göra världen mer öppen och ansluten”.
Ju mer vi argumentera med dem, ju mer de vet om oss. Det hela matas in i en cirkulär system
Jonathan Albright
Det skulle vara intressant att veta hur han tror att det är att arbeta ut. Donald Trump är att ansluta igenom exakt samma teknik plattformar som förmodligen hjälpt till att underblåsa den Arabiska våren. ansluta till rasister och främlingsfientliga. Och Facebook och Google är att förstärka och sprida detta budskap. Och oss – mainstream-media. Vår upprördhet är bara en annan nod på Jonathan Albright data karta.
“Ju mer vi argumentera med dem, ju mer de vet om oss, säger han. “Det hela matas in i en cirkulär system. Vad vi ser här är en ny era av nätverk propaganda.”
Vi är alla punkter på kartan. Och vår medverkan, vår godtrogenhet, att konsumenterna inte berörda medborgare, är en viktig del av den processen. Och vad som sedan händer är upp till oss. “Jag skulle säga att alla har varit riktigt naiv och vi måste återställa oss till en mycket mer cynisk plats och gå vidare utifrån det,” är Rebecca MacKinnon råd. “Det är ingen tvekan om att där vi är nu är en mycket dålig plats. Men det är vi som samhälle som har gemensamt skapat detta problem. Och om vi vill få till en bättre plats, när det gäller att ha en information ekosystem som serverar mänskliga rättigheter och demokrati i stället för att förstöra det vi har att dela på ansvaret för det.”
Är Judar onda? Hur vill du att fråga besvarad? Det här är vårt internet. Inte Google. Inte Facebook. Inte djupare blå propagandister. Och vi är de enda som kan återta den.