Senator Mark Warner av Virginia varnar för att “optimera för upprörande, slipprig, och ofta bedrägligt innehåll’ mitt 2016 val gäller
@PaulLewis
E-post
Mon 5 Mar 2018 12.00 GMT
Senast ändrad tors 5 Feb 2018 12.02 GMT
Senator Mark Warner: “jag har varit mer oroliga för att den rekommendation algoritmer motor bakom plattformar som YouTube, i bästa fall, i sig bristfälliga i att optimera för upprörande, slipprig, och ofta bedrägligt innehåll.’
Foto: Michael Reynolds/EPA
Den högst rankade Demokrat på syrien har varnat för att YouTube är kraftfull rekommendation algoritm kan vara “optimera för upprörande, slipprig, och ofta bedrägligt innehåll” eller mottagliga för “manipulation av dåliga skådespelare, inklusive utländska intelligens”.
Senator Mark Warner, Virginia, gjorde en skarp varning efter en utredning av Väktare upptäckte att den Google-ägda video plattform var att systematiskt främja splittrande och konspiratorisk videor som skadar Hillary Clintons kampanj under månaderna fram till valet 2016.
“Företag som YouTube har stor makt och inflytande i utformningen av media och innehåll som användare se,” Warner sagt. “Jag har varit mer oroliga för att den rekommendation algoritmer motor bakom plattformar som YouTube, i bästa fall, i sig bristfälliga i att optimera för upprörande, slipprig, och ofta bedrägligt innehåll.”
Han tillade: “I värsta fall, de kan vara mycket känsliga för gaming och manipulation av dåliga skådespelare, inklusive främmande intelligens.”
‘Fiction är överträffar verkligheten: hur YouTube algoritm förvränger sanningen
Läs mer
YouTube rekommendation algoritm är en noga bevarad formel som avgör vilka videoklipp som främjas i “nästa” i kolumnen bredvid video-spelare. Det är det som driver den största delen av trafiken till många videor på YouTube, där över en miljard timmar film visas varje dag.
Men kritiker har i flera månader varnat för att den komplexa rekommendation algoritm har också varit att utveckla alarmerande fördomar eller tendenser, driver stötande innehåll riktar sig till barn eller ge enorma syre till konspirationsteorier om massa skottlossning.
Algoritmen roll i valet 2016 har, tills nu, till stor del gått outforskade.
The Guardian ‘ s forskning bygger på en tidigare osedda databas 8000 filmer som rekommenderas av algoritmen i månader fram till valet. Databasen är sammanställd på den tiden av Guillaume Chaslot, en före detta YouTube-ingenjören som byggde ett program för att upptäcka vilka videoklipp som företaget rekommenderar.
En analys av de filmer som ingår i databasen tyder på att den algoritm som var sex gånger mer benägna att rekommendera videor som var skadligt för Clinton än Trump, och har också tenderat att förstärka vilda konspirationsteorier om att den före detta statssekreterare.
Videor som fick ett enormt uppsving av YouTube ‘ s algoritm ingår massor av klipp som påstod att Clinton hade ett psykiskt sammanbrott eller led av syfilis eller Parkinsons sjukdom, och många andra att tillverka innehållet i WikiLeaks avslöjanden att göra ogrundade påståenden, anklagar de Clinton för inblandning i mord eller ansluta henne till det ockulta och paedophilic kulter.
De videoklipp som finns i den databas sammanställd av Chaslot och delade med Väktare hade sett mer än 3 miljarder gånger före valet. Många av filmerna har sedan försvunnit från YouTube och den forskning som lett till att flera experter att fråga om algoritmen var manipulerade eller gamed av Ryssland.
Alex Jones Channel, som sänder arm högerextremistisk sammansvärjning webbplats InfoWars, var en av de mest rekommenderade kanaler i databasen för videor.
I sitt uttalande, Warner läggas till: “De [tech] plattform för företag som har ett enormt inflytande över de nyheter vi ser på och utformningen av vår politiska diskurs, och de har en skyldighet att agera ansvarsfullt i att utöva den makten.”
Warners varning om potentiella utländsk inblandning i YouTube ‘ s rekommendation algoritm är speciellt anmärkningsvärt med tanke på Google upprepade gånger spelas ned omfattningen av ryska engagemang i sin video plattform under vittnesmål inför Senatens kommitté i December.
Kommitténs undersökning av rysk inblandning i det AMERIKANSKA presidentvalet är pågående men har hittills främst fokuserat på Facebook och Twitter.
De 8 000 YouTube-rekommenderade videoklipp var också analyseras av Graphika, en kommersiell analytics företag som har spårat politisk desinformation kampanjer. Det ingick många av YouTube-videor verkade ha drivits av ett nätverk av Twitter sock puppets och robotar som styrs av pro-Trump digitala konsulter med “en förmodligen oönskade hjälpa” från Ryssland.
Detta och andra tekniker kan ha uppmuntrat YouTube rekommendation algoritm till att sprida videor som skadar Clinton. Chaslot har sagt att han är villig att samarbeta med syrien och dela med sig av sin databas med utredarna.
Korrespondens offentliggöras i förra veckan avslöjade att Warner skrev till Google kräver mer information om YouTube: s rekommendation algoritm, som han varnas kan vara manipulerade av utländska aktörer.
Hur en ex-YouTube insider undersökta sin hemliga algoritm
Läs mer
Senator frågade Google vad det gjorde för att förhindra en “baktala invasion” av sin video plattform rekommendation system. Googles råd, Kent Walker, som erbjuds några detaljerna i sitt skriftliga svar, men sa att YouTube hade “en sofistikerad spam och säkerhetslucka upptäckt för att identifiera avvikande beteende och maligna intrång”.
Google var från början kritisk till Vårdnadshavare forskning, säger att det “höll starkt” med sin metod, data och slutsatser. “Det verkar som om the Guardian försöker flika forskning, data och slutsatser i en gemensam berättelse om teknikens roll i förra årets val,” ett företag talesman sade. “Verkligheten av hur vårt system fungerar, men helt enkelt inte har stöd för denna premiss.”
Men, i förra veckan, efter korrespondens mellan syrien och Google offentliggjordes, avslöja Warner skriftligt utbyte med företag över rekommendationen algoritm, Google erbjöd ett nytt uttalande.
“Vi uppskattar Guardian: s arbete med att lysa på den med en spotlight på denna utmanande fråga,” det nya uttalandet pekar på förändringar som gjorts sedan valet att motverka algoritmer för att främja problematiskt innehåll. “Vi vet att det finns mer att göra här och vi ser fram emot att göra fler uttalanden under de kommande månaderna.”
På fredag, efter det var informerade Guardian skulle inom kort publicera sin undersökning, YouTube gav en intervju i Wall Street Journal där det anges planer på att märka statligt sponsrade innehållet och bekämpa spridningen av konspirationsteorier på plattformen.
Journal rapporterade plan “var tidig i utvecklingen, så det är oklart när det skulle ske – eller hur sajten skulle välja konspirationsteorier”.