Psykolog Mikal Kosinski sier kunstig intelligens kan oppdage din seksualitet og politikk bare ved å se på ansiktet. Hva hvis han har rett?
@PaulLewis
E-post
Lør 7 Jul 2018 10.00 BST
Sist endret på Sat-7 Jul 2018 12.23 BST
Mikal Kosinski: “jeg tror ikke på fri vilje.’
Foto: Jason Henry i the Guardian
Vladimir Putin var ikke til stede, men hans lojale løytnanter var. 14. juli i fjor, den russiske statsminister Dmitrij Medvedev, og flere medlemmer av hans regjering var samlet i et kontorbygg i utkanten av Moskva. På scenen gikk et gutteaktig utseende psykolog, Mikal Kosinski, som hadde blitt fløyet fra sentrum med helikopter for å dele forskningen sin. “Det var Lavrov, i den første raden,” minnes han flere måneder senere, under henvisning til Russlands utenriksminister. “Du vet, en fyr som starter kriger og tar over land.” Kosinski, en 36-år gamle amanuensis av organisatorisk atferd ved Stanford University, ble smigret av at den russiske skapet skulle samles for å høre ham snakke. “De gutta strike meg som en av de mest kompetente og godt informert grupper,” sier han til meg. “De gjorde lekser. De leser mine ting.”
Kosinski er “ting” omfatter banebrytende forskning på teknologi, masse overtalelse og kunstig intelligens (AI) – forskning som inspirerte til opprettelsen av den politiske rådgivning Cambridge Analytica. For fem år siden, mens en graduate student ved Universitetet i Cambridge, viste han hvordan selv godartet aktivitet på Facebook kan avsløre personlighet – en oppdagelse som ble senere utnyttet av data-analytics-firma som bidro til å sette Donald Trump i det Hvite Hus.
Det ville være nok til å gjøre Kosinski interessant for den russiske regjering. Men publikum ville også ha vært fascinert av hans arbeid om bruk av AI til å oppdage psykiske egenskaper. Uker etter hans tur til Moskva, Kosinski publisert en kontroversiell papir der han viste hvordan ansikt-analyse av algoritmer kunne skille mellom bilder av homofile og heterofile mennesker. Samt seksualitet, mener han at denne teknologien kan brukes til å gjenkjenne følelser, IQ og til og med en predisposisjon for å begå visse forbrytelser. Kosinski har også brukes algoritmer for å skille mellom ansikter av Republikanerne og Demokratene, i en upublisert eksperiment sier han var vellykket – selv om han innrømmer at resultatene kan endre “avhengig av om jeg har skjegg eller ikke”.
Fremskritt gjør folk ukomfortable. Når den første aper gikk, andre aper sannsynligvis sa: “Dette er en skandale!’
Hvordan gjorde dette 36-år gamle akademiske, som har ennå å skrive en bok, tiltrekke seg oppmerksomheten til den russiske skapet? Over flere møter i California og London, Kosinski stiler seg selv som et tabu-busting tenker, noen som er forberedt på å fordype deg i vanskelige territorium om kunstig intelligens og overvåking som andre akademikere ikke. “Jeg kan være opprørt over oss å miste personvernet, sier han. “Men det vil ikke endre det faktum at vi allerede har mistet våre retningslinjer, og det er ingen vei tilbake, uten å ødelegge denne sivilisasjon.”
Målet med forskningen sin, Kosinski sier, er det bare å markere farene. Men han er tydelig begeistret for noen av teknologiene som han hevder å være advarer oss om, snakker ivrig om kameraer som kan oppdage folk som er “tapt, engstelig, selges eller potensielt farlig. Kunne du tenke deg å ha de diagnostiske verktøy for overvåkning av offentlige steder for potensielle trusler mot seg selv eller andre,” sier han til meg. “Det finnes ulike personlige problemer med hver av disse tilnærmingene, men det kan bokstavelig talt redde liv.”
“Fremgang alltid gjør folk ukomfortable,” Kosinski legger til. “Alltid har gjort. Sannsynligvis, når den første aper stoppet henger fra trærne og begynte å gå på savannen, apekatter i trærne var som, ‘Dette er en skandale! Det gjør oss ubehagelig.’ Det er det samme med all ny teknologi.”
***
Kosinski har analysert tusenvis av ansikter, men aldri kjøre sitt eget bilde gjennom sin personlighet-oppdage-modellene, så vi kan ikke vite hvilke egenskaper er angitt med hans bleke-grå øyne eller dimple i haken hans. Jeg spør ham om å beskrive sin egen personlighet. Han sier han er en samvittighetsfull, utadvendt og sannsynligvis emosjonell person med en IQ som er “kanskje litt over gjennomsnittet.” Han legger til: “Og jeg er ubehagelig.” Hva som gjorde ham slik? “Hvis du stoler personlighet vitenskap, det virker som, i stor grad, du er født på denne måten.”
Hans venner, på den annen side, beskriver Kosinski som en strålende, provoserende og ukuelige data vitenskapsmann som har en umettelig (noen sier naiv) ønske om å presse grensene for sin forskning. “Mikal er som en liten gutt med en hammer,” som en av hans akademiske venner forteller meg. “Plutselig alt ser ut som en spiker.”
Født i 1982 i Warszawa, Kosinski arvet hans talent for koding fra sine foreldre, som begge utdannet som programvare ingeniører. Kosinski og hans bror og søster hadde “en datamaskin hjemme, og potensielt mye tidligere enn vestlige mennesker på samme alder”. Ved slutten av 1990-tallet, som Polens post-Sovjetiske økonomien var å åpne opp, Kosinski var å ansette hans skolekamerater å jobbe for sin egen IT-selskap. Denne virksomheten bidro til å finansiere ham gjennom universitetet, og i 2008 begynte han i et Ph.d. – program ved Cambridge, der han ble tilknyttet Psykometri Sentrum, en innretning som spesialiserer seg i å måle psykologiske trekk.
Det var rundt denne tiden han møtte David Stillwell, en annen graduate student, som hadde bygget en personlighet quiz og delt det med dine venner på Facebook. Appen gikk raskt viral, som hundrevis og så tusenvis av mennesker tok undersøkelse for å oppdage deres resultater i henhold til de “Fem Store” verdier: åpenhet, conscientiousness, extraversion, agreeableness og neuroticism. Når brukere fullført myPersonality tester, noen som også målt IQ og velvære, ble de gitt en mulighet til å donere sine resultater til akademisk forskning.
Kosinski kom om bord, ved hjelp av sine digitale ferdigheter for å rense, anonymise og sortere data, og deretter gjøre den tilgjengelig for andre akademikere. Innen 2012, og mer enn 6 millioner mennesker hadde tatt tester – med ca 40% donere sine data, og skaper den største dataset av sitt slag.
Fra Cesare Lombroso er kriminelle taksonomi: en “vanlig tyv’…
…og en morder. Bilder: Alamy
I Mai, New Scientist magazine viste at datasettet er brukernavn og passord, hadde vært ved et uhell til venstre på GitHub, en vanlig brukt code-sharing nettstedet. For fire år, alle og enhver – ikke bare autoriserte forskere – kunne ha tilgang til dataene. Før magazine ‘ s undersøkelse, Kosinski har innrømmet for meg at det var risiko for deres liberale tilnærming. “Vi anonymiserte data, og vi har gjort forskere signere en garanti for at de ikke vil bruke den til andre kommersielle grunner,” hadde han sagt. “Men du kan bare ikke virkelig kan garantere at dette ikke vil skje.” Mye av Facebook data, la han til, var “de-anonymisable”. I kjølvannet av New Scientist historie, Stillwell stengt ned myPersonality prosjektet. Kosinski sendte meg en link til kunngjøringen, klagende: “Twitter-krigere og sensasjonshungrige forfattere som har gjort David stenge myPersonality prosjektet.”
I løpet av den tiden myPersonalitydata var tilgjengelig, ca 280 forskere brukte den til å publisere mer enn 100 vitenskapelige artikler. De snakket om var en 2013 studie medforfatter av Kosinski, Stillwell og en annen forsker, som utforsket forholdet mellom Facebook “Liker” og den psykologiske og demografiske trekk av 58 000 mennesker. Noen av resultatene var intuitivt: den beste prediktorer av innadvendthet, for eksempel, var det Liker for nettsider som for eksempel “Video Games” og “Voltaire”. Andre funn var mer forvirrende: blant de beste prediktorer for høy IQ var Likes på Facebook-sider for “Tordenvær” og “Morgan Freeman ‘ s Voice”. Folk som Likte sider for “iPod” og “Gorillaz” det var sannsynlig til å være misfornøyd med livet.
Hvis en algoritme ble matet med tilstrekkelig data om Facebook Liker, Kosinski og hans kolleger funnet, vil det kunne gi mer nøyaktige personlighet-basert spådommer enn vurderinger som virkelige venner. I annen forskning, Kosinski og andre viste hvordan Facebook data kan bli omgjort til det de beskrev som “en effektiv tilnærming til digital masse overtalelse”.
Deres forskning fikk oppmerksomhet av SCL-Gruppen morselskapet i Cambridge Analytica. I 2014, SCL prøvde å verve Stillwell og Kosinski, tilbyr å kjøpe myPersonality data og deres prediktive modeller. Da forhandlingene brøt sammen, de er avhengige av hjelp fra annen akademisk i Cambridge psykologisk institutt – Aleksandr Kogan, en assisterende professor. Ved hjelp av sin egen Facebook personlighet quiz, og betalende brukere (med SCL-penger) for å ta tester, Kogan samlet inn data på 320,000 Amerikanere. Utnytter et smutthull som tillater utviklere å høste data som hører til venner av Facebook app-brukere (uten deres viten eller samtykke), Kogan var i stand til å hoover opp flere data på så mange som 87 millioner mennesker.
Cambridge Analytica whistleblower Christopher Wylie som sier at selskapet forsøkte å gjenskape Kosinski arbeid for “psykologisk krigføring”. Foto: Getty Images
Christopher Wylie, whistleblower som løftet lokket på Cambridge Analytica virksomhet tidligere i år, har beskrevet hvordan selskapet satt ut for å “gjenskape” arbeid gjort av Kosinski og hans kolleger, og for å gjøre det til et instrument for “psykologisk krigføring”. “Dette er ikke min feil,” Kosinski fortalte reportere fra den Sveitsiske publisering Das Magazin, som var den første til å gjøre tilkoblingen mellom hans arbeid og Cambridge Analytica. “Jeg gjorde ikke bygge bomben. Jeg bare viste at det ikke eksisterer.”
Cambridge Analytica alltid nektet for å bruke Facebook-basert psykografisk målretting i løpet av Trumf-kampanje, men skandale over sin data-fangst tvang selskapet til å lukke. Saga har også vist seg å være svært skadelig for Facebook, som har hovedkontor er mindre enn fire mil fra Kosinski base ved Stanford Business School i Silicon Valley. Første gang jeg kommer inn på kontoret hans, jeg spør ham om et maleri ved datamaskinen sin, viser en demonstrant bevæpnet med en Facebook-logoen i et hylster i stedet for en pistol. “Folk tror jeg er anti-Facebook,” Kosinski sier. “Men jeg tror at, generelt, det er bare en fantastisk teknologi”.
Likevel, han er skuffet i Facebook CEO, Mark Zuckerberg, som, da han vitnet i den AMERIKANSKE Kongressen i April, sa han prøvde å finne ut “om det var noe dårlig å gå på ved Universitetet i Cambridge”. Facebook, Kosinski sier, var godt kjent av hans forskning. Han viser meg e-post han hadde med ansatte i 2011, der de har opplyst at de var “ved hjelp av analyse av språklige data til å konkludere at personlighetstrekk”. I 2012, det samme ansatte arkivert et patent, som viser hvordan personlighetstrekk kan være hentet fra Facebook-meldinger og statusoppdateringer.
Kosinski virker uaffisert av furore over Cambridge Analytica, som han mener er urettferdig baktalt psykometriske micro-målretting i politikk. “Det er negative aspekter ved det, men samlet dette er en flott teknologi og bra for demokratiet,” sier han. “Hvis du kan målrette mot politiske meldinger for å passe folks interesser, drømmer, personlighet, du gjør disse meldingene mer relevant, noe som gjør at velgerne mer engasjert og mer engasjert velgerne er bra for demokratiet.” Men du kan også, sier jeg, bruker de samme teknikkene for å hindre motstanderens velgere fra å slå ut, noe som er dårlig for demokratiet. “Deretter hver politiker i USA gjør dette,” Kosinski svar, med en skuldertrekning. “Når du målretter mot velgerne til motstanderen din, dette er en stemmegiver-undertrykkelse aktivitet.”
Kosinski er bredere klage på Cambridge Analytica fallout, sier han, er at det har skapt en illusjon” som myndighetene kan beskytte data og demme opp sine borgeres personvern. “Det er en tapt krig, sier han. “Vi bør fokusere på å organisere samfunnet på en slik måte som å sørge for at post-personvern æra er en beboelig og hyggelig sted å leve.”
***
Kosinski sier han aldri har satt ut for å bevise at AI kunne forutsi en persons seksualitet. Han beskriver det som en sjanse discovery, noe han “snublet over”. Den lyspære øyeblikk kom da han ble sifting gjennom Facebook-profiler for et annet prosjekt, og begynte å legge merke til hva han trodde var mønstre i folks ansikter. “Det plutselig slo det meg,” seier han, “innadvendte og utadvendte har helt ulike ansikter. Jeg var som, ” Wow, kanskje det er noe der.’”
Språk, praksis for å bestemme en persons karakter fra ansiktet deres, har en historie som strekker seg tilbake til det gamle Hellas. Men sine glansdager kom i det 19. århundre, da den italienske antropolog Cesare Lombroso publisert sin berømte taksonomi, som erklærte at “nesten alle kriminelle” har “jug ører, tykt hår, tynn skjegg, uttalt bihulene, utstående chins, og brede kinnben”. Analysen er forankret i et dypt rasistiske skolen som holdt som kriminelle lignet “villmenn og aper”, selv om Lombroso presentert sine funn med presisjonen til en rettsmedisiner. Tyvene var kjent for sine “små vandrende øyne”, voldtektsforbrytere deres “hovne lepper og øyelokk”, mens morderne hadde en nese som var “ofte hawklike og alltid store”.
Lombroso er fortsatt er fortsatt utstilt på museet i Torino, i tillegg til de hodeskaller av hundrevis av kriminelle han tilbrakt tiår å undersøke. Hvor Lombroso brukt calipers og craniographs, Kosinski har vært ved hjelp av nevrale nettverk for å finne mønstre i bilder skrapes fra internett.
Kosinski mottatt e-post fra folk forvirret om sin seksualitet som hadde håpet at han skulle kjøre sitt bilde gjennom sin algoritme
Kosinski forskning avviser språk som “en blanding av overtro og rasisme forkledd som vitenskap” – men så hevder det opprettet et tabu rundt “å studere eller engang å diskutere sammenhengen mellom ansiktstrekk og karakter”. Det er økende bevis, han insisterer på at koblinger mellom ansikter og psykologi eksisterer, selv om de er usynlige for det menneskelige øye, nå, med fremskritt i maskinlæring, slike koblinger kan bli oppfattet. “Vi ville ikke ha algoritmer for 50 år siden, som kan oppdage mønstre,” sier han. “Vi hadde bare menneskelig dommere.”
I en artikkel publisert i fjor, Kosinski og Stanford forsker, Yilun Wang, rapportert som en maskin-læring system var i stand til å skille mellom bilder av homofile og heterofile mennesker med en høy grad av nøyaktighet. De brukte 35,326 bilder fra dating nettsteder og hva Kosinski beskriver som “off-the-hylle” facial-gjenkjennelse programvare.
Presentert med to bilder – ett av en homofil person, den andre rett – algoritmen ble opplært til å skille de to i 81% av tilfellene som involverer bilder av menn og 74% av fotografier av kvinner. Menneskelige dommere, derimot, var i stand til å identifisere rett og homofile i 61% og 54% av tilfellene, henholdsvis. Når algoritmen ble vist fem ansikts bilder per person i par, nøyaktigheten økt til 91% for menn, 83% for kvinner. “Jeg var litt sjokkert over å oppdage at det er så lett for en algoritme for å skille mellom homofile og heterofile mennesker,” Kosinski forteller meg. “Jeg fikk ikke se hvorfor det skulle være mulig.”
“Jeg gjorde ikke bygge bomben. Jeg bare viste det eksisterer.’ Foto: Jason Henry i the Guardian
Det gjorde heller ikke mange andre mennesker, og det var en umiddelbar reaksjon når forskning – kalt “AI gaydar” – var forhåndsvises i the Economist magazine. To av usas mest fremtredende LGBTQ organisasjoner krevde at Stanford distansere seg fra det de kalte professor er “farlig og feil forskning”. Kosinski mottatt en flom av e-poster, mange fra folk som fortalte ham at de var forvirret om sin seksualitet og håpet han skulle kjøre sitt bilde gjennom sin algoritme. (Han har avslått.) Det var også sinne som Kosinski hadde utført forskning på en teknologi som kan brukes til å forfølge homofile mennesker i land som Iran og Saudi-Arabia, hvor homofili straffes med døden.
Kosinski sier hans kritikere gått glipp av poenget. “Dette er den iboende paradoks av advarsel folk mot potensielt farlige teknologi,” sier han. “Jeg snublet over disse resultatene, og jeg var faktisk nær å sette dem i en skuff og ikke publishing – fordi jeg hadde et veldig bra liv uten denne papir som legges ut. Men da en kollega spurte meg om jeg ville være i stand til å se meg selv i speilet om en dag, en bedrift eller en offentlig utplassert en lignende teknikk for å skade folk.” Det ville, sier han, har vært “moralsk galt” å begrave sine funn.
En frittalende kritiker av at forsvaret er Princeton-professor Alexander Todorov, som har gjennomført noen av de mest siterte forskning på ansikter og psykologi. Han argumenterer for at Kosinski metoder er dypt feilaktige: mønstre plukket opp av algoritmer for å sammenligne tusenvis av bilder kan ha noe å gjøre med ansiktskjennetegn. I en tentamen kritikk lagt ut på nettet, Todorov og to AI forskere på Google hevdet at Kosinski algoritme kunne ha vært å svare på mønstre i folks sminke, skjegg eller briller, selv vinkel de holdt kameraet på. Self-lagt ut bilder på dating nettsteder, Todorov poeng ut, prosjektet en rekke ikke-ansikts ledetråder.
Kosinski erkjenner at hans maskin læring systemet registrerer ikke er relatert signaler, men er steinhard programvaren også skiller mellom ansikts-strukturer. Hans funn er i tråd med prenatal hormon teorien om seksuell orientering, sier han, som hevder at nivåene av androgener, foetuses er utsatt til i mors liv å finne ut om folk er rett eller homofil. Det samme androgener, Kosinski argumenterer for, kan også resultere i “kjønn-atypisk ansikts morfologi”. “Derfor,” skriver han i sin papir, “homofile menn er spådd til å ha mindre kjever og chins, slankere øyenbryn, lenger neser og større panna… Det motsatte skulle være tilfelle for lesbiske.”
Hvis du i utgangspunktet godta at vi bare datamaskiner, så datamaskiner er ikke skyldig i kriminalitet
Dette er hvor Kosinski arbeid kommer i biologisk determinisme. Mens han benekter ikke påvirkning av sosiale og miljømessige faktorer i våre personligheter, han spiller dem ned. Til tider, det han sier virker uhyggelig minner om Lombroso, som var kritisk til ideen om at kriminelle hadde “fri vilje”: de bør være pitied snarere enn straffet, italiensk hevdet, fordi – som aper, katter og cuckoos – de var “programmert til å gjøre skade”.
“Jeg tror ikke på skyld, fordi jeg ikke tror på fri vilje,” Kosinski forteller meg, forklarer at en persons tanker og atferd “er fullt biologiske, fordi de har sin opprinnelse i det biologiske datamaskin som du har i hodet”. Ved en annen anledning, han forteller meg at “Hvis du i utgangspunktet akseptere at vi er bare datamaskiner, så datamaskiner er ikke skyldig i kriminalitet. Datamaskiner kan fungere feil. Men da bør du ikke klandre dem for det.” Professoren legger til: “Veldig mye som: du trenger ikke, generelt, skylden for hunder ikke fungerer som den skal.”
Todorov mener Kosinski forskning er “utrolig etisk tvilsom”, som det kunne låne en ferniss av troverdighet til regjeringer som ønsker kanskje å bruke slik teknologi. Han peker på et papir som dukket opp på nettet for to år siden, som i en Kinesisk AI forskere hevdet at de hadde trent en face-recognition algoritmen for å forutsi – med 90% nøyaktighet – om noen var en dømt kriminell. Forskningen, som brukes Kinesiske regjeringen identitet bilder av hundrevis av mannlige kriminelle, var ikke fagfellevurdert, og ble revet i filler av Todorov, som advarte om at “utviklingen i kunstig intelligens og maskinlæring har aktivert vitenskapelig rasisme å gå inn i en ny tid”.
Kosinski har en annen ta. “Det faktum at resultatene var helt ugyldig og ubegrunnet, betyr ikke at det de foreslår er også feil, sier han. “Jeg kan ikke se hvorfor du ikke ville være i stand til å forutsi sannsynligheten for å begå en forbrytelse fra noens ansikt. Vi vet for eksempel at testosteron nivåer er knyttet til sannsynligheten for å begå kriminalitet, og de er også forbundet med ansiktstrekk – og dette er bare ett ledd. Det er tusenvis eller millioner av andre at vi er klar over, at datamaskiner kunne svært lett å oppdage.”
Ville han noen gang gjennomføre tilsvarende forskning? Kosinski nøler, sier at “forbrytelsen” er en altfor sløv etiketten. Det ville være mer fornuftig, sier han, for å “se på om vi kan finne trekk eller anlegg som er potensielt farlig for et individ eller samfunn – som aggressiv atferd”. Han legger til: “jeg tror noen har til å gjøre det… Fordi hvis dette er et risikofylt teknologi, deretter myndigheter og selskaper er tydelig allerede bruker det.”
***
Men når jeg trykker Kosinski for eksempler på hvordan psykologi-oppdage AI brukes av myndigheter, han gjentatte ganger faller tilbake på en obskur Israelske oppstart, Faception. Selskapet tilbyr programvare som skanner pass, visum og i sosiale medier profiler, før du spytter ut poengene som kategorisere folk etter flere personlighetstyper. På sin hjemmeside, Faception lister åtte slike classifiers, inkludert “White-Collar Offender”, “Høy IQ”, “Pedofili” og “Terrorist”. Kosinski beskriver selskapet som “dodgy” – en studie i hvorfor forskere som bryr seg om personvern bør varsle allmennheten til risiko for AI. “Sjekk hva Faception gjør og hva kunder de har,” sier han til meg under en animert debatten om etikk i sin forskning.
Jeg kaller Faception daglig leder, Shai Gilboa, som pleide å jobbe i Israelsk militær etterretning. Han forteller at selskapet har kontrakter som arbeider på “homeland security og offentlig sikkerhet” i Asia, midtøsten og Europa. Til min overraskelse, han forteller meg om et forskningssamarbeid han gjennomførte for to år siden. “Når du ser i akademia markedet du leter etter de beste forskerne, som har veldig god databaser og bred erfaring,” sier han. “Så dette er grunnen til at vi kontaktet Professor Kosinski.”
Men når jeg setter denne forbindelse til Kosinski, han spiller den ned: han hevder å ha møtt Faception for å diskutere etikk for ansikts-anerkjennelse teknologi. “De kom [til Stanford] fordi de skjønte hva de gjør har potensielt store negative konsekvenser, og stor risiko.” Senere, han innrømmer at det var mer til det. Han møtte dem “kanskje tre ganger” i Silicon Valley, og ble tilbudt egenkapital i selskapet i bytte for å bli rådgiver (han sier han avvist).
Kosinski benekter å ha samarbeidet om forskning, men innrømmer Faception ga ham tilgang til sitt ansikts-gjenkjennelse programvare. Han eksperimenterte med Facebook bilder i myPersonality dataset, sier han, for å finne ut hvor effektiv Faception programvare ved å oppdage personlighetstrekk. Han foreslo så Gilboa snakk Stillwell om å kjøpe myPersonality data. (Stillwell, Kosinski sier, avvist.)
Han hårene på mitt forslag at disse samtalene synes etisk tvilsom. “Jeg vil gjøre mye av dette, sier han. “Mye av oppstart folk kommer hit og de ikke tilby deg noen penger, men de sier:” Se, vi har dette prosjektet, kan du gi råd til oss?’” Slå ned en slik anmodning ville ha gjort ham til “en arrogant drittsekk”.
Han gir en lignende forklaring for sin reise til Moskva for, som han sier ble arrangert av Sberbank Corporate University som en “pedagogisk dag” for russiske myndigheter. Universitetet er et datterselskap av Sberbank, et statseid bank godkjent av EU; daglig leder, Russlands tidligere minister for økonomisk utvikling, er nærheten til Putin. Hva var formålet med reisen? “Jeg egentlig ikke forstår sammenhengen, sier Kosinski. “De satte meg på et helikopter, fløy meg til et sted, jeg kom på scenen. På helikopteret jeg ble gitt en orientering om hvem som skulle være i rommet. Da jeg holdt et foredrag, og vi snakket om hvor AI er å endre samfunnet. Og så sendte de meg av.”
‘Surveillance society’: har teknologi på USA-Mexico grensen gått for langt?
Les mer
Siste gang jeg ser Kosinski, vi møtes i London. Han blir stikkende når jeg trykker ham på Russland, som peker til sin store posten på homofiles rettigheter. Gjorde han snakker om med ansikts-anerkjennelse teknologi for å oppdage seksualitet? Ja, sier han – men denne talen var ikke forskjellig fra andre presentasjoner der han diskuterte den samme forskningen. (Et par dager senere, Kosinski forteller meg at han har sjekket hans lysbilder, faktisk, sier han, er han ikke fortalte Russerne om hans “AI gaydar”.)
Hvem andre som var i salen, bortsett fra Medvedev og Lavrov? Kosinski vet ikke. Det er mulig han snakket til et rom fullt av russisk etterretning operatives? “Det er riktig,” sier han. “Men jeg tror at folk som jobber for overvåking stat, mer enn noen, fortjener å få vite at det de gjør er å skape reell risiko.” Han forteller meg at han ikke er noe fan av Russland, og understreker det var ingen diskusjon om spionasje eller påvirke valget. “Som en akademisk, du har en plikt til å prøve å motvirke dårlige ideer og spre gode ideer,” sier han, og legger til at han ville snakke med “de mest avskyelige diktator der ute”.
Jeg spør Kosinski om noen har prøvd å rekruttere ham som en intelligens eiendelen. Han hekker. “Tror du at hvis en intelligence agency) metoder du de sier: ‘Hei, jeg er CIA’?” svarer han. “Nei, de sier: ‘Hei, jeg er en oppstart, og jeg er interessert i arbeidet – vil du være en rådgiver?’ Som definitivt skjedd i STORBRITANNIA. Da jeg var i Cambridge, jeg hadde en minder.” Han forteller meg om en Britisk forsvar ekspert han mistenkt jobbet for etterretningstjenesten som tok en sterk interesse i hans forskning, og inviterer ham til seminarer fulgt av tjenestemenn i militære uniformer.
I en av våre siste samtaler, Kosinski forteller meg at han ikke burde ha snakket om sitt besøk i Moskva, fordi hans, allhers gud ba ham om ikke å gjøre det. Det ville ikke være “elegant” å nevne det i the Guardian, sier han, og dessuten, “det er en irrelevant faktum”. Jeg påpeke at han allerede forlatt en ganske stor anelse på Facebook, hvor han lagt ut et bilde av seg selv om bord i et helikopter med bildetekst: “å Ta av for å holde en tale for Statsminister Medvedev.” Han har senere endret sin privacy settings: bildet var ikke lenger er offentlig, men for “bare venner”.
• Kommentarer på dette stykket er premoderated for å sikre diskusjonen er fortsatt på emner reist av artikkelen.
Å kommentere på dette stykket? Hvis du ønsker at din kommentar for å bli vurdert for opptak på Weekend magazine ‘ brev side i print, vennligst e-post weekend@theguardian.com, inkludert ditt navn og adresse (ikke for publisering).