Sociala medier har möjliggjort för självutnämnda ‘AI inflytande” som inte gör något mer än att parafrasera Elon Musk att tjäna pengar på denna hype med låg kvalitet, bitar. Resultatet är farligt
Ons 25 Jul 2018 11.00 BST
‘Överdrivna påståenden i pressen om intelligens datorer är inte unikt för vår tid.’
Illustration: Sarah Robbins
I juni förra året, fem forskare på Facebook Artificiella Intelligens Research unit publicerat en artikel som visar hur robotar kan simulera förhandling-liknande samtal.
Medan det för det mesta robotar kunde bibehålla sammanhängande dialog, fann forskarna att agenter skulle ibland generera konstiga meningar som: “Bollar har noll till mig mig mig mig mig mig mig.”
Att vara människa: hur realistiskt är det vi vill ha robotar för att vara?
Läs mer
På att se dessa resultat, teamet insåg att de hade underlåtit att innehålla en begränsning som begränsade robotar för att generera meningar inom parametrarna för talad engelska, vilket innebär att de utvecklat en typ av maskin-engelska, patois att kommunicera mellan sig. Dessa resultat ansågs vara ganska intressant av andra experter på området, men inte helt överraskande eller banbrytande.
En månad efter denna inledande forskning släpptes, Fast Company publicerade en artikel med rubriken AI Är att Uppfinna Språket som Människan inte Kan Förstå. Ska Vi Stoppa Det?. Berättelsen fokuserar nästan helt på hur botar ibland avviker från standard-engelska – vilket inte var det viktigaste resultatet av papper – och rapporterade att när forskare insåg att deras robotar var tjattrande i ett nytt språk” de bestämde sig för att dra pluggen på hela experimentet, som om robotar var på något sätt utom kontroll.
Snabb Företagets historia gick viral och spreds över internet, vilket ledde till en massa innehåll-hungrig publikationer för att ytterligare främja denna nya Frankenstein-liknande berättelse: “Facebook ingenjörer panik, dra ut stickkontakten på AI efter bots utveckla sitt eget språk,” en hemsida rapporteras. För att inte överträffas, Solen föreslagit att händelsen “nära liknade handlingen i The Terminator som en robot blir medveten och börjar föra ett krig på människor”.
Zachary Lipton, en biträdande lektor i maskininlärning institutionen vid Carnegie Mellon University, såg med frustration som den här historien förvandlas från “intressant-ish forskning” till “sensation skit”.
Överdrivna påståenden i pressen om intelligens datorer är inte unikt för vår tid, och i själva verket går tillbaka till själva ursprunget till datorer själv
Enligt Lipton, under de senaste åren bredare intresse i ämnen som “machine learning” och “djupt lärande” har lett till en störtflod av denna typ av opportunistiska journalistik, som ger en missvisande bild av forskning för att generera retweets och klick – han kallar det för “AI desinformation epidemi”. Ett växande antal forskare som arbetar i fält aktie Lipton ‘ s frustration och oro att felaktiga och spekulativa berättelser om AI, som Facebook historia, kommer att skapa orealistiska förväntningar på fältet, som på sikt kan hota den framtida utvecklingen och de som ansvarar för tillämpningen av ny teknik.
Överdrivna påståenden i pressen om intelligens datorer är inte unikt för vår tid, och i själva verket går tillbaka till själva ursprunget till datorer själv.
I februari 1946, när skolan bus-storlek, besvärliga Electronic Numerical Integrator and Computer (Eniac) presenterades för media vid en presskonferens, journalister beskrev det som en “elektronisk hjärna”, en “matematisk Frankenstein”, en “prediktor och controller väder” och en “wizard”. I ett försök att packa ner en del av hypen kring den nya maskinen, den välkände Brittiske fysikern DR Hartree publicerades en artikel i Nature beskriver hur Det fungerade på ett enkelt och unsensational sätt.
Mycket till sin förfäran, London Times publicerade en historia som gick starkt på hans forskning titeln En Elektronisk Hjärna: att Lösa Svårbegripliga Problem; Ventiler med ett Minne. Hartree omedelbart svarade med ett brev till redaktören, säger att termen “elektronisk hjärna” var vilseledande och att maskinen var “ingen ersättning för det mänskliga tänkandet”, men skadan var redan skedd – Det var alltid känt av pressen som “brain machine”.
Det var en liknande historia i Usa efter att Frank Rosenblatt, en ingenjör vid Cornell Flygtekniska Laboratoriet, presenteras en rudimentär machine-learning algoritm som kallas “perceptron” till pressen 1958. Medan “perceptron” bara kunde vara utbildade för att känna igen ett begränsat sortiment av mönster, publicerade New York Times en artikel som påstår att algoritmen var en “elektronisk hjärna” som kan “lära sig”, och skulle en dag snart “att kunna gå, prata, se, skriva, föröka sig och vara medveten om sin egen existens”.
Medan de svindlande hype kring AI bidragit till att skapa finansiering för forskare vid universitet och i det militära, i slutet av 1960-talet blev det alltmer uppenbart att många AI pionjärer att de hade grovt underskattat svårigheten med att simulera den mänskliga hjärnan i maskiner. 1969, Marvin Minsky, som hade uttalad bara åtta år tidigare att maskinerna skulle överträffa människan i allmänhet intelligens i hela sitt liv, är medförfattare till en bok med Seymour Papert visar att Rosenblatt s perceptron kunde inte göra så mycket de sakkunniga hade en gång lovade och var inte i närheten av lika intelligenta som media hade en låt på.
Minsky och Papert bok full av forskarsamhället, med en smittsam tvivlar på att sprida sig till andra områden, i spetsen för en ström AI myt avslöja. 1972, filosofen Hubert Dreyfus publicerade en inflytelserik avdragare mot tänkande maskiner heter Vad Datorer Kan Göra, och ett år senare den Brittiska matematikern James Lighthill tagit fram en rapport om tillståndet i maskinen intelligens, som konstaterade att “i ingen del av området har de upptäckter som gjorts hittills producerat de stora effekter som då var utlovat”.
Detta tråg en besvikelse inleddes det som senare kallats den första AI vintern, en period under vilken medel för forskning inom området tappade bort nästan helt och hållet. Media, som hade trummade upp så många uppblåsta förväntningar för “elektroniska hjärnor”, också tappat intresset. Även om det var små resurgences på 1980-talet och 1990-talet, AI var mer eller mindre ett ämne förpassas till sfären av corny sci-fi-författare – dator forskare ofta undvikas begreppet artificiell intelligens helt och hållet av rädsla för att bli betraktad som “wild-eyed drömmare”.
•••
Isen i AI: s första vintern bara helt drog sig tillbaka i början av detta decennium efter det att en ny generation forskare började publicera artiklar om framgångsrika tillämpningar av en teknik som kallas “deep learning”.
Även om detta var i grunden en flera decennier gammal statistisk teknik som liknar Rosenblatt s perceptron, ökar i datorkraft och tillgänglighet av enorma datamängder som innebar att djupt lärande blir praktiska uppgifter såsom taligenkänning, bildigenkänning och språk översättning. Som rapporter av djupt lärande är “orimliga effektivitet” som cirkuleras mellan forskare, registreringar vid universitet i maskin-lärande klasser ökat, företag börjat investera miljarder dollar för att hitta talang bekant med den allra senaste tekniken, och otaliga är de nystartade företag som försöker att tillämpa AI till transport eller medicin eller ekonomi grundades.
Eftersom detta uppsving fick under vägen, AI hype i media igen efter en lång paus. I 2013, John Markoff skrev en funktion i New York Times om djup inlärning och neuronnät med rubriken Brainlike Datorer, Lära av Erfarenhet. Inte bara titeln minns media hype av 60 år tidigare, så gick en del av artikelns påståenden om vad som görs möjligt genom den nya tekniken. “Under de kommande åren,” Markoff skrev, “det tillvägagångssätt som kommer att göra det möjligt för en ny generation av artificiell intelligens system som kommer att utföra en viss funktion som människor gör med lätthet: se, tala, lyssna, navigera, manipulera och styra.”
Sedan dess har mycket mer melodramatisk och uppblåst artiklar om “AI apocalypse”, “konstgjorda hjärnor”, “konstgjorda superintelligens” och “läskiga Facebook bot AIs” har fyllt nyhetsflöde varje dag.
Lipton, en jazz-saxofonisten som bestämde sig för att genomföra en PhD i maskinen lära sig att utmana sig själv på ett intellektuellt, säger att dessa hyped upp berättelser föröka sig, så gör frustration bland forskare med hur deras arbete kommer att redovisas på journalister och författare som har en ytlig förståelse av teknik.
Vad Lipton finner mest oroande är dock inte tekniskt analfabetism bland journalister, men hur sociala medier har gjort självutnämnda “AI påverkare” som inte gör något mer än att parafrasera Elon Musk på deras Medium för bloggar att tjäna pengar på denna hype med låg kvalitet, TED-stil puff bitar. “Att göra verkliga framsteg i AI kräver en offentlig diskurs som är nykter och informerade,” Lipton säger. “Just nu, diskursen är så helt rubbad det är omöjligt att säga vad som är viktigt och vad som inte.”
Det är beslutsfattare innerligt att ha möten för att diskutera rättigheter av robotar när de talar om diskriminering i algoritmisk beslutsfattande
Zachary Lipton
Lipton är inte den första personen att uttrycka oro över den nya AI hype cycle och där är det som tar området. Förra året, den banbrytande roboticist Rodney Brooks har skrivit en artikel som kritiserar den “hysteri om framtiden för artificiell intelligens” för MIT Technology Review. I 2013, New York University professor Gary Marcus skrev en artikel för the New Yorker där han hävdade att den hype som kommer att skapa orealistiska förväntningar följt av besvikelse som leder till en annan AI vintern.
Men för Lipton, problemet med den nuvarande hysterin är inte så mycket att risken för ännu en vinter, utan mer hur det främjar berättelser som distraherar från frågorna inom området. “Folk är rädda om fel saker, säger han. “Det finns politiker innerligt att ha möten för att diskutera rättigheter av robotar när de talar om diskriminering i algoritmisk beslutsfattande. Men frågan är landlevande och nyktra, så att ej många människor tar ett intresse.”
•••
I Mars förra året, Lipton startat en egen blogg för att försöka motverka-balans och dekonstruera några av de mest skadliga sensationslystna AI nyheter. Så långt, att han har kallat en “låg kvalitet” profil av Elon Musk i Vanity Fair och en okritisk översikt av Anthony Levandowski så kallade AI kyrkan, bland andra.
Registrera dig för Vårdnadshavare OSS dagligen e-post
Läs mer
Bloggen har fått en del uppmärksamhet från media och har en regelbunden läsare, men Lipton vet att hans inflytande är begränsat. “Vad som verkligen behöver hända är bättre utbildning av journalister och mer integritet,” säger han. “Tills det händer, min blogg är bara en sten i forsen av skit. Jag är inte förändra riktningen på strömmen.”
Joanne McNeil, en författare som undersöker nya tekniker, håller med om att det är ett problem med okritiska, uninquiring tech journalistik, och ofta använder Twitter för att göra narr av Terminator-style-artiklar. Men på samma gång, hon är trött på att peka finger enbart på journalister och anser att en av orsakerna till AI hype är en ojämn fördelning av resurser.
“Om du jämför en journalist resultat att en AI-forskare resultat,” säger hon, “det blir ganska klart ganska snabbt varför det är omöjligt för journalister att producera den typ av noga tänkt igenom och skriver att forskare vill ha gjort om deras arbete.” Hon tillägger att även om många forskare kan dra nytta av hype, som en författare som vill kritiskt granska dessa tekniker, hon bara lider av det. “Det finns några butiker intresserad av att publicera nyanserad bitar och några redaktörer som har kompetens att redigera dem, säger hon. “Om AI-forskare som verkligen bryr sig om att vara täckt med eftertanke och kritiskt, att de skulle komma tillsammans och finansiera en publikation där författare kan vara lämpligt betalas för den tid som det tar att verkligen gräva i.”
Medan en närmare samverkan mellan journalister och forskare skulle vara ett steg i rätt riktning, Genevieve Bell, professor i teknik-och datavetenskap vid Australian National University, säger att stämpla ut hype i AI journalistik är inte möjligt. Bell förklarar att detta beror på att artiklar om elektroniska hjärnor eller skadliga Facebook robotar är mindre om teknik och mer om våra kulturella förhoppningar och oro.
Kommer datorer att kunna tänka? Fem böcker för att hjälpa oss att förstå AI
Läs mer
“Vi har berättat historier om livlösa ting som kommer till liv i tusentals år, och dessa berättelser påverkar hur vi tolkar vad som är på gång just nu,” Bell säger. “Experter kan vara riktigt snabba på att avfärda hur deras forskning gör att människor känner, men dessa utopiska förhoppningar och dystopisk rädsla måste vara en del av konversationer. Hype är i slutändan ett kulturellt uttryck som har en egen viktig plats i diskursen.”
I slutändan, Lipton håller med om att det är en plats för spekulativa skriva om AI och han erkänner hur fantasi och känslor kan motivera undersökning i fält. “Men jag tror också att gränsen mellan det vilda spekulationer och riktig forskning är lite för tunn just nu, säger han. “Historien visar oss, att detta är en gräns som måste övervakas, så att vi kan skilja mellan vad som är viktigt här och nu och vad är bara fantasi.”