Hur kan vi stoppa superintelligenta datorer från att ta över världen? Mata dem en digital dos av LSD, tyder på detta kluriga bok
T-800 Endoskeleton från Terminator Genisys. Foto: Allstar/Paramount
Torsdag den 31 December 2015 07.30 GMT
Do androids dream of electric Kool-Aid acid test? Om det ska finnas något hopp för oss, att de kommer. Det är budskapet i Andrew Smart är utmärkt kluriga bok, som mosar upp Alan Turing, Matrix, Immanuel Kant, “zombie-AI”, Leibniz, och forskning om psykedeliska droger.
I vår ålder av techno-utopi, vi rutinmässigt berättade i crypto-religiösa termer om den kommande “Singularity” – skapandet av superintelligenta, medvetna maskiner. Ett problem med superintelligenta medvetna maskiner, dock som SF-författare genom tiderna och en del moderna filosofer är överens om – är att de kan mycket väl välja att förstöra alla människor. Hur att stoppa det gudomliga robotar att torka ut oss? Det bästa sättet, Smart föreslår, skulle kunna vara att ge dem en dos av digitala LSD kraft att öppna sina dörrar för perception.
Det kan låta som långt ut hippie futurism, men en stor del av boken ägnas åt att undergräva den luddiga tänker på maskinen intelligens entusiaster själva. Mot allmänt vedertagna moderna antaganden, Smart förskott följande påståenden: den ena, information existerar egentligen inte, två, beräkning inte sker i den mänskliga hjärnan, tre, beräkning inte ens hända i datorer.
Låt oss ta dem i tur och ordning. För det första, det är på modet i vissa kretsar att tro att “information” är en grundläggande enhet i universum. (Detta kan vara på grund av att dessa teoretiker är omedvetet projicerar våra egna samhällets kärleksaffär med “information” om att resten av verkligheten.) Men i Smart: s skäliga uppfattning, informationen är bara meningsfull inom ramen för en medveten observatör. Om det inte fanns någon sinnen i universum, skulle det finnas någon information. Så “information” är ett användbart stenografi för att prata om hur vi interagerar med verkligheten, men det är inte verkligheten i sig.
Vad sägs om idén att våra hjärnor göra beräkningar? Detta är naturligtvis en annan metafor hämtad från utvecklingen i det industriella samhället. Men, som Smart och visar, det är missvisande att tänka på hjärnan som en maskin som kör algoritmer-uppsättningar av data. (Ja, han har påpekat, är detta en form av “dualism”.) Ingen vet hur medvetandet fungerar, Smart lägger till, och vad våra hjärnor inte kan vara uncomputable i princip. Forskare hoppas en dag att modellera en hel mänsklig hjärna i programvara, men viken i komplexitet mellan hjärnan och en dator för närvarande kan tänka sig ännu större än vi hade trott. (Så Smart påpekar, skulle du förmodligen har att modellen inte bara de miljarder nervceller och biljoner synapser men dendriter på nervceller, och dendritiska taggar som växer på dendriter.) Problemet för neurovetenskap, Smart hävdar, att “vi för närvarande inte har någon berättelse om sinnet som inte är datoriserad. Vi kan vara på en liknande scen i neurovetenskap att fysik var i innan kvantfysiken.”
Säkert, men vi kan åtminstone säga att beräkningar som händer inuti datorer? (Efter allt, det finns en designer av algoritmer, programmerare.) Inte riktigt, Smart insisterar. I en bravura avsnitt förklarar han hur kretsar och mikrochips som faktiskt fungerar, vilket är långt ifrån så rent och exakt en fråga som vi antar. Det är en rörig soppa av elektroner, och förmodligen binära värdena ett och noll (eller på och av) är inte det enda alternativet i stan. (På grund av det nyckfulla spänning, en logisk grind, Smart förklarar på ett effektivt sätt kan vara fast på “halv”.) Allt som händer inne i en dator är att el är att knuffas runt. Du behöver en medveten observatör att tolka det som en dans på beräkning och information.
Så långt, då, Smart bok är ägnat att undergräva ojordat nostrums om “maskin intelligens” och att hävda att någon medveten dator kommer troligtvis att vara mycket längre in i framtiden än mitten av 21-talet förutspådde av technomystics som Ray Kurzweil, Googles chef för teknik. (Folk på Google, Smart torrt antyder, borde vara mer intresserade av de grundläggande filosofi än de verkar vara.) Men naturligtvis, att förutsäga att något aldrig kommer att hända är sannolikt att vara en förlorande satsning. Så Smart accepterar nu för diskussionens skull att du en dag kan det finnas maskiner som tycks oss som om de är medvetna. Vad då?
Den berömda “Turing-testet” för maskinens intelligens föreskrivs att vi kan lika gärna acceptera att en maskin är medvetna om, i ett samtal, en opartisk mänsklig samtalspartner kan inte säga skillnaden mellan den och en verklig person. Smart tycker att ett bättre test är: kan maskinen uppleva förändrade medvetandetillstånd? LSD, i författarens egen erfarenhet och enligt forskning inom kognitiv vetenskap, gör mycket intressanta saker både subjektivt till sinnet och objektivt mönster av neural aktivering i hjärnan. Endast en medveten varelse kan uppleva en resa. Så om vi matar en dator vissa digitala LSD motsvarande och det rapporter om en konstig upplevelse, som kan vara ett bättre test av medvetande än bara samtal.
Vad är mer, på Smart anser att detta kan spara den mänskliga arten. För människor som tar LSD rapport känslor av förundran, enhet med universum, och en angelägenhet för alla saker. Framkalla samma känslor i en superintelligenta medvetna dator och det kan, trots allt, vara benägen att hjälpa och vårda sin skapare, snarare än att eliminera dem. Det är en trevlig idé, men jag kunde inte hjälpa att tänka att en superintelligenta dator skulle också vara smart nog att berätta för oss precis vad vi vill höra, strax innan det släpper Armageddon.
• För att beställa Utöver Noll och En går till orbooks.com.