Hvordan kan vi stoppe superintelligent datamaskiner fra å ta over verden? Gi dem en digital dose LSD, tyder dette mind-bending bestill
T-800 Endoskeleton fra Terminator Genisys. Foto: Allstar/Paramount
Torsdag 31. desember 2015 07.30 GMT
Do androids dream of electric Kool-Aid acid-testene? Hvis det skal være noe håp for oss, for de vil. Det er melding av Andrew Smart er befriende mind-bending bok, som mashes opp Alan Turing, The Matrix, Immanuel Kant, “zombie AI”, Leibniz, og forskning på psykedeliske rusmidler.
I vår alder av techno-utopianism, vi er rutinemessig fortalte i crypto-religiøse begreper om den kommende “Singularity” – etablering av superintelligent, bevisst maskiner. Ett problem med superintelligent bevisst maskiner, men – som SF forfattere gjennom tidene, og noen moderne filosofer er enige – er at de kan godt velge å ødelegge alle mennesker. Hvordan å stoppe gudelignende roboter tørke oss ut? Den beste måten, Smart tyder på, kan være å gi dem en dose av digitale LSD, for å tvinge åpner sine dører oppfatninger.
Det høres kanskje like langt-ut hippie futurisme, men mye av denne boken er viet til å rakne det av å tenke på machine intelligence entusiaster seg selv. Mot en utbredt oppfatning moderne forutsetninger, Smart fremskritt følgende krav: en, informasjon som ikke egentlig eksisterer, to, beregning skjer ikke i den menneskelige hjerne; tre, beregning ikke engang skje i datamaskiner.
La oss ta disse i sving. Først, det er mote i enkelte kretser til å tro at “informasjon” er en grunnleggende enhet i universet. (Dette kan være fordi slike teoretikere er ubevisst projiserer vår egen samfunnets kjærlighetsforhold med “informasjon” på resten av virkeligheten.) Men i Smart er rimelig vis, informasjon bare mening i sammenheng med en bevisst observatør. Hvis det ikke var noe sinn i universet, og det ville være ingen informasjon. Så “informasjon” er en nyttig mal for å snakke om hvordan vi samhandler med virkeligheten, men det er ikke virkeligheten i seg selv.
Hva med ideen om at hjernen vår gjør beregninger? Dette er tydeligvis en metafor hentet fra utviklingen i det industrielle samfunnet. Men, som Smart-programmer, er det misvisende å tenke på hjernen som en maskin som kjører algoritmer på sett av data. (Ja, han observerer, dette er en form for “dualisme”.) Ingen vet hvordan bevisstheten fungerer, Smart legger til, og hva hjernen vår ikke kan være uncomputable i prinsippet. Forskerne håper en dag å modellere en hel menneskelige hjernen i programvaren, men gulf i kompleksitet mellom en hjerne og en hvilken som helst datamaskin i dag tenkelig er enda større enn vi hadde trodd. (Som Smart poeng ut, du vil sannsynligvis ha for å modellere ikke bare de milliarder av nerveceller og billioner av synapser, men dendrites på nevroner, og dendrittiske pigger som vokser på dendrites.) Problemet for nevrovitenskap, Smart argumenterer for, er at “vi for øyeblikket ikke har noen historie om tankene som ikke computational. Vi kan være på en lignende scene i nevrovitenskap at fysikk var i før kvantefysikken.”
Sikkert, men vi kan i alle fall si at beregninger skjer inne i datamaskiner? (Tross alt, det er en designer av algoritmer, programmerer). Egentlig ikke, Smart insisterer. I en bravura delen forklarer han hvordan kretser og mikrobrikker faktisk fungerer, noe som er langt fra å være så ren og presis et spørsmål som vi anta. Det er en rotete suppe av elektroner, og den angivelig binære verdier av en og null (eller på og av) er ikke det eneste alternativet i byen. (På grunn av tilfeldighetene spenning, en logikk gate, Smart forklarer, som effektivt kan bli sittende fast på “halv”.) Alt som skjer inne i en datamaskin er at elektrisitet blir dyttet rundt. Du trenger en bevisst observatør til å tolke det som en dans av beregning og informasjon.
Så langt, så Smart boken er viet til å undergrave ujordet nostrums om “machine intelligence” og hevder at noen bevisst datamaskinen vil sannsynligvis være mye mer i fremtiden enn midten av det 21. århundre spådd av technomystics slik som Ray Kurzweil, Googles direktør for engineering. (Folk på Google, Smart skjevt antyder, burde være mer interessert i grunnleggende filosofi enn de synes å være.) Men selvfølgelig, og spår at noe slikt aldri vil skje, er sannsynlig å være en tapende innsats. Så Smart, godtar nå for argumentasjonens skyld at en dag kan det være maskiner som synes for oss som om de er bevisste. Hva så?
Den berømte “Turing test” for maskin intelligens fastsetter at vi kan like godt akseptere at en maskin er bevisst om, i samtale, et upartisk menneske samtalepartner kan ikke fortelle forskjellen mellom det og en ekte person. Smart mener en bedre test er: kan maskinen erfaring endrede tilstander av bevissthet? LSD, i forfatterens egen erfaring og i henhold til kognitiv vitenskap, forskning, gjør veldig interessante ting både subjektiv sinn og objektivt for å mønstre av nevronal aktivering i hjernen. Bare et bevisst vesen kan oppleve en tur. Så hvis vi fø en datamaskin noen digitale LSD tilsvarende, og det rapporterer en merkelig opplevelse, som kan være en bedre test av bevissthet enn bare en samtale.
Hva er mer, på Smart vis, dette kan lagre den menneskelige arter. For personer som tar LSD rapport følelse av undring, enhet med universet, og omsorg for alle ting. Fremkalle de samme følelsene i en superintelligent bevisst datamaskin og det kan tross alt være tilbøyelig til å hjelpe og gi næring til sine skapere, snarere enn å eliminere dem. Det er en fin idé, men jeg kunne ikke unngå å tenke at en superintelligent datamaskin ville også være flink nok til å fortelle oss nøyaktig hva vi ønsker å høre, kort tid før den slipper Armageddon.
• Å bestille Utover Null og Én gå til orbooks.com.