Hvordan kan vi stoppe superintelligent computere fra at overtage verden? Feed dem en digital dosis LSD, tyder på, at det mind-bending bog
T-800 Endoskeleton fra Terminator Genisys. Foto: Allstar/Altafgørende
Torsdag 31 December 2015 07.30 GMT
Do androids dream of electric Kool-Aid acid test? Hvis der skal være noget håb for os, at de vil. Det er budskabet fra Andrew Smart glimrende mind-bending bog, som mashes op Alan Turing, The Matrix, Immanuel Kant, “zombie-AI”, Leibniz, og forskning om psykedeliske stoffer.
I vores alder af techno-utopi, vi rutinemæssigt fortalte i crypto-religiøse vendinger om den kommende “Singularitet” – skabelse af superintelligent, bevidste maskiner. Et problem med superintelligent bevidste maskiner, men – som SF forfattere gennem tiderne, og nogle moderne filosoffer er enige om – er, at de kan meget vel vælge at udrydde alle mennesker. Hvordan til at stoppe den guddommelige robotter tørre os ud? Den bedste måde, Smart antyder, kan være med til at give dem en dosis af digitale LSD at tvinge åbne deres døre for perception.
Det kan lyde som langt ud hippie-futurisme, men meget af denne bog er afsat til at undersøge den uldne tænker på maskinen intelligens entusiaster sig selv. Mod udbredte moderne antagelser, Smart fremskridt følgende krav: for det første, oplysninger, der ikke rigtig findes; to, beregning ikke sker i den menneskelige hjerne; tre, beregning ikke engang ske i computere.
Lad os tage disse igen. Første, det er moderne i visse kredse at tro, at “oplysninger” er en grundlæggende enhed i universet. (Dette kan være fordi disse teoretikere er ubevidst projicerer vores egne samfund kærlighedsaffære med “oplysninger” om til resten af virkeligheden.) Men i Smart er rimelig udsigt til, oplysninger, der kun giver mening på baggrund af en bevidst observatør. Hvis der ikke var nogen mening i universet, ville der ikke være nogen information. Så “information” er en nyttig genvej til at tale om de måder, vi interagerer med virkeligheden, men det er ikke virkeligheden i sig selv.
Hvad med ideen om, at vores hjerner lave beregninger? Dette er naturligvis en anden metafor er taget fra udviklingen i det industrielle samfund. Men, som Smart viser, at det er misvisende at tænke på hjernen som en maskine, der kører algoritmer på sæt af data. (Ja, han bemærker, at dette er en form for “dualisme”.) Ingen ved, hvordan bevidstheden fungerer, Smart tilføjer, og hvad vores hjerner ikke kan være uncomputable i princippet. Forskere håber på en dag at bygge en model af en hel menneskehjernen i software, men golfen i kompleksitet mellem hjerne og enhver computer, der i øjeblikket tænkelige er endnu mere udstrakt end vi havde troet. (Som Smart påpeger, vil du sandsynligvis nødt til at modellen ikke kun de milliarder af neuroner og milliarder af synapser, men dendritter på neuroner, og de dendritiske pigge, der vokser på dendritceller.) Problemet for neuroscience, Smart argumenterer for, er, at “vi har i øjeblikket ikke nogen historie om sindet, der ikke er numerisk. Vi kan være på et tilsvarende tidspunkt i neurovidenskab, at fysik blev før i kvantefysikken.”
Helt sikkert, men vi kan i det mindste sige, at beregninger er, der sker inde i computere? (Efter alt, er der en designer af algoritmer, programmør). Ikke rigtig, Smart insisterer. I en bravour afsnit forklarer han, hvordan kredsløb og mikrochips, der faktisk er arbejde, som langt fra er så rent og præcist et spørgsmål, som vi formoder. Det er en rodet suppe af elektroner, og det angiveligt binære værdier af en og nul (eller til og fra) er ikke den eneste mulighed i byen. (På grund af en svag spænding, en logisk gate, Smart forklarer, effektivt kan blive hængende på “halv”.) Alt det der sker inde i en computer er, at el er ved at blive skubbet rundt. Du har brug for en bevidst observatør til at fortolke det som en dans for beregning og oplysninger.
Så langt, så Smart ‘ s bog er helliget til at underminere ugrundede nostrums om “machine intelligence” og argumenterer for, at nogen bevidst computeren vil sandsynligvis blive meget længere ind i fremtiden end midten af det 21 århundrede forudsagt af technomystics som Ray Kurzweil, Google ‘ s director of engineering. (Folk på Google, Smart wryly tyder på, at den burde være mere interesseret i grundlæggende filosofi, end de synes at være.) Men naturligvis, at forudsige, at noget vil aldrig ske, er tilbøjelige til at være en tabende bet. Så Smart nu accepterer det af hensyn til argumentet om, at en dag vil der måske være maskiner, der synes os, som om de er bevidste. Hvad så?
Den berømte “Turing-test” for machine intelligence fastsætter, at vi kan lige så godt acceptere, at en maskine er bevidst om, i samtale, en upartisk menneskelige samtalepartner ikke kan se forskel på det og en virkelig person. Smart tænker en bedre test er: kan maskinen opleve ændrede bevidsthedstilstande? LSD, i forfatterens egen erfaring og efter at kognitiv videnskab, betyder meget interessante ting, både subjektivt til sindet og objektivt til mønstre af neuronal aktivering i hjernen. Kun en bevidst væsen kan opleve en tur. Så hvis vi fodre en computer nogle digitale LSD tilsvarende, og det rapporterer en underlig oplevelse, der kan være en bedre test af bevidsthed end blot en samtale.
Hvad mere er, på Smart mener, at det kan redde den menneskelige arter. For folk, der tager LSD rapport følelse af undren, samhørighed med universet, og bekymring for alle ting. Fremkalde de samme følelser i en superintelligent bevidst computer, og det kan, trods alt, være tilbøjelig til at hjælpe og give næring til dens skabere, snarere end at fjerne dem. Det er en god idé, selvom jeg ikke kunne lade være med at tænke, at en superintelligent computer vil også være kloge nok til at fortælle os præcis, hvad vi ønsker at høre, kort før det udløser Ragnarok.
• At bestille Over Nul og Én gang til orbooks.com.