Den kunstige intelligens ekspert ‘ s nye bog, Liv 3.0, opfordrer os til at handle nu for at afgøre vores fremtid, snarere end at risikere, at det bliver besluttet for os
Lørdag 16 September 2017 19.00 BST
Afew år siden kosmolog Max Tegmark fundet sig grædende uden for Science Museum i South Kensington. Han havde lige besøgt en udstilling, der repræsenterede en vækst i den menneskelige viden, alt fra Charles Babbage ‘ s forskel motor til en replica af Apollo 11. Hvad bevægede ham til tårer var ikke synet af disse ikoniske teknologier, men en åbenbaring, de bliver bedt om det.
“Det ramte mig som en mursten,” erindrer han, “at hver gang vi forstod noget i naturen, arbejdet, nogle aspekter af os selv, at vi gjorde det forældet. Når vi har forstået, hvordan musklerne arbejdede vi bygget meget bedre muskler i form af maskiner, og måske når vi at forstå, hvordan vores hjerne fungerer på, at vi vil bygge meget bedre hjerner og blive aldeles forældet.”
Tegmark ‘ s melankolske indsigt ikke var nogle ledige hypotese, men i stedet en intellektuel udfordring til sig selv ved indgangen til en alder af kunstig intelligens. Hvad skal der blive af menneskeheden, han blev flyttet til at spørge, hvis vi formår at skabe en intelligens, der overgår vores egne?
Selvfølgelig, dette er et spørgsmål, der er sket adskillige gange i science fiction. Men det tager på forskellige former for betydning og hastende karakter, som AI bliver videnskabelig kendsgerning. Og Tegmark besluttede at det var tid til at undersøge de spørgsmål, AI og muligheden for, i særdeleshed, at det kan føre til en såkaldt superintelligens.
Vi er i en situation, hvor noget virkelig dramatisk kan ske inden for få årtier – det er et godt tidspunkt at begynde at forberede
Med hans ven Skype-er medstifter Jaan Tallinn, og midler fra tech-milliardær Elon Musk, han satte op den Fremtidige Liv Institute, der forsker i den eksistentielle risici mod menneskeheden. Det er beliggende i Cambridge, Massachusetts, hvor Tegmark er professor ved MIT, og det er ikke i modsætning til Menneskehedens Fremtid Institute i Oxford, det organ, der er nedsat af hans kolleger Svensker, filosoffen Nick Bostrom.
Tegmark også angive, om at skrive en bog, som han netop har udgivet med titlen Liv 3.0: at Være Menneske i en Alder af Kunstig Intelligens. Der har tidligere skrevet om disse indviklede og meget teoretiske begreber, som multivers, Tegmark er ikke en mand, skræmt af udsigten til informeret, men fantasifulde spekulationer.
En af vanskelighederne i at få et klart perspektiv på AI er, at det nedsunket i myter og misforståelser. Tegmark har forsøgt at løse dette image problem ved omhyggeligt udpakning af ideer, der er involveret eller associeret med AI – intelligens, hukommelse, læring, bevidsthed – og så forklare dem i afmystificere mode.
Første, selv, Tegmark, tale i telefon fra Boston, er ivrige efter at gøre det klart, hvad AI er ikke om.
“Jeg tror, at Hollywood har fået os til at bekymre os om de forkerte ting,” siger han. “Denne frygt for maskiner dreje bevidst og ondt er en rød sild. Den virkelige bekymring med avanceret AI er ikke ondsindede, men inkompetence. Hvis du har superintelligent AI, så er det per definition er meget gode til at opnå sine mål, men vi er nødt til at være sikker på, at disse mål er på linje med vores. Jeg hader ikke myrer, men hvis du lægger mig i spidsen for at opbygge en grøn-energi vandkraftværk i en myretue område, for dårligt, for myrerne. Vi ønsker ikke at sætte os selv i den position af disse myrer.”
Livet 3.0 er meget langt fra en jeremiad mod AI. I virkeligheden er det meget mere en fejring af det potentiale, superintelligens. Men hvad er superintelligens? Ja, hvad er intelligens? Tegmark definerer det som “evnen til at udføre komplekse mål”. Derfor computere betegnes som intelligent. Men deres intelligens er smal.
I det øjeblik, computere er i stand til at behandle information på specifikke områder, der rækker langt ud over den menneskelige kapacitet. For eksempel, den bedste skakspiller i verden står ikke en chance mod en moderne edb-program. Men at programmet ville være nytteløst mod et barn i et spil nuller og krydser. Mennesker, selv de helt unge, har en generel intelligens på tværs af en bred vifte af evner, der henviser til, at for alle deres regnekraft, computere er begrænset til fastsatte opgaver.
En kunde tager et fotografi af Toshida ‘ s menneskelignende robot Aiko Chihira, som hilser på kunderne på Mitsukoshi stormagasin i Tokyo. Foto: Bloomberg via Getty Images
Så computere er kun så intelligente som vi tillader dem at være, som vi programmere dem til at være. Men som vi bevæger os ind i den AI-æra, der begynder at ændre sig. Der er tidlige eksempler på steder som Google ‘ s AI datterselskab, DeepMind, på computere selv-læring, tilpasning gennem trial and error. Hidtil har denne facilitet er kun blevet påvist i realm af video spil og brætspil Går, men man må formode, at der vil brede sig ud i andre medier. Og hvis den spreder sig nok, det er sandsynligt, at de har en dybtgående indvirkning på, hvordan vi tænker om os selv, om livet og mange andre grundlæggende spørgsmål.
Tegmark sætter sig for at undersøge disse spørgsmål ved at skabe en definition af sammenhæng, et gitter af udviklingsmæssige stadier. Han starter ud med at gå tilbage til de mest primitive former for liv, såsom bakterier, som han kalder Liv 1.0. Dette er den simple biologiske fase, hvor livet er virkelig kun om gentagelse, og tilpasning er kun muligt gennem evolution.
Livet 2.0, eller den kulturelle scene, er der, hvor mennesker er: i stand til at lære, tilpasse sig til skiftende miljøer, og forsætligt ændre disse miljøer. Men vi kan ikke ændre vores fysiske selv, vores biologiske arv. Tegmark beskriver denne situation som et af hardware og software. Vi designer vores egen software – vores evne til at “gå, læse, skrive, regne, synge og fortælle jokes” – men vores biologiske hardware (arten af vores hjerner og organer), der er underlagt evolution og nødvendigvis begrænset.
Den tredje fase, Liv 3.0, er teknologiske, hvor post-mennesker kan redesign ikke kun deres software, men deres hardware. Livet i denne form, Tegmark skriver, er “herre over sin egen skæbne, endelig helt gratis fra sin evolutionære lænker”.
Denne nye intelligens ville være udødeligt og i stand til at udbrede sig over hele universet. Med andre ord, det ville være liv, Jim, men ikke som vi kender det. Men ville det være et liv eller noget andet? Det er fair at sige, at Tegmark, en fysiker af uddannelse, er ikke en biologisk sentimentalist. Han er en materialist, der ser på verden og universet ud som udgøres af forskellige arrangementer af partikler, der giver forskellige niveauer af aktivitet. Han trækker ingen meningsfuld eller moralske skelnen mellem biologiske, jordisk intelligens og en intelligent, selvforstærkende maskine.
Tegmark beskriver en fremtid med grænseløs muligheden for Liv 3.0, og til tider hans forfatterskab grænser til det fantastiske, selv triumphalist; men da han er en teoretiker, der forsøger at forestille sig, hvad der for de fleste af os er enten uoverskuelige eller ubehagelige.
Der er dog en logik, at hans prognoser, som selv hans modstandere ville tillade, selv om de kan argumentere over tidsskalaen. Kort sagt, vi er i den tidlige fase af AI – selvkørende biler, smart-home control-enheder og andre automater. Men hvis udviklingen fortsætter med uformindsket styrke, så er det ikke urimeligt at antage, at på et tidspunkt – 30 år, 50 år, 200 år? – computere vil nå frem til en generel intelligens, der svarer på mange måder til at af mennesker.
Og når computere nå dette stadie, deres forbedring vil stige hurtigt, fordi de vil bringe endnu mere kapacitet til at arbejde ud af at øge deres kapacitet. Dette er argumentet om, at Bostrom, der er fastsat i hans 2014 bog Superintelligens, og resultatet af denne massive udbygning i intelligens eller evnen til at udføre komplekse mål – er faktisk superintelligens, en singularitet, at vi kun kan gætte på.
Vi bør være mere bange for computere, end vi er
Superintelligens, dog, er ikke en selvfølgelighed. Der er mange i området, der mener, at computere aldrig vil matche den menneskelige intelligens, eller at hvis de gør det, mennesker selv, der har lært at tilpasse deres egen biologi. Men hvis det er en mulighed, så er det en Tegmark mener, vi har hårdt brug for at tænke alvorligt over.
“Når vi er i en situation, hvor noget virkelig dramatisk kan ske, inden årtier, til mig, at det er et rigtig godt tidspunkt at begynde at forberede, så det bliver en kraft for det gode. Det ville have været rart, hvis vi havde udarbejdet mere for klimaændringer for 30 år siden.”
Som Bostrom, Tegmark argumenterer for, at udvikling af AI, er et endnu mere presserende problem end klimaforandringerne. Men hvis vi kigger på at skabe en intelligens, at vi eventuelt ikke kan forstå, hvor meget forberedelse vil påvirke, hvad der foregår på den anden side af singulariteten? Hvordan kan vi forsøge at begrænse en intelligens, der er uden for vores forestille sig?
Tegmark erkender, at dette er et spørgsmål, ingen kan svare på det tidspunkt, men han hævder, at der er mange andre opgaver, som vi bør prioritere.
“Før vi behøver at bekymre sig om de langsigtede udfordringer for superintelligens, der er nogle meget kortsigtede ting, vi skal tage fat på. Lad os ikke gøre perfekt fjenden til gode. Alle er enige om, at det aldrig under nogen omstændigheder ønsker vi fly til at flyve i bjerge eller bygninger. Når Andreas Lubitz fik deprimeret, at han fortalte sin autopilot til at gå ned til 100 meter og computeren sagde OK! Computeren var fuldstændig clueless om menneskets mål, selvom vi har i dag teknologien til at bygge flyvemaskiner, at når piloten forsøger at flyve ind i noget, det går i fejlsikret tilstand, låse cockpittet og lander på den nærmeste lufthavn. Denne form for børnehave, etik, vi skal begynde at sætte i vores maskiner i dag.”
Men før, at der er endnu mere presserende arbejde, der skal gøres, siger Tegmark. “Hvordan kan vi omsætte i dag er buggy og hackable computere i robust AI-systemer, som vi virkelig stole på? Dette er enormt vigtigt. Jeg føler, at vi som samfund har været alt for flabet om dette. Og verdens regeringer bør medtage dette som en vigtig del af computer science research.”
Forebygge fremkomsten af en superintelligens ved at opgive forskning i kunstig intelligens er ikke, mener han, en troværdig fremgangsmåde. “Hver eneste måde, at 2017 er bedre end the stone age er på grund af teknologi. Og teknologi, der sker. Ingen her snakker om at stoppe teknologi. Spørger, om du er for eller imod AI er lige så latterligt som at spørge, om du er for eller imod brand. Vi elsker alle fire for at holde vores hjem varm, og vi alle ønsker at undgå ildspåsættelse.”
Forebyggelse af brandstiftelse, i dette tilfælde, er et job, der er allerede over os. Som Tegmark bemærker, at vi er på nippet til at starte et våbenkapløb i dødelige autonome våben. Vladimir Putin sagde for nylig, at enhver, som mestrer AI ville blive “verdens hersker”. I November er der er et FN-møde for at se på bæredygtighed af en international traktat om et forbud mod disse våben på samme måde som biologiske og kemiske våben er blevet forbudt. “AI fællesskabets støtte dette meget stærkt,” siger Tegmark. I form af teknologi, der er meget lille forskel, siger han, mellem “en selvstændig mordet drone og en Amazon bog levering drone”.
BAE Systems er Taranis ubemandede stealth-fly prototype, der er beskrevet som “den første selvstændige drone’. Foto: BAE Systems
“Et andet stort problem i løbet af det næste årti er job automatisering. Mange ledende økonomer mener, at den voksende ulighed, som gav os Brexit og Trump er drevet af automatisering. Her, der er en enorm mulighed for at gøre alle bedre ud, hvis regeringen kan omfordele nogle af denne store rigdom, der maskiner, der kan producere til gavn for alle.”
I denne forbindelse Tegmark mener, det forenede KONGERIGE, med sin tro på det frie marked og historie NHS, og velfærdsstat, kunne spille en ledende rolle i at udnytte virksomhedernes innovation for national fordel. Problemet med denne analyse, at, bortset fra det faktum, at meget AI forskning er styret af autoritære regimer i Rusland og Kina, den største andel af fremskridt kommer fra Usa eller Amerikanske virksomheder – og som et samfund har ikke traditionelt været over-beskæftiger sig med spørgsmål om ulighed.
I bogen, Tegmark kommer Googles Larry Page, en af de rigeste mænd på Jorden, som en person, der kan vise sig at være den mest indflydelsesrige menneske, der nogensinde har levet: “Mit gæt er, at hvis super intelligente digitale liv opsluger vores univers i min levetid, vil det være på grund af Larry’ s beslutninger.”
Han beskriver den Side, som han beskriver, Moskus – som tankevækkende og oprigtigt bekymret for, om menneskehedens skæbne. Ingen tvivl om, at han er, men som forretningsmand er han primært beskæftiger sig med profit og stjæle et forspring i forhold til konkurrenterne. Og som tingene står, er alt for stor beslutningskompetence er placeret i hænderne på ikke-repræsentative tech milliardærer.
Det forekommer mig, at mens den umiddelbare problemer med AI, er i det væsentlige teknologiske eller, i politisk forstand, tekniske, dem, der venter på ad den vej er langt mere filosofisk karakter. Tegmark skitserer flere forskellige udfald, der kan herske, fra dystopisk totalitære diktatur til godartede styring af maskinen.
“Det er vigtigt at indse, at intelligens er lig med magt,” siger han. “Grunden til, at vi har magt over tigre er ikke fordi vi har større muskler eller skarpere tænder. Det er fordi vi er klogere. En større magt vil sandsynligvis i sidste ende styre vores planet. Det kan enten være, at nogle mennesker får stor magt takket være avanceret AI og gøre ting, som du ikke ville have dem til, eller det kunne være, at maskiner selv snyde os og formår at tage kontrol. Der behøver ikke at være en dårlig ting, nødvendigvis. Børn har ikke noget imod at være i tilstedeværelse af mere intelligente væsener, som er opkaldt mor og far, fordi forældrene’ mål er i overensstemmelse med deres. AI kunne løse alle vores vanskelige problemer og hjælpe menneskeheden til at blomstre som aldrig før.”
Men ville det ikke, at en radikal ændring af menneskehedens fornemmelse af sig selv, søger at superior-agenter til at tage sig af os? Vi ville ikke længere være den primære kraft at forme vores verden.
AnBot, Kinas første smart politiet robot, der gik på patrulje i Shenzhen Baoan lufthavn, Guangdong, der i September 2016. Foto: Imaginechina/REX/Shutterstock
“Det er rigtigt,” siger han, med et smil i stemmen, “men der er mange mennesker i verden i dag, og som allerede tror, det er sådan det er, og føler sig helt glade for det. Religiøse mennesker mener, at der er en som er langt mere kraftfulde og intelligente end dem, der ser ud til dem. Jeg føler, at hvad vi virkelig nødt til at stoppe, er dette hubristic tanken om at bygge vores selvværd på en malplaceret idé om menneskelig exceptionalism. Vi mennesker er meget bedre, hvis vi kan være ydmyg og sige, at der måske kan være væsener, meget klogere end os, men det er OK, vi får vores selvværd fra andre ting: der virkelig dyb forhold til vores medmennesker og vidunderligt inspireret oplevelser.”
I sådanne øjeblikke Tegmark kan lyde mindre som en hardcore materialist fysiker end nogle trippy new-age-professor, der er brugt for længe og grublede kosmos. Men helt sikkert, jeg siger, er det modernistiske projekt, der har bygget disse maskiner blev drevet af en tro på, at Gud var en opfindelse, som vi ikke længere er nødvendigt – ville det ikke være en bitter historisk ironi, hvis vi endte med at opfinde nye guder til at erstatte de gamle?
Tegmark griner. “Jeg tror, at én af de ting, vi har brug for i en alder af AI er en god sans for humor og forståelse for ironi. Vi holder skadefro om at være den klogeste på planeten, netop fordi vi er i stand til at bygge alle denne smarte teknologi, som er på vej til at gøre os ikke være det smarteste på planeten!”
Der har forsket og skrevet denne bog, Tegmark er meget mere optimistiske, end han var i, at lachrymose øjeblik i South Kensington. Men det er ikke en optimisme bygger på den antagelse, at alt vil vise sig OK i sidste ende. Snarere, han mener, vi skal handle, hvis vi skal sikre et fordelagtigt resultat. Folk og regeringer, siger han, skal vende deres opmærksomhed mod den modkørende fremtiden, forberede relevante safety engineering, og tænke dybt over, hvilken slags verden vi ønsker at skabe.
Så hvad ville han sige, hvis han kunne tage sig af, at FN ‘ s møde i November?
“Fonden AI sikkerhed, forbud mod dødelige autonome våben, og udvide de sociale ydelser, således, at rigdom skabt af AI gør alt godt fra.”
Som nogensinde, vejen frem vil være fyldt med de uforudsete konsekvenser af dagens indsats eller mangel på samme, men at vedtage, at tre-punkts plan, der virker som et skridt i retning af at gøre den fremtid, der meget mindre foruroligende.
• Liv 3.0 af Max Tegmark er udgivet af Allen Lane (£20). For at bestille en kopi til £17 gå til guardianbookshop.com eller ring 0330 333 6846. Gratis UK p&p over £10, online ordrer. Telefon ordrer min s&p £1.99