Den kunstige intelligensen ekspert nye bok, Livet 3.0, oppfordrer oss til å handle nå for å bestemme vår fremtid, heller enn å risikere at det er bestemte seg for oss
Lørdag 16 September 2017 19.00 norsk tid
Sist endret på søndag 17. September 2017 00.10 BST
Få år siden cosmologist Maks Tegmark funnet seg gråtende utenfor Science Museum i South Kensington. Han hadde nettopp besøkt en utstilling som representerte vekst i menneskelig kunnskap, alt fra Charles Babbage er forskjellen motoren til en kopi av Apollo 11. Hva flyttet ham til tårer var ikke opptog av disse ikoniske teknologier, men en åpenbaring de blir bedt om det.
“Det traff meg som en murstein,” forteller han, “at hver gang vi forstått hvordan noe i naturen som virket, og noen aspekter av oss selv, vi gjorde det overflødig. Når vi har forstått hvordan musklene jobbet vi bygget mye bedre muskler i form av maskiner, og kanskje når vi forstår hvordan hjernen vår fungerer vi vil bygge mye bedre hjerner og bli helt borte.”
Tegmark er melankoli innsikt ikke var noen ledig hypotese, men i stedet en intellektuell utfordring til seg selv på begynnelsen av alder av kunstig intelligens. Hva vil skje med menneskeheten, ble han flyttet til be, hvis vi klarer å skape en intelligens som outstrips vår egen?
Selvfølgelig, dette er et spørsmål som har forekommet flere ganger i science fiction. Men det tar på forskjellige slags betydning og viktighet som AI blir vitenskap faktum. Og Tegmark besluttet at det var på tide å undersøke problemstillinger rundt AI og mulighet, spesielt, at det kan føre til en såkalt superintelligens.
Vi er i en situasjon der noe virkelig dramatiske som kan skje i flere tiår – det er en god tid å begynne å forberede
Med sin venn Skype-co-grunnlegger Jaan Tallinn, og finansiering fra tech milliardær Elon Musk, har han satt opp Fremtid av Livet Institutt, som forsker på eksistensiell risiko som menneskeheten står overfor. Det ligger i Cambridge, Massachusetts, hvor Tegmark er professor ved MIT, og det er ikke ulikt the Future of Humanity Institute i Oxford, kroppen er satt opp av hans andre Svenske filosofen Nick Bostrom.
Tegmark også sett om å skrive en bok, som han har nettopp publisert, rett Liv 3.0: å Være Menneske i en Alder av Kunstig Intelligens. Har tidligere skrevet om slike abstruse og svært teoretiske begreper som multiverse, Tegmark er ikke en mann daunted av utsiktene til informert, men fantasifulle spekulasjoner.
En av utfordringene i å få et klart perspektiv på AI er at det henger fast i myter og misforståelser. Tegmark har prøvd å løse dette bildet problemet ved å nøye utpakking av ideer som er involvert i forbindelse med AI – intelligens, hukommelse, læring, bevissthet – og deretter forklare dem i demystifying mote.
Første, skjønt, Tegmark, snakke på telefon fra Boston, er ivrig etter å gjøre det klart hva som er AI ikke om.
“Jeg tror Hollywood har fått oss til å tenke på feil ting,” sier han. “Denne frykten for maskiner slå bevisste og det onde er en red herring. Den virkelige bekymre deg med avansert kunstig INTELLIGENS er ikke ondskap, men inkompetanse. Hvis du har superintelligent AI, da per definisjon det er veldig god på å nå sine mål, men vi må være sikker på at disse målene er i samsvar med vår. Jeg kan ikke hate maur, men hvis du legger på meg ansvaret med å bygge en grønn-energi vannkraft anlegg i en maurtue området, for dårlig for maur. Vi ønsker ikke å sette oss selv i den posisjon de maur.”
Livet 3.0 er veldig langt fra en jeremiad mot AI. Faktisk er det mye mer en feiring av den potensielle superintelligens. Men hva er superintelligens? Ja, hva er intelligens? Tegmark definerer det som “evnen til å oppnå komplekse mål”. Derfor datamaskiner kvalifisere som intelligent. Imidlertid, sin intelligens er smal.
I øyeblikket, datamaskiner er i stand til å behandle informasjon på bestemte områder som går langt bortenfor menneskelig evne. For eksempel, de beste sjakkspiller i verden står ingen sjanse mot et moderne dataprogram. Men at programmet ville være ubrukelig mot et barn i et spill av bondesjakk. Mennesker, selv de svært unge, ha en generell intelligens i et bredt spekter av evner, mens for all prosessorkraft, datamaskiner er begrenset til foreskrevet oppgaver.
En kunde tar et fotografi av Toshida er humanoide roboten Aiko Chihira, som møter kunder på Mitsukoshi kjøpesenter i Tokyo. Foto: Bloomberg via Getty Images
Så datamaskiner er bare så intelligente som vi tillater dem å være, som vi programmere dem til å være. Men som vi flytte inn AI-epoken, som er i ferd med å endre seg. Det er tidlige eksempler på steder som for eksempel Google ‘ s AI datterselskap, DeepMind, datamaskiner selv-læring, tilpasning gjennom prøving og feiling. Så langt har dette anlegget har kun vært påvist i riket av tv-spill og brettspill Gå, men antagelig som vil spre seg ut i andre medier. Og hvis det sprer seg nok som det er sannsynlig å ha en dyp effekt på hvordan vi tenker om oss selv, om livet og mange andre fundamentale problemer.
Tegmark setter ut for å undersøke disse spørsmålene ved å opprette en avgjørende kontekst, et rutenett av utviklingsstadier. Han starter ut ved å gå tilbake til de mest primitive former for liv, slik som bakterier, som han kaller Livet 1.0. Dette er den enkle biologiske stadium i livet er egentlig bare om replikering, og tilpasning er mulig bare gjennom evolusjon.
Livet 2.0, eller den kulturelle scene, der mennesker er: stand til å lære, tilpasse seg skiftende omgivelser, og med vilje endre de miljøer. Men vi ennå ikke kan endre våre fysiske selv, vår biologiske arv. Tegmark beskriver denne situasjonen som en av maskinvare og programvare. Vi designer våre egne programvare – vår evne til å “gå, lese, skrive, regne, synge og fortelle vitser” – men vår biologiske maskinvare (arten av våre hjerner og kropper) er gjenstand for evolusjon og nødvendigvis begrenset.
Den tredje fasen, Liv 3.0, er teknologiske, der post-mennesker kan forandre ikke bare programvare, men deres maskinvare også. Liv, i dette skjemaet, Tegmark skriver, er “herre over sin egen skjebne, og til slutt helt fri fra sin evolusjonære sjakler”.
Denne nye intelligens ville være udødelig og i stand til å lufte ut over universet. Med andre ord, det ville være liv, Jim, men ikke slik vi kjenner det. Men ville det være liv eller noe annet? Det er rimelig å si at Tegmark, en fysiker ved trening, er ikke en biologisk sentimentalist. Han er en materialist som ser på verden og universet utover det som blir gjort opp av varierende ordninger av partikler som gjør det mulig for ulike nivåer av aktivitet. Han trekker ingen meningsfylt eller moralsk skille mellom biologiske og menneskelige intelligens og intelligente, selvforsterkende maskinen.
Tegmark beskriver en fremtid med grenseløse muligheter for Liv 3.0, og til tider er han skrev grenser på den fantastiske, selv triumphalist; men da han er en teoretiker, forsøker å forutse hva som for de fleste av oss er enten fantastisk eller ubehagelig.
Det er, skjønt, en logikk til hans anslag som selv hans motstandere ville tillate, selv om de kan hevde over tidsskalaen. Enkelt sagt, vi er i den tidlige fasen av AI – selvkjørende biler, smart-hjem-kontroll enheter og andre automata. Men hvis trender fortsetter i samme tempo, så det er ikke urimelig å anta at på et tidspunkt – 30 år, 50 år, 200 år? – datamaskiner vil komme en generell intelligens tilsvarer på mange måter som mennesker.
Og når datamaskiner nå dette stadiet sin forbedring vil øke raskt fordi de vil bringe stadig mer behandling kapasitet til å arbeide ut hvordan å øke sin behandlingskapasitet. Dette er argumentet om at Bostrom er lagt ut i sin 2014 bestill Superintelligens, og resultatet av denne massive ekspansjon i intelligens – eller evnen til å oppnå komplekse mål – er faktisk superintelligens, en singularitet at vi kan bare gjette på.
Vi bør være mer redd for datamaskiner enn vi er
Superintelligens, men er ikke en uunngåelig. Det er mange i feltet som mener at datamaskiner vil aldri matche menneskelig intelligens, eller at hvis de gjør det, er mennesket selv har lært å tilpasse seg sin egen biologi da. Men hvis det er en mulighet, så det er en Tegmark mener vi har et presserende behov for å tenke alvorlig på.
“Når vi er i en situasjon der noe virkelig dramatiske som kan skje i flere tiår, og til meg som er en virkelig god tid til å begynne å forberede slik at det blir en kraft for det gode. Det ville ha vært fint om vi hadde forberedt mer for klimaendringer 30 år siden.”
Som Bostrom, Tegmark hevder at utvikling av AI er en enda mer presserende bekymring enn klimaendringer. Men hvis vi ser på for å opprette en intelligens som vi ikke kan muligens korrekt, hvor mye vil forberedelse påvirke hva som foregår på den andre siden av singularitet? Hvordan kan vi forsøke å begrense en intelligens som er utenfor vår forestille?
Tegmark erkjenner at dette er et spørsmål som ingen kan svare på i øyeblikket, men han hevder at det er mange andre oppgaver som vi bør prioritere.
“Før vi bekymre deg for langsiktige utfordringer superintelligens, er det noen svært kortvarig ting vi trenger å ta. La oss ikke gjøre perfekte fienden til gode. Alle er enig i at aldri under noen omstendigheter vil vi fly til å fly inn i fjell eller bygninger. Når Andreas Lubitz ble deprimert, han sa til sine autopilot for å gå ned til 100 meter og datamaskinen sa OK! Datamaskinen var helt clueless om menneskelige mål, selv om vi har teknologi i dag for å bygge fly som når piloten prøver å fly inn i noe, det går i sikker modus, låser cockpit og lander på nærmeste flyplass. Denne typen barnehage og etikk vi skal begynne å sette i våre maskiner i dag.”
Men før det, er det enda mer å trykke på arbeidet som skal gjøres, Tegmark sier. “Hvordan kan vi transformere dagens buggy og hackable datamaskiner til robuste systemer for kunstig INTELLIGENS som vi egentlig stole på? Dette er enormt viktig. Jeg føler at vi som samfunn har vært altfor respektløs om dette. Og verdens regjeringer bør inkludere dette som en stor del av computer science forskning.”
Å hindre fremveksten av en superintelligens ved å etterlate forskning innen kunstig intelligens er ikke, mener han en troverdig tilnærming. “Hver eneste måte at 2017 er bedre enn steinalderen er på grunn av teknologien. Og teknologi som skjer. Ingen her snakker om å stoppe teknologi. Spør om du er for eller mot AI er like latterlig som å spørre om du er for eller mot brann. Vi alle elsker brann for å holde våre hjem varm og vi ønsker alle å forhindre det.”
Å forebygge nice, i dette tilfellet, er en jobb som allerede er over oss. Som Tegmark notater, vi er på cusp av å starte et våpenkappløp i dødelig autonome våpen. Vladimir Putin sa nylig at den som mestret AI ville bli “hersker over verden”. I November det er et FN-møte for å se på gjennomførbarheten av en internasjonal traktat for å forby disse våpen på samme måte som biologiske og kjemiske våpen har blitt utestengt. “AI-samfunnet støtte dette veldig sterkt, sier Tegmark. I form av teknologi, det er svært liten forskjell, sier han, mellom “en selvstendig drapet drone og en Amazon bestille levering drone”.
BAE Systems er Taranis ubemannede stealth fly prototype, beskrevet som “den første autonome drone’. Foto: BAE Systems
“Et annet stort problem over det neste tiåret er jobben automatisering. Mange ledende økonomer tror at den økende ulikhet som ga oss Brexit og Trump er drevet av automatisering. Her, det er en stor mulighet for å gjøre alle bedre hvis staten kan omfordele noen av denne store rikdom at maskiner kan produsere til fordel for alle.”
I denne forbindelse Tegmark mener at NORGE, med sin tro på det frie markedet og historie av NHS og velferdsstaten, kan spille en ledende rolle i å utnytte bedriftens innovasjon for nasjonal nytte. Problemet med denne analysen at, bortsett fra det faktum at mye AI-forskning er ledet av autoritære regimer i Russland og Kina, brorparten av fremskritt kommer fra Amerika eller Amerikanske selskaper – og som et samfunn av OSS ikke har tradisjonelt blitt over-opptatt med saker av ulikhet.
I boken, Tegmark hails Googles Larry Page, en av de rikeste menneskene på Jorden, som en som kan vise seg å være den mest innflytelsesrike menneske som noensinne har levd: “Min gjetning er at hvis super intelligente digitale liv engulfs universet vårt i min levetid, vil det være på grunn av Larry’ s avgjørelser.”
Han beskriver Side som han beskriver Moskus – som gjennomtenkt og oppriktig opptatt av menneskehetens skjebne. Ingen tvil om at han er, men som en forretningsmann han er først og fremst opptatt av profitt og å stjele en marsj på konkurrenter. Og som ting står, altfor mye besluttende makt ligger i hendene på representative tech milliardærer.
Det synes for meg at mens de umiddelbare problemene av AI er i hovedsak teknologiske eller, i politisk forstand, teknisk, de venter langs veien er langt mer filosofisk art. Tegmark skisserer flere ulike utfall som kan gjelde, fra dystopiske totalitære diktatur for å godartet maskin kontroll.
“Det er viktig å innse at intelligens er lik makt,” sier han. “Grunnen til at vi har makt over tigers er ikke fordi vi har større muskler eller skarpere tenner. Det er fordi vi er smartere. En større makt er sannsynlig å til slutt styrer vår planet. Det kan enten være at noen mennesker får stor makt takket være avansert kunstig INTELLIGENS og gjøre ting du ikke liker dem, eller det kan være at maskiner selv ta innersvingen på oss og klarer å ta kontroll. Det trenger ikke å være en dårlig ting, nødvendigvis. Barn har ikke noe imot å være i nærvær av mer intelligente vesener, kalt mamma og pappa, fordi foreldre’ mål er i tråd med deres. AI kan løse alle våre vanskelige problemer og hjelpe menneskeheten til å blomstre som aldri før.”
Men ville ikke det radikalt endre menneskehetens følelse av seg selv, som ønsker å superior-agenter for å ta vare på oss? Vi ville ikke lenger være den viktigste kraften forme vår verden.
AnBot, Kinas første smart politiet robot, som gikk på patrulje til Shenzhen Baoan airport, Guangdong, i September 2016. Foto: Imaginechina/REX/Shutterstock
“Det er riktig,” sier han, med et smil i stemmen, “men det er mange mennesker i verden i dag som allerede tror det er slik det er og føler meg ganske fornøyd med det. Religiøse mennesker tror det er en mye mer kraftfull og intelligent enn dem som ser ut for dem. Jeg føler at det vi virkelig trenger å slutte er dette hubristic ideen om å bygge vårt selvbilde på en feilplassert ideen om menneskelig exceptionalism. Vi mennesker er mye bedre hvis vi kan være ydmyke og si at kanskje det kan være vesener mye smartere enn oss, men det er OK, vi får vår egenverd fra andre ting: å ha veldig dype relasjoner med våre medmennesker og fantastisk inspirert erfaringer.”
I slike øyeblikk Tegmark kan virke mindre som en hardcore materialistiske fysiker enn noen trippy new-age-professor som har brukt for lang tid vurderer kosmos. Men sannelig, sier jeg, den modernistiske prosjekt som har bygget disse maskinene ble drevet av en tro på at Gud var en oppfinnelse vi ikke lenger nødvendig – ville ikke det være en bitter historisk ironi hvis vi endte opp med å finne opp nye guder for å erstatte de gamle?
Tegmark ler. “Jeg tror en av de tingene vi trenger i en alder av AI er en god sans for humor og forståelse av ironi. Vi holder gloating om å være den smarteste på planeten nettopp fordi vi er i stand til å bygge alt dette fancy teknologi som er på vei til å få oss til å ikke være det smarteste på planeten!”
Etter å ha forsket og skrevet denne boken, Tegmark er mye mer optimistisk enn han var i som lachrymose øyeblikk i South Kensington. Men det er ikke en optimisme bygget på antagelsen om at alt vil ordne seg til slutt. Snarere mener han at vi må handle om vi kommer til å sikre seg et gunstig utfall. Folk og styresmakter, sier han, må slå sin oppmerksomhet til den møtende fremtiden, forberede aktuelle safety engineering, og tenke dypt om hva slags verden vi ønsker å skape.
Så hva ville han si om han kunne adresse som FN-møte i November?
“Fondet AI sikkerhet forskning, forbud dødelig autonome våpen og utvide sosiale tjenester slik at rikdom skapt av AI gjør alle godt av.”
Som alltid, veien videre vil bli fylt med uforutsette konsekvenser av dagens handlinger eller mangel på det, men å vedta at tre-punkts plan virker som en solid skritt i retning av å gjøre fremtiden som mye mindre å bekymre deg.
• Liv 3.0 av Max Tegmark er publisert av Allen Lane (£20). For å bestille en kopi for £17 gå til guardianbookshop.com eller ring 0330 333 6846. Gratis UK s&p over kr 10, online bestillinger bare. Telefonen bestillinger min s&p for £1.99