Artificiell intelligens expert nya bok, Livet 3.0, uppmanar oss att agera nu för att besluta om vår framtid, snarare än att riskera att det är beslutat för oss
Lördag 16 September 2017 19.00 BST
Senast ändrad söndagen den 17 September 2017 00.10 BST
Afew år sedan kosmolog Max Tegmark fann sig gråtande utanför Science Museum i South Kensington. Han hade bara besökt en utställning som stod för tillväxten i mänsklig kunskap, allt från Charles Babbages skillnaden motor till en replica av Apollo 11. Vad rörde honom till tårar var inte anblicken av dessa ikoniska teknik men som en uppenbarelse de uppmanas till det.
“Slog det mig som en sten”, minns han, “att varje gång vi förstått hur något i naturen fungerade, någon aspekt av oss själva, vi gjorde det överflödigt. När vi förstått hur musklerna arbetade vi byggt mycket bättre muskler i form av maskiner, och kanske när vi förstår hur våra hjärnor fungerar kommer vi att bygga mycket bättre hjärnor och bli helt obsoleta.”
Tegmark är vemodig insikt var inte någon ledig hypotes, men i stället en intellektuell utmaning till sig själv i början av år av artificiell intelligens. Vad ska det bli av mänskligheten, han hade flyttat för att be, om vi lyckas skapa en intelligens som överträffar våra egna?
Detta är naturligtvis en fråga som har förekommit flera gånger i science fiction. Det tar dock på olika slag av mening och skyndsamhet som AI blir vetenskap faktum. Och Tegmark bestämde att det var dags att undersöka frågor kring AI och möjligheten, i synnerhet, att det kan leda till en så kallad superintelligens.
Vi är i en situation där något verkligt dramatiska som kan hända i decennier – det är en bra tid att börja förbereda
Med sin vän Skypes grundare Jaan Tallinn, samt med finansiering från tech-miljardären Elon Musk, satte han upp Framtiden för Life Institute, som forskar på existentiella risker som mänskligheten står inför. Det är beläget i Cambridge, Massachusetts, där Tegmark är professor på MIT, och det är inte till skillnad från Mänsklighetens Framtid Institute i Oxford, som har inrättats av hans kolleger Svensk, filosofen Nick Bostrom.
Tegmark också skriva en bok, som han har precis publicerat, rätt Liv 3.0: att Vara Människa i en Ålder av Artificiell Intelligens. Har tidigare skrivit om så svårbegripliga och mycket teoretiska begrepp som multiverse, Tegmark är inte en man avskräcks av möjligheten till informerade men fantasifulla spekulationer.
En av svårigheterna med att få ett tydligt perspektiv på AI är att det sitter fast i myter och missförstånd. Tegmark har försökt att ta itu med denna bilden problemet genom att försiktigt packa upp de idéer som är inblandad i eller i samband med AI – intelligens, minne, inlärning, medvetande – och sedan förklara dem i en avmystifiering av mode.
Men först, Tegmark, tala i telefon från Boston, är ivriga att göra det tydligt vad AI är inte om.
“Jag tror att Hollywood har fått oss att fundera fel sak”, säger han. “Denna rädsla för maskiner för svarvning medvetna och ont är en röd-sill. Den verkliga bekymmer med avancerad AI är inte illvilja men inkompetens. Om du har superintelligenta AI, då per definition att det är mycket bra på att uppnå sitt mål, men vi måste vara säker på att dessa mål är i linje med vår. Jag hatar inte myror, men om du sätter mig i avgift för att bygga en grön energi vattenkraftverk i en myrstack område, synd för myror. Vi vill inte sätta oss i samma position som dem som myror.”
Livet 3.0 är mycket långt från en jeremiad mot AI. I själva verket är det mycket mer en hyllning till den potential superintelligens. Men vad är superintelligens? Ja, vad är intelligens? Tegmark definierar det som “förmågan att utföra komplexa mål”. Därför datorer räknas som intelligent. Men deras intelligens är smala.
Just nu, datorer är i stånd att bearbeta information inom specifika områden som går långt utöver mänsklig förmåga. Till exempel, den bästa schackspelare i världen står ingen chans mot en modern dator program. Men att programmet skulle vara värdelös mot ett barn i ett parti luffarschack. Människor, även de mycket unga, har en allmän intelligens över ett brett spektrum av förmågor, medan, för alla deras processorkraft, datorer är begränsad till föreskrivna uppgifter.
En kund tar ett fotografi av Toshida s humanoida robot Aiko Chihira, som hälsar kunder på Mitsukoshi-varuhuset i Tokyo. Foto: Bloomberg via Getty Images
Så att datorer bara är så intelligenta som vi tillåter dem att vara, som vi programmera dem att vara. Men när vi går in i AI-eran, som är början till förändring. Det finns tidiga exempel på platser som Googles AI dotterbolag, DeepMind, datorer lärande, anpassning genom trial and error. Hittills har denna möjlighet har endast påvisats i sfären av tv-spel och brädspel Gå, men förmodligen kommer att spridas ut till andra medier. Och om det sprider sig tillräckligt att det är sannolikt att ha en stor inverkan på hur vi tänker om oss själva, om livet och många andra grundläggande frågor.
Tegmark syftar till att undersöka dessa frågor genom att skapa ett tydligt sammanhang, ett rutnät av utvecklingsstadier. Han börjar med att gå tillbaka till de mest primitiva formerna av liv, såsom bakterier, som han kallar ” Livet 1.0. Detta är den enkla biologiska skede där livet är egentligen bara om replikering, och anpassning är möjlig endast genom utveckling.
Livet 2.0, eller den kulturella scenen, där människor är: möjlighet att lära sig, anpassa sig till förändrade miljöer, och avsiktligt ändra dessa miljöer. Men vi kan inte ändra våra fysiska själva, vårt biologiska arv. Tegmark beskriver denna situation som en av hårdvara och mjukvara. Vi designar vår egen programvara – vår förmåga att “promenera, läsa, skriva, räkna, sjunga och berätta skämt” – men vår biologiska hårdvara (hur våra hjärnor och kroppar) är föremål för evolution och med nödvändighet begränsad.
Den tredje scenen, Livet 3.0, är teknisk, i som post-människor kan omforma inte bara deras programvara men deras hårdvara. Liv, i denna form, Tegmark skriver, är “herre i sitt eget öde, äntligen helt fri från sin evolutionära bojor”.
Denna nya intelligens skulle vara odödlig och kan fan ut över universum. Med andra ord, det skulle vara livet, Jim, men inte som vi känner det. Men skulle det vara liv eller något annat? Det är rättvist att säga att Tegmark, en fysiker av utbildning, är inte en biologisk sentimentalist. Han är en materialist som ser på världen och universum än som görs upp i olika arrangemang av partiklar som gör det möjligt för olika nivåer av aktivitet. Han drar inget meningsfullt eller moraliska skillnaden mellan en biologisk, mortal intelligens och som av en intelligent, självbevarande maskinen.
Tegmark beskriver en framtid av obegränsade möjligheten för Liv 3.0, och ibland är hans skriva gränser på den fantastiska, även triumphalist; men då han är en teoretiker, försök att föreställa sig vad som för de flesta av oss är antingen otänkbart eller obehagliga.
Det finns dock en logik för att hans prognoser som även hans belackare skulle göra det möjligt, även om de kan argumentera över tidsskalan. Enkelt uttryckt, vi är i den tidiga fasen av AI – självstyrande bilar, smarta-hem-styrenheter och andra automater. Men om utvecklingen fortsätter i snabb takt, då är det inte orimligt att anta att vid en viss punkt – 30 år, 50 år, 200 år? – datorer kommer att nå en allmän intelligens motsvarar på många sätt till det av människor.
Och när datorer nå detta stadium deras förbättring kommer att öka snabbt, eftersom de kommer att få allt mer processorkraft för att arbeta ut hur man kan öka sin kapacitet för hantering. Detta är argumentet att Boström som i sin 2014 boka Superintelligens, och resultatet av detta massiva expansion i intelligens eller förmåga att utföra komplexa mål – är verkligen superintelligens, en singularitet att vi kan bara gissa.
Vi bör vara mer rädda för datorer än vad vi är
Superintelligens, men är inte en nödvändighet. Det finns många i området som tror att datorer aldrig kommer att matcha den mänskliga intelligensen, eller att om de gör det, är människor som själva har lärt sig att anpassa sin egen biologi då. Men om det är en möjlighet, då det är en Tegmark anser vi snarast måste allvarligt fundera på.
“När vi är i en situation där något verkligt dramatiska som kan hända, i årtionden, att för mig som är en riktigt bra tid att börja förbereda sig så att det blir en kraft för det goda. Det skulle ha varit trevligt om vi hade förberett mer för klimatförändringar 30 år sedan.”
Som Boström, Tegmark hävdar att utvecklingen av AI är ett ännu större problem än klimatförändringarna. Men om vi tittar på att skapa en intelligens som vi inte kan förstå, hur mycket kommer beredningen att påverka vad som sker på den andra sidan av singularitet? Hur kan vi försöker att begränsa en intelligens som är utanför vår föreställa?
Tegmark erkänner att detta är en fråga ingen kan svara på nu, men han menar att det finns många andra uppgifter som vi bör prioritera.
“Innan vi bekymra sig om långsiktiga utmaningar superintelligens, det finns några mycket kort sikt saker som vi måste ta itu med. Låt oss inte göra perfekt fiende till bra. Alla är överens om att aldrig, under några omständigheter vill vi att flygplan att flyga in i berg eller höga byggnader. När Andreas Lubitz blev deprimerad, han berättade för sin autopilot för att gå ner till 100 meter och dator sa OK! Datorn var helt clueless om mänskliga mål, även om vi har idag teknik för att bygga flygplan att när piloten försöker att flyga till något, det går in i felsäkert läge, lås sittbrunnen och landar på närmaste flygplats. Denna typ av dagis etik vi ska börja sätta i våra maskiner i dag.”
Men innan det, det är ännu mer angeläget arbete att göra, Tegmark säger. “Hur gör vi för att förändra dagens buggy och hackable datorer i robust AI-system som vi verkligen lita på? Detta är enormt viktigt. Jag känner att vi som samhälle har varit alldeles för nonchalant om detta. Och världens regeringar bör inkludera detta som en viktig del i datavetenskap forskning.”
Att förhindra uppkomsten av en superintelligens genom att överge forskning inom artificiell intelligens är inte, menar han, på ett trovärdigt sätt. “Varenda väg att 2017 är bättre än the stone age är på grund av teknik. Och teknik är som händer. Ingen här talar om att stoppa tekniken. Fråga om du är för eller mot AI är lika löjligt som att fråga om du är för eller mot brand. Vi alla älskar eld för att hålla våra hem varma och vi vill alla att förebygga bränder.”
Att förebygga anlagda bränder, i detta fall, är ett arbete som redan är över oss. Som Tegmark anteckningar, vi är på väg mot att starta en kapprustning i dödliga autonoma vapen. Vladimir Putin sade nyligen att den som behärskar AI skulle bli “världens härskare”. I November är det ett FN-möte för att titta på lönsamheten för ett internationellt avtal om förbud mot dessa vapen på samma sätt som biologiska och kemiska vapen är förbjudna. “AI gemenskapens stöd detta mycket starkt, säger Tegmark. I fråga om teknik, det är mycket liten skillnad, säger han, mellan “ett självständigt mordet drone och en Amazon boka leverans drone”.
BAE Systems Taranis obemannade stealth flygplan prototyp, som beskrivs som “den första autonoma drone”. Foto: BAE Systems
“En annan stor fråga under de kommande tio åren jobb automatisering. Många ledande ekonomer anser att den växande ojämlikhet som gav oss Brexit och Trump drivs av automation. Här finns en enorm möjlighet att göra alla bättre om staten kan omfördela en del av denna stora rikedom att maskiner som kan producera till nytta och gagn för alla.”
I detta avseende Tegmark tror STORBRITANNIEN, med sin tro på den fria marknaden och historia av NHS och välfärdsstaten, skulle kunna spela en ledande roll i att utnyttja företagens innovation för nationell nytta. Problemet med denna analys som, bortsett från det faktum att mycket AI-forskning som leds av auktoritära regimer i Ryssland och Kina, lejonparten av förskotten kommer från Usa eller Amerikanska företag – och som ett samhälle som USA har inte varit traditionellt över-som sysslar med frågor av ojämlikhet.
I boken, Tegmark kommer Googles Larry Page, en av de rikaste människorna på Jorden, som någon som kan visa sig vara den mest inflytelserika människa som någonsin har levt: “Min gissning är att om super intelligenta digitala liv uppslukar vårt universum i min livstid, det kommer att bli på grund av Larry’ s beslut.”
Han beskriver Sidan som han beskriver Mysk – som tankeväckande och uppriktigt bekymrad över människans situation. Ingen tvekan om att han är, men som en affärsman han är i första hand sysslar med vinst och stjäla en marsch på konkurrenter. Och som det ser ut, alldeles för mycket beslutsfattande makten befinner sig i händerna på icke representativa tech miljardärer.
Det tycks mig som om medan det omedelbara behovet av att AI är i huvudsak teknisk eller, i politisk mening, tekniska, de som väntar längs vägen är långt mer filosofisk karaktär. Tegmark beskriver flera olika utfall som kan råda, från dystopiska totalitär diktatur benigna maskinstyrning.
“Det är viktigt att inse att intelligens är lika med makt, säger han. “Anledningen till att vi har makt över tigrar är inte för att vi har större muskler eller skarpare tänder. Det beror på att vi är smartare. En större makt är troligt att det i slutändan styr vår planet. Det skulle antingen kunna vara att vissa människor får stor makt tack vare avancerad AI och göra saker som du inte skulle gilla dem, eller kan det vara så att maskinerna själva överlista oss och klarade av att ta kontroll. Det behöver inte vara en dålig sak, nödvändigtvis. Barn behöver inte tänka på att vara i närvaro av mer intelligenta varelser, som heter mamma och pappa, eftersom föräldrarnas mål är i linje med deras. AI kan lösa alla svåra problem och hjälpa mänskligheten att blomstra som aldrig förr.”
Men skulle inte det radikalt förändra människans känsla av sig själv, ser till superior-agenter för att ta hand om oss? Vi skulle inte längre vara den främsta kraften att forma vår värld.
AnBot, Kinas första smarta polisen robot, som gick på patrull i Shenzhen Baoan flygplats, Guangdong, i September 2016. Foto: Imaginechina/REX/Shutterstock
“Det är rätt”, säger han, med ett leende i rösten, “men det finns många människor i världen idag som redan tror att det är så det är och känner mig ganska nöjd över det. Religiösa människor tror att det är en mycket mer kraftfull och intelligent än dem som ser ut för dem. Jag känner att vad vi verkligen behöver för att sluta är detta hubristic tanken på att bygga upp vår självkänsla på en missriktad uppfattning om mänskliga exceptionalism. Vi människor är så mycket bättre om vi kan vara ödmjuka och säga att det kanske kan vara varelser mycket smartare än oss, men det är OK, vi får vår självkänsla från andra saker: att ha riktigt djupa relationer med våra medmänniskor och härligt inspirerad erfarenheter.”
Vid sådana tillfällen Tegmark kan låta mindre som en hardcore materialistisk fysiker än några trippy new age-professor och tillbringade alltför långa överväger kosmos. Men visst, säger jag, den modernistiska projekt som har byggt dessa maskiner drevs av en övertygelse om att Gud var en uppfinning vi inte längre behövs – skulle det inte vara en bitter historisk ironi om vi slutade upp med att uppfinna nya gudar att ersätta den gamla?
Tegmark skrattar. “Jag tror att en av de saker vi kommer att behöva i en ålder av AI är ett bra sinne för humor och uppskattning av ironi. Vi håller skadeglädje över att vara den smartaste på jorden just för att vi ska kunna bygga allt detta fina teknik som är på väg att få oss att inte vara den smartaste på jorden!”
Efter att ha forskat och skrivit den här boken, Tegmark är mycket mer optimistisk än vad han var i lachrymose ögonblick i South Kensington. Men det är inte en optimism bygger på antagandet att allt kommer att ordna sig i slutändan. Snarare, menar han att vi måste agera om vi ska kunna säkra ett fördelaktigt utfall. Folk och regeringar, säger han, måste vända sin uppmärksamhet mot den mötande framtiden, förbereda lämpliga säkerhet, och tycker mycket om den typ av värld vi vill skapa.
Så vad skulle han säga om han kan ta itu med att FN: s möte i November?
“Fonden AI säkerhetsforskning, förbud dödliga autonoma vapen och utöka de sociala tjänsterna så att det välstånd som skapas av AI gör alla bra av.”
Som alltid, att vägen framåt kommer att vara fylld med oförutsedda konsekvenser av dagens åtgärder eller brist på det, men antar att tre-punkt plan verkar som ett bestämt steg i riktning mot att göra den framtid som mycket mindre oroande.
• Livet 3.0 av Max Tegmark är publicerad av Allen Lane (£20). För att beställa en kopia för £17 gå till guardianbookshop.com eller ring 0330 333 6846. Gratis BRITTISKA p&p över £10, online-beställningar endast. Telefon beställningar min s&p £1.99