Konsekvenserna av den tekniska revolution som kan vara ännu mer skrämmande än vi trodde
Lör 30 Jun 2018 07.30 BST
Google Data Center i Berkeley County, South Carolina.
Foto: Google Handout/EPA
Jag misstänker att din njutning – eller på annat sätt – av James Betsel är Ny Mörk tid kommer att bero mycket på om du är halvtomt, eller ett glas precis fyllda-till-den-halvvägs-mark-av-mikroprocessor-kontrollerad-automatisk-pumpa-system i form av en person. Jag gillar att tänka att jag kan ha farhågor om att mycket av vad den pågående tekniska revolutionen är ett besök på oss, jag ännu klarar av att motstå som fruktar benämning “luddite”. Det är ett Träns också vill undvika; men sådan är den pessimism om de maskiner som informerar sina argument, att hans samtal för ett nytt “samarbete” mellan dem och oss verkar vilja ha särskilda förmåner. Som meningslösa, i själva verket, som weaver tro att genom att krossa en jacquardvävstolen han ska stoppa den industriella revolutionen i dess spår.
Om vi är i okunskap om vad våra robotar gör, hur kan vi veta om vi skadas?
Kärnan i vårt tänkande om ny teknik där ligger Betsel antyder, en farlig missuppfattning: att vi båda modellen våra egna sinnen för vår förståelse av datorer och tro att de kan lösa alla våra problem – om, är att vi förser dem med tillräckligt med data, och göra dem tillräckligt snabbt för att leverera realtid analyser. Till Panglossian utsikterna för Moores Lag, som räknar med att dators processorkraft kommer att fördubblas vartannat år, Betsel ger upp counterexmple av Gates Lagen, vilket tyder på att dessa vinster är förnekas av ackumulering i programvara för arbetslösa kodning. Men vår felbedömningar om värdet av “big data” är bara en del av de beräkningar felslut, Betsel anser också att det är inblandat i våra enfaldiga acceptans av teknik som en värde-neutralt verktyg, ett fritt anställd för vår egen förbättring. Han argumenterar att misslyckas med att kunna förstå dessa framväxande teknik, vi är i själva verket att öppna upp oss till en ny mörk tid. Han tar den här resonant fras från HP Lovecrafts minatory kort berättelse, “The Call of Cthulhu”, snarare än den mörka medeltiden av historiska rekord, även om den senare kan visa sig vara en bättre utgångspunkt för vår nuvarande eran. Lovecrafts ny mörk tid är, paradoxalt nog, en funktion av upplysning – det är den strålkastare vetenskap lyser i hjärtat av mänskliga mörker som tar på en galen barbari. Träns: s lösning är att föreslå en “riktig systemisk kunskap”, tillsammans med en vilja att vara oprecisa molnigt, även när det gäller vårt sätt att tänka om molnet.
Jag är inte emot detta, ja, jag tror ofta att i en värld av galna av sin känsla av säkerhet, är det bästa sättet att hålla sig lugn är att tillåta dig själv lyxen av tvivel. Men samtidigt kan jag se det som bra lungt känsla för den enskilde, jag är inte säker på att det är tillräckligt medryckande för att förbereda mänskligheten, i en grupp, att hantera vad som kommer ner steely, som är förprogrammerat spår. Betsel ger oss techno pessimister gott om exempel på att oroa sig för. Några – såsom dödsfall av slavisk följsamhet till GPS-navigation-system, och de sorgsna effekter av de beräkningar felslut – jag var redan bekant med, men andra gjorde det ger mig nya heebie-jeebies.
Bisarra och kränkande ‘barn’ videor, som parodier på Peppa Pig, har dykt upp på YouTube. Foto: https://www.youtube.com/watch?v=0Att6nOP9DE
Jag hade inte bitit ner på det faktum att mycket värme som genereras av internet i sig är en stark faktor i den globala uppvärmningen, som ganska mycket nixes någon anser att en mer fast världen kommer att vara mer hållbart. Inte heller var jag medveten om att öka i ett fenomen som är känt som “clear air turbulence” (även om det egentligen, det talar för sig själv), som mycket väl kan marken en hel del kommersiella luftfarten genom mitten av detta sekel. Och även om jag kanske har känt på en intuitiv nivå att den Syriska konflikten hade en miljömässig dimension till det, Träns är den första person som jag har läst som auktoritet etiketter det som en resurs krig, utlöst av torka. Under tiden, de varma och kraftfulla hemliga regeringen datorer används för att speciously undersökning oss (han gör ett övertygande argument för den fullständiga meningslösheten av CCTV-system), samtidigt med sina extra processorkraft som de försöker knäcka prime-factoring-kryptering som är viktigt för den personliga integriteten på nätet och handel.
Att den AMERIKANSKA National Security Agency har redan knäckt några av de mer vanliga primtal faktorer var, återigen, en nyhet för mig. Och jag tror inte de falska olika: för Betsel är inte bara en leverantör av fåtölj jeremiad, som sitter där och blåser filter bubblor – han gör fältarbete samt på vår ohyggliga och hotande öde. Jag har i synnerhet haft sin utredning om den konstiga och vinglig sfären av Brittiska luftrummet och kopplingen mellan drone program och så kallade “rimliga deniability” – osynlighetsmantel för så mycket i våra härskare’ syssla i mörka konst. Men kanske den märkligaste och mest oroande aspekten av den kommande nya dark age är framväxten av maskinen intelligens.
Jag misstänker att många läsare kommer att hitta Träns är insiktsfull och tänkvärd bok skrämmande snarare än roligt
Här Betsel gör ett utmärkt och eventuellt ursprungliga punkt: vi är vana vid att behöva oroa AI-system byggs som antingen kommer att “gå oseriösa” och attackera oss, eller lyckas oss i en bisarr utveckling, um, evolution – vad vi inte räkna på är den stora outgrundlighet av dessa tillverkade sinnen. Och medvetandet är inte en felaktig benämning. Hur annars ska vi tänka på det neurala nätverket Google har byggt så att dess översättare kan modellen sammanlänkningen av alla ord i alla språk, i en slags tredimensionell “semantiska rymden”? Jag undrade varför det var att Google Translate hade kraftigt förbättras – att gå från att vara en pålitlig leverantör av meningslösa enfald, att, tja, en effektiv och omedelbar sätt att översätta. Problemet är att vi har en allmän uppfattning om hur programmet är att göra det – men det kan inte tala om för oss exakt, och Betsel påpekat, är detta liktydigt med att överträda den första av Isaac Asimov ‘ s berömda robotikens Tre Lagar – för om vi är i okunskap om vad våra robotar gör, hur kan vi veta om vi skadas?
Intelligenta datorsystem är redan hotfulla oss med konstiga produkter utformas algoritmiskt och erbjuds till försäljning på Amazon, samt bisarra och kränkande “barn” filmer, som är mystiskt som genereras i tarmarna av webben, och uppladdad av robotar till YouTube. Träns lånar Tim Morton ‘ s stilfulla uppfattning av “hyperobject” som ett sätt att diskutera vår oförmåga att uppfatta helheten av de risker som ingår i detta stora fenomen som maskinens intelligens och den globala uppvärmningen – men jag är inte säker på att erkänna ogripbar naturen för någonting som verkligen hjälper oss att förstå det.
Garry Kasparov spelar mot IBMS dator Deep Blue 1997. Foto: Stan Honda/AFP/Getty Images
Träns ser till så kallade “centaur schack” som en väg framåt för vår wetware: datorer kan nu enkelt slå den vackraste av befälhavarna på spelet, men en av de besegrade, Garry Kasparov, har utvecklat en kamp-back metoden, där människor samarbetar med datorer verkligen kan återfå pallen. På grundval av detta, Betsel menar att det är möjligt att tänka sig en ny typ av “förmynderskap” av våra frazzled planet och dess förgiftade brunnar, i vilken vi alla arbeta tillsammans. Detta verkar Pollyanna-ish så mycket som Panglossian till mig – jag är mer drabbade av Nicholas Carr observation, i hans takedown av den kommande tiden av självgående bilar, Glas Bur, att vår oförmåga att förstå den framväxande techno sfären kan vara en funktion av vi har fram verktyg för att göra sig av med vårt behov av att använda verktyg.
Rise of maskiner: har teknik utvecklats bortom vår kontroll?
Läs mer
De flesta av oss redan flyta fritt från världen för att göra, gör, utvinning och raffinering – och konstatera att det indolently och ofullständigt genom scumbled lins av molnet. Vi bär på dikning engångsprodukter i plast, och beställa saker från Amazon, och att ge våra personliga information bort promiscuously, inte, skulle jag hävda, på grund av den globala uppvärmningen och AI är för stor för att förstå, men eftersom vi förstår endast alltför väl att en verklig förändring kan bara ske genom att en hel massa av individer. Och att Tygla erkänner, är en omöjlighet, med tanke på den nya tekniken atomise snarare än säkring våra sociala formationer.
Fortfarande, ingen tvekan om när mikroprocessorer fel och pumpsystem splutters att stanna, vi ska förhoppningsvis plocka upp ganska mycket där vi slutade innan Upplysning – eller möjligen Renässansen. En sak om den gamla mörka medeltiden var att de endast verkar mörkt i efterhand, när fruktan vikten av statens makt hade varit reimposed. Jag slår vad om att det var massor av människor förutom Goterna (och Visigoterna för den delen), för vilka nedgången av det Romerska riket var en anledning till att fira. Jag inser att detta inte är en populär åsikt. Och jag förväntar mig att många läsare kommer att hitta Träns är insiktsfull och tänkvärd bok skrämmande snarare än roligt – men då som jag underförstådda i början, jag är väldigt mycket av det som halvtomt typ.
- Ny Mörk tid av James Träns (Verso, £16.99). För att beställa en kopia för £14.44, gå till guardianbookshop.com eller ring 0330 333 6846. Gratis BRITTISKA p&p över £10, online-beställningar endast. Telefon beställningar min. s&p £1.99.