Konsekvensene av den teknologiske revolusjonen kan bli enda mer skremmende enn vi trodde

Sat Jun 30 2018 07.30 BST

Google Data Center in Berkeley County, South Carolina.

Jeg mistenker at din nytelse – eller annen måte – av James Hodelag er Ny Mørk Tidsalder vil være veldig avhengig av om du er et glass halv-tomt eller et glass nøyaktig-fylt-til-den-halvveis-mark-av-mikroprosessor-kontrollert-automatisk-pumpe-systemer form av en person. Jeg liker å tenke at selv om jeg har bange anelser om mye av hva den nåværende teknologiske revolusjon er på besøk på oss, jeg ennå ikke klarer å motstå som gruer ascription “luddite”. Det er en Hodelag ønsker også å unngå, men slik er pessimisme om maskiner som informerer hans argument, at hans samtaler for en ny “partnerskap” mellom oss og dem og virke som special pleading. Som fåfengt, faktisk, som en weaver å tro at ved å knuse en Jacquard vevstol han vil stoppe den industrielle revolusjon i sitt spor.

Hvis vi er i uvitenhet om hva våre roboter gjør, hvordan kan vi vite om vi blir skadet?

I kjernen av vår tenkning om ny teknologi det ligger, Bissel antyder, en farlig villfarelse: vi er begge modellen våre egne sinn på vår forståelse av datamaskiner, og tror at de kan løse alle våre problemer – hvis vi forsyner dem med nok data, og gjøre dem rask nok til å levere real-time analyser. Til Panglossian prospekt av moores Lov, som prognoser at datamaskiner’ prosessorkraft vil doble hver to år, Bissel tilbyr opp counterexmple av Gates ‘ s Lov, som antyder at disse gevinstene er eliminert ved akkumulering i programvare av overflødige koding. Men vår feilberegninger om verdien av big data er bare en del av beregningsorientert feilslutning; Hodelag mener også det er innblandet i vår simple-minded aksept av teknologi som en verdi-nøytral verktøyet, til å være fritt frem for vår egen forbedring. Han argumenterer for at i ikke å tilstrekkelig forstå disse emergent technologies, vi er faktisk å åpne oss opp til en ny mørk tidsalder. Han tar dette resonant frase fra HP Lovecraft ‘ s minatory novelle, “The Call of Cthulhu”, heller enn den mørke middelalderen av historiske kilder, selv om sistnevnte kan vise seg å være en bedre referanse for vår nåværende tidsalder. Bladets ny mørk tidsalder er, paradoksalt nok, en funksjon av opplysning – det er søkelys vitenskap skinner i hjertet av menneskelig mørke som bringer på en gal barbari. Hold ‘ s løsning er å foreslå “ekte systemisk literacy”, sammen med en vilje til å være upresis – skyet, selv når det kommer til vår tenkning om skyen.

Jeg er ikke mot dette, ja, jeg tror ofte at i en verden gal av sin følelse av sikkerhet, den beste måten å holde ro er å tillate deg selv den luksus av tvil. Men mens jeg kan se det som gjør gode stoisk mening for den enkelte, jeg er ikke sikker på at det er tilstrekkelig fengende å forberede menneskeheten, en masse, til å takle det som kommer ned steely, forhåndsprogrammert løype. Hodelag gir oss techno pessimister nok av eksempler å bekymre deg. Noen – som for eksempel død ved slavish tilslutning til GPS-systemer, og den bedrøvelige virkninger av beregningsorientert feilslutning – jeg var allerede kjent med, men andre gjorde gi meg roman heebie-jeebies.

Bizarre and abusive ‘kids’ videos, such as parodies of Peppa Pig, have appeared on YouTube.

Jeg hadde ikke bitt ned på det faktum at svært varmen som genereres av internett i seg selv er en sterk faktor i den globale oppvarmingen, som ganske mye nixes noen oppfatning at en mer kablet verden vil være en mer bærekraftig. Heller ikke var jeg klar over økningen i et fenomen som er kjent som “clear-air turbulens” (selv om veldig, det taler for seg selv), som godt bakken mye av kommersiell luftfart ved midten av dette århundre. Og selv om jeg har kjent på et intuitivt nivå som den Syriske konflikten, hadde en miljømessig dimensjon til det, Bissel er den første personen jeg har lest som tyngde, etiketter det som en ressurs krigen, provosert av tørke. I mellomtiden, de varme og kraftige hemmelige statlige datamaskiner blir brukt til å speciously undersøkelse oss (han gjør en overbevisende sak for hele uselessness av CCTV-systemer), mens med sine ledig prosesseringskapasitet de prøver å knekke prime-factoring-kryptering system som er avgjørende for personvern på nettet og handel.

At det AMERIKANSKE National Security Agency har allerede sprukket noen av de vanligst brukte prime antall faktorer ble, igjen, nyheter til meg. Og jeg tror ikke de falske utvalg: for Hodelag er ikke bare en tradisjons av lenestol jeremiad, som sitter der blåser filter bobler – han gjør feltarbeid samt på våre heslig og truende skjebne. Jeg spesielt likte hans gransking rare og ustø riket av Britisk luftrom og koblingen mellom drone programmer og såkalte “plausible deniability” – usynlighet kappe for så mye av våre herskere’ dabbling i the dark arts. Men den kanskje merkeligste og mest urovekkende aspektet av den kommende ny mørk tidsalder er fremveksten av maskin intelligens.

Jeg mistenker at mange lesere vil finne Hodelag er observant og tankevekkende bok skremmende snarere enn hyggelig

Her Hodelag gjør en utmerket og muligens opprinnelige poenget: vi er vant til å bekymre seg om AI-systemer bygges som enten vil “gå rogue” og angripe oss, eller lykkes oss i en bisarr utviklingen av, um, evolusjon – det vi ikke tror på er det ren inscrutability av disse produsert sinn. Og sinn er ikke en misvisende benevnelse. Hvordan ellers skal vi tenke om nevrale nettverk Google har bygget slik at oversetteren kan modellere sammenhengen av alle ord på alle språk, i en slags tre-dimensjonale “semantisk plass”? Jeg hadde lurt på hvorfor det ble som Google Translate hadde massivt forbedret beveger seg fra å være en pålitelig leverandør av nonsens dumhet, å, vel, en effektiv og umiddelbar måte å oversette. Problemet er at vi har en generell ide om hvordan programmet er å gjøre det – men den kan ikke fortelle oss nøyaktig, og, som Hodelag observerer, dette er ensbetydende med å overtre den første av Isaac Asimov ‘ s berømte Tre Lover om Robotics – for hvis vi er i uvitenhet om hva våre roboter gjør, hvordan kan vi vite om vi blir skadet?

Intelligente datasystemer er allerede truende oss med rare produkter utviklet ved hjelp av algoritmer, og tilbys for salg på Amazon, så vel som bisarre og fornærmende “barna” ” videoer, noe som er mystisk er generert i det indre av web, og som er lastet opp av roboter til YouTube. Hold låner Timothy Mortons olsen oppfatning av “hyperobject” som en måte av å diskutere vår manglende evne til å oppfatte helheten av de risikoene som er nedfelt i slike enorme fenomener som maskin intelligens og global oppvarming – men jeg er ikke sikker på at å anerkjenne den ubegripelige arten av noe virkelig hjelper oss til å forstå det.

Garry Kasparov plays against the IBM Deep Blue computer in 1997.

Hodelag ser ut til såkalte “centaur sjakk” som en vei fremover for våre wetware: datamaskiner kan nå enkelt slå den flotteste av mestere i spillet, men en av de beseiret, Garry Kasparov, har utviklet en kjempe-tilbake-metoden, hvor mennesker samarbeider med datamaskiner kan faktisk få pallen. På grunnlag av dette, Bissel hevder, det er mulig å tenke seg en ny type “formynderskap” av våre frazzled planeten og dens forgiftet brønner, noe som vi alle jobbe sammen. Dette synes Pollyanna-ish så mye som Panglossian til meg – jeg er mer rammet av Nicholas Carr ‘ s observasjon, i hans takedown av de kommende æra av selvkjørende biler, Glass Bur, og at vår evne til å forstå emergent techno riket kan være en funksjon av at vi har utviklet verktøy som gjør unna med vårt behov for å bruke verktøy.

Rise of the machines: har teknologien utviklet seg utenfor vår kontroll?

Les mer

De fleste av oss allerede flyte fra verden for å gjøre, er å gjøre utvinning og raffinering – og observere det indolently og ufullkomment gjennom scumbled objektiv av skyen. Vi bærer på grøfting enkelt-bruk plast, og bestille ting fra Amazon, og gi våre personlige informasjon bort promiscuously, ikke, vil jeg hevde, fordi global oppvarming og AI er for store til å ta tak i, men fordi vi forstår så altfor godt at reell endring kan bare endres av en stor masse av individer. Og at, som Hodelag erkjenner, er en umulighet, gitt den nye teknologier atomise snarere enn sikring våre sosiale formasjoner.

Likevel, ingen tvil om når mikroprosessorer feil og pumping system splutters til å stoppe, vi vil forhåpentligvis plukke opp ganske mye der vi slapp før Opplysningstiden – eller muligens Renessansen. En ting om den gamle mørke middelalderen var at de bare virket mørk i ettertid, når frykt vekt av statens makt, det hadde vært reimposed. Jeg vedder på at det var masse folk i tillegg til Goterne (og Vestgoterne for den saks skyld), for hvem fallet av det Romerske imperiet var en grunn til feiring. Jeg innser at dette er ikke en populær vise. Og jeg forventer at mange lesere vil finne Hodelag er observant og tankevekkende bok skremmende snarere enn hyggelig – men som jeg antydet innledningsvis, jeg er veldig mye i glasset halv tomme type.

Ny Mørk Tidsalder av James Bissel (Verso, £16.99). For å bestille en kopi for £14.44, kan du gå til guardianbookshop.com eller ring 0330 333 6846. Gratis UK s&p over kr 10, online bestillinger bare. Telefonen bestillinger min. s&p for £1.99.

Ny Mørk Tidsalder av James Hodelag gjennomgang – teknologi og slutten av fremtiden

Rise of the machines: har teknologien utviklet seg utenfor vår kontroll?