Konsekvenserne af den teknologiske revolution kan være endnu mere skræmmende, end vi troede
Lør 30 Jun 2018 07.30 BST
Google-datacenter i Berkeley Amt, South Carolina.
Foto: Google Handout/EPA
Jeg har mistanke om din nydelse – eller på anden måde – af James Tøjlen er Ny Mørk Tidsalder, vil afhænge meget af, om du er et glas halvtomt, eller et glas præcis-fyldt-med-de-halvvejs-mark-ved-mikroprocessor-kontrolleret automatisk-pumpe-systemer i form af en person. Jeg kan godt lide at tænke på, at mens jeg kan have betænkeligheder ved meget om, hvad den teknologiske revolution, der besøger os, jeg endnu ikke formår at modstå, der frygter betegnelse “luddite”. Det er et Hovedtøj også ønsker at undgå; men sådan er det pessimisme om de maskiner, der er kendetegnende for hans argument om, at hans opfordringer til en ny “partnerskab” mellem dem og os synes som særlige indlæg. Som forgæves, i virkeligheden, som en væver at tro, at ved at smadre en Jacquard væven, at han vil stoppe den industrielle revolution i dens spor.
Hvis vi i uvidenhed om, hvad vores robotter gør, hvordan kan vi vide, om vi er ved at blive skadet af det?
Det centrale i vores tænkning om ny teknologi, der ligger, Hovedtøj antyder, er en farlig vildfarelse: vi skal både model vores eget sind på vores forståelse af computere, og tror at de kan løse alle vores problemer – hvis der er, kan vi levere dem med nok data, og gøre dem hurtigt nok til at levere real-time analyser. Til Panglossian udsigten til Moore ‘s Lov, der forudser, at computeres regnekraft vil blive fordoblet hvert andet år, Hovedtøj tilbyder op counterexmple af Gates’ s Lov, der tyder på, at disse gevinster er ødelagt af ophobning i software overflødige kodning. Men vores fejlberegninger om værdien af store data er kun en del af den beregningsmæssige fejlslutning, Hovedtøj også mener, at det er impliceret i vores simple accept af teknologi som et værdi-neutralt redskab, en til at være frit, der er ansat til vores egen gavn. Han hævder, at i ikke tilstrækkeligt til at forstå disse nye teknologier, er vi i virkeligheden åbner os op for en ny mørk tidsalder. Han tager denne resonans sætning fra HP Lovecraft minatory novelle, “The Call of Cthulhu”, snarere end den mørke middelalder af historiske rekord, selv om sidstnævnte kan vise sig at være et bedre udgangspunkt for vores nuværende æra. Lovecraft ny mørk tidsalder, er, paradoksalt nok, en funktion af oplysningstiden, og det er searchlight videnskab skinner i hjertet af menneskelige mørke, der bringer om en sindssyg barbari. Hovedtøj ‘ s løsning er at foreslå “real systemisk forståelse”, sammen med en vilje til at være upræcise – overskyet, selv – når det kommer til vores tænkning om cloud.
Jeg er ikke imod det; ja, jeg ofte tror, at i en verden, vanvittige af sin følelse af sikkerhed, den bedste måde at holde sig i ro, er at give dig selv den luksus af tvivl. Men selv om jeg kan se det som gør godt stoical mening for den enkelte, jeg er ikke sikker på, at det er tilstrækkeligt inciterende at forberede menneskeheden, i massevis, til at klare, hvad der kommer ned stålsat, forudprogrammeret nummer. Tøjlen giver os techno pessimister masser af eksempler på at bekymre sig om. Nogle, såsom død af slavisk tilslutning til GPS navigation systemer, og de sørgelige virkninger af den beregningsmæssige fejlslutning – var jeg allerede bekendt med, men det gjorde andre give mig nye heebie-jeebies.
Bizar sex og misbrug, ‘børn’, videoer, som parodier på Peppa Pig, er dukket op på YouTube. Foto: https://www.youtube.com/watch?v=0Att6nOP9DE
Jeg havde ikke bidt ned på det faktum, at de meget varme, der genereres af internettet i sig selv er en stærk faktor i den globale opvarmning, som stort set nixes eventuelle opfattelse, at en mere kablede vil verden blive et mere bæredygtigt. Ej heller var jeg klar over stigningen i et fænomen kendt som “clear air turbulence” (selv om de virkelig, det taler for sig selv), som kan nå jorden, en masse af kommerciel luftfart inden midten af dette århundrede. Og mens jeg måske har kendt i et intuitivt niveau, at den Syriske konflikt, havde en miljømæssig dimension til det, Hovedtøj er den første person, jeg har læst, der autoritativt mærker det som en ressource, krig, fremkaldt af tørke. I mellemtiden, de varme og stærke hemmelige regering computere bliver brugt til at speciously survey os (han gør en overbevisende sag for hele ubrugelighed af CCTV systemer), mens der med deres overskydende kapacitet, at de forsøger at knække prime-factoring-kryptering system, der er afgørende for online privatlivets fred og handel.
At den AMERIKANSKE National Security Agency har allerede knækket nogle af de mere almindeligt anvendte primtal faktorer var, igen, nyheder til mig. Og jeg tror ikke på den falske række: for Tøjlen, er ikke blot en formidler af den lænestol jeremiad, der sidder der blæser filter bobler – han gør feltarbejde samt på vores hæslige og truende skæbne. Jeg nød især hans undersøgelse af det mærkelige og vaklende rige Britisk luftrum, og forbindelsen mellem drone-programmer og såkaldte “plausibel benægtelse” – usynligheds-kappe for så meget af vores magthaveres dypning i den mørke kunst. Men måske den mærkeligste og mest foruroligende aspekt af den kommende ny mørk tidsalder, er fremkomsten af maskinen intelligens.
Jeg formoder, at mange læsere vil finde Bidsel ‘ s indsigtsfulde og tankevækkende bog skræmmende snarere end underholdende
Her Tøjlen gør en fremragende og eventuelt oprindelige pointe: vi er vant til at bekymre sig om AI systemer, der bliver bygget, der enten vil “gå slyngelstater” og angribe os, eller lykkes os i en bizar udvikling, um, evolution – hvad vi ikke regne på, er det ren og skær uigennemskuelighed af disse, der er fremstillet sind. Og sind er ikke et misvisende. Hvordan skulle vi ellers mener om den neurale netværk Google har bygget, så oversætteren kan modellere samspillet af alle ord i alle sprog, i en slags tre-dimensionelle “semantiske rum”? Jeg havde undret mig over, hvorfor det var, at Google Translate havde massivt forbedret – at gå fra at være en pålidelig leverandør af meningsløse dumhed, at, ja, en effektiv og øjeblikkelig måde at oversætte. Problemet er, at vi har en generel idé om, hvordan programmet gør det – men det kan ikke fortælle os præcis; og, som Tøjlen siger, at dette er ensbetydende med at overtræde den første af Isaac Asimov ‘ s berømte Three Laws of Robotics – for hvis vi i uvidenhed om, hvad vores robotter gør, hvordan kan vi vide, om vi er ved at blive skadet af det?
Intelligent edb-systemer er allerede truende os med underlige produkter, der er udtænkt af en algoritme og udbydes til salg på Amazon, samt bizar og misbrug “kids’” videoer, der er genereret på mystisk vis i tarme af nettet, og der er uploadet af bots til YouTube. Tøjlen låner Timothy Morton ‘ s sidste nye opfattelse af “hyperobject” som en måde at diskutere vores manglende evne til at begribe totaliteten af de risici, der er indeholdt i så store fænomener, som maskinen intelligens og global opvarmning – men jeg er ikke sikker på, at der anerkender uhåndgribeligt karakter af noget, der virkelig hjælper os til at forstå det.
Garry Kasparov spiller mod IBM ‘ s Deep Blue computer i 1997. Foto: Stan Honda/AFP/Getty Images
Hovedtøj ser ud til såkaldte “centaur skak”, som en vej fremad for vores wetware: computere kan nu uden besvær slå de største mestre i spillet, men en af de besejrede, Garry Kasparov, har udviklet en fight-back-metoden, hvor mennesker indgået et samarbejde med computere kan faktisk genvinde podiet. På dette grundlag, Hovedtøj argumenterer for, at det er muligt at forestille sig, at en ny form for “pleje” af vores frazzled planet og dens forgiftet brønde, hvor vi alle arbejder sammen. Dette synes Pollyanna-ish så meget som Panglossian til mig – jeg er mere ramt af Nicholas Carr ‘ s observation, i hans takedown af den kommende æra af selvkørende biler, Glas Bur, at vores manglende evne til at fatte den emergente techno rige kan være en funktion af, at vi har udarbejdet værktøjer til at gøre op med vores behov for at bruge værktøjer.
Rise of the machines: har teknologien udviklet sig uden for vores kontrol?
Læs mere
De fleste af os allerede flyde frit fra den verden af lave, laver, udvinding og raffinering – og se på det indolently og ufuldkomment gennem scumbled linse i skyen. Vi fortsætter med at droppe enkelt-bruger plastik, og bestiller ting fra Amazon, og give vores personlige oplysninger væk promiskuøst, ikke er, vil jeg hævde, fordi den globale opvarmning og AI er for store til at forstå, men fordi vi forstår kun alt for godt, at reel ændring kan kun foretages af en stor masse af individer. Og det, som Tøjlen, erkender, er en umulighed, i lyset af de nye teknologier atomise snarere end sikring vores sociale formationer.
Stadig, ingen tvivl om, når mikroprocessorer fejl og pumpe system splutters til at stå, vil vi forhåbentlig afhente temmelig meget, hvor vi slap før Oplysningstiden – eller eventuelt Renæssancen. Én ting om den gamle mørke middelalder var, at de kun virkede mørke set i bakspejlet, når de frygter vægt af statsmagten havde været blevet genindført. Jeg vil vædde på, at der var masser af mennesker, der ud over at Goterne (og Vestgoterne for den sags skyld), for hvem faldet af det Romerske imperium var en grund til at fejre. Jeg er klar over, at dette ikke er en populær opfattelse. Og jeg forventer, at mange læsere vil finde Bidsel ‘ s indsigtsfulde og tankevækkende bog skræmmende snarere end underholdende – men som jeg antydede i starten, er jeg meget af glasset er halvt tomt type.
- Ny Mørk Tidsalder af James Tøjlen (Verso, £16.99). For at bestille en kopi til £14.44, gå til guardianbookshop.com eller ring 0330 333 6846. Gratis UK p&p over £10, online ordrer. Telefon ordrer min. s&p £1.99.