Astra Taylor ‘ s iPhone har en revnet skærm. Hun har forbandt det med
klar emballage tape og har planer om at bruge telefonen, indtil den går i opløsning.
Hun objekter til den planlagte forældelse af dagens gadgetry, og at den
måde de store tech firmaer, pres kunder til at opgradere.
Taylor, 36,
er en dokumentar-producer, musiker og politisk aktivist. Hun er også
en ny stjerne i verden af teknologi kritik. Hun er ikke
paranoid, men hun holder gaffatape over kameraets linse på sin bærbare computer
computer – fordi, som alle kender, disse gadgets kan tages med over
med onde agenser af alle slags.
Taylor er en 21st århundrede digital
dissenter. Hun er en af de mange technophiles ked af den måde, de
tech revolution har spillet ud. Politisk progressive, når omfavnede
den utopiske løfte om Internettet som en demokratiserende kraft, men
de har været skuffede over den anledning af “overvågning” og
nær-monopolisering af digitale platforme ved store selskaber.
Sidste
måned, Taylor og mere end 1.000 aktivister, forskere og teknikere
samledes på the New School i New York City for en konference for at tale
om at genopfinde Internettet. De drømmer om et co-op-model: mennesker
beskæftiger sig direkte med hinanden uden at skulle gå gennem en
data-sugende corporate hub.
“Den magtfulde absolut ikke ønsker
os til at genstarte ting, og de vil gå meget langt for at stoppe os fra
at gøre det, og de vil bruge brute force eller vil de bruge bureaukrati,”
Taylor advarede conferees ved afslutningen af den to-dages møde.
Vi har brug for en bevægelse, sagde hun, “der siger nej til den eksisterende orden.”
Den
anderledes tænkende er ikke nogen nem opgave. Vi er i en ny Maskine Alder. Maskine
intelligens og digitale sociale netværk er nu indlejret i den grundlæggende
infrastrukturen i den udviklede verden.
Meget af dette er objektivt
gode og behagelige og giver styrke. Vi har en tendens til at kunne lide vores enheder, vores
sociale medier, vores computer spil. Vi kan lide vores forbindelse. Vi kan lide
at være i stand til at vide næsten alt, og alt, eller handle impulsivt,
ved at skrive et par ord i en søgemaskine.
Men der er denne
shadow fortælling bliver skrevet på samme tid. Det er en lidenskabelig, hvis
stadig bemærkelsesværdigt uorganiseret, modstand til den digitale virksomhed.
Techno-skeptikere,
eller hvad du vil kalde dem – “humanister”, kan være den bedste sigt –
følelse af, at de menneskelige behov er at få tabt i tech vanvid, at
prioriteringer er blevet vendt på hovedet. De fornemmer, at der er for
meget fokus på at sikre, at nye innovationer vil være godt for
maskiner.
“Jeg er på Team Menneske!” forfatter Douglas Rushkoff vil sige, at ved indgåelse af en tale.
Du
kunne udfylde en højere læreanstalt pensum med bøger knæsætter nogle slags
teknologisk modstand. Begynder klassen med “Du Er Ikke en Gadget”
(Jaron Lanier, skal du gå videre til “Internettet Er Ikke Svaret” (Andrew
Opsat), og derefter, for at skræmme de studerende dumt, “Vores Endelige Opfindelse:
Kunstig Intelligens og Slutningen af den Menneskelige Æra” (James Barrat).
Et eller andet sted
i mix skal være Astra Taylor ‘ s “The People’ s Platform: Tager Tilbage
Magt og Kultur i den Digitale Tidsalder”, en klar-eyed revurdering af
Internettet og nye medier.
Af de utallige kritik af computer
kultur, en af de mest almindelige er, at virksomheder bliver rige off
vores personlige data. Vores tanker, venskaber og grundlæggende indtrængende er
behandles af computer-algoritmer og sælges til annoncører. Maskinerne
kan snart vide mere om os, end vi ved om os selv.
At
information er værdifuld. En hyppig gibe er, at på Facebook, vi er ikke
de kunder, vi merchandise. Eller sagt på en anden måde: Hvis
service er gratis, er du produktet.
Nogle digitale skilt sig ud
er ikke fokuseret på de økonomiske spørgsmål, men blot om karakteren af
menneske-maskine interaktion. Dette er et emne, vi alle forstår
intuitivt: Vi er hele tiden distraheret. Vi går rundt med vores øjne
støbt ned på vores enheder. Vi er sjældent fuldt til stede overalt.
Andre
kritikere er dybt foruroliget over, at den udhuling af privatlivets fred. Edward Snowden
åbenbaringer fået udbredt frygt for statslig overvågning. At
debatten har været kompliceret af terrorangrebene i Paris og San
Bernardino, fordi den nationale sikkerhed embedsmænd siger, at terrorister har
udnyttes til nye typer af krypterede sociale medier.
Nogle der har skilt sig ud
tænke teknologi er at køre økonomisk ulighed. Der er alvorlige
bekymring for, at robotter er ved at tage jobs til mennesker. Og robotten spørgsmål
fører uundgåeligt til den mest apokalyptisk frygt: at maskinen intelligens
kunne løbe væk fra den menneskelige opfindere, forlader os slaver – eller værre
– af de maskiner, vi har skabt.
Teknologisk skepsis er ikke ny.
Platon fortalte historien om en konge, der protesterede opfindelsen af at skrive,
siger, at det ville svække hans folks hukommelse og “implantat glemsomhed i
deres sjæle.”
Men noget andet, der sker nu, og det
blot har at gøre med hastigheden. Den første kommercielle Internet-browser hit
markedet i 1994. Google kom i 1998. Twitter dukkede op i 2006,
og iPhone i 2007. Facebook grundlægger Mark Zuckerberg er alle 31
år gammel.
Vores teknologi, der i dag er så ny, at vi ikke har haft tid
for at forstå, hvordan man bruger det med omtanke. Vi har ikke helt lært at
stoppe os fra at sms ‘ e og kørsel, mange af os er fristet til at trykke på
ud endnu et bogstav, selv hvis vi kommer 75 på motorvejen.
Nogle
lande tager aggressive skridt til at regulere nye teknologier. Den
Sydkoreanske regering har besluttet, at spil er så vanedannende, at det
bør behandles på samme måde som et stof eller alkohol problem. I mellemtiden,
den Europæiske Union “Retten til at Blive Glemt” tvinger virksomheder som
Google og Yahoo til at fjerne pinligt materiale fra søgemaskine
resultater, hvis de anmodes herom.
Washington ‘ s politiske
etablering, har dog i vid udstrækning udskudt til Silicon Valley. Tech
verden kører skævt anarkistisk og ikke ønsker mere statslig kontrol og
forordninger.
En af tech-verdens førende fortalere i Washington
er Robert Atkinson, president of Information Technology &
Innovation Foundation, der modtager omkring to-tredjedele af sine midler
fra tech virksomheder.
Atkinson er en ranglet, voluble mand, der lyder
irriteret af stigningen i det, han anser for at være neo-Luddite tænkning.
(“Luddite” er et begreb, der går helt tilbage til begyndelsen af 19-tallet, opkaldt efter en
skumle karakter ved navn Ned Ludd, som inspirerede tekstil arbejdstagere til at smadre
mekaniske væve.)
Han er bekymret for, at bøger af folk som Astra
Taylor vil oprette en tanke smitte, der vil inficere Washington
den politiske beslutningstagning. I hans opfattelse, at der er to typer af Luddites:
gammeldags hånd-wringers, der er skræmt af noget nyt og
innovative, og de “bløde” Luddites – at han ville sætte Taylor i, at
kategori – der siger, at de tage teknologi til sig, men ønsker at gå langsommere, med
mere Europæisk stil regler.
“Det er fremkomsten af blød
Luddites, at jeg bekymre sig om, fordi det er blevet elite
konventionelle visdom i en masse rum,” Atkinson sagde.
Men han kan
være bekymret for tidligt. Senatet bill til at regulere selvkørende biler
gik netop ingenting. Det er ikke som om folk er på march på
Washington til at kræve, at lovgiverne adresse den selvkørende bil trussel.
Den
teknologisk modstand er ikke begrænset til faglitterære polemik. Fiktion
forfattere er picking up tråd, ofte låne fra George Orwells
og hans dystopiske mesterværk, “1984.”
For eksempel, Gary
Shteyngart er “Super Sørgelig Sand kærlighedshistorie” er en fortælling om mennesker, der kæmper
finde kærlighed og menneskelighed i en verden af Big Brother-lignende overvågning,
samfundsmæssige opdeling og mere og mere grove sociale normer. Romanen
funktioner er gadgets, der giver folk mulighed for at vurdere en anden numerisk på
deres seksuelle tiltrækningskraft. Ikke usandsynligt: En start-up virksomhed
for nylig annoncerede sin plan til marked en app, der vil give brugerne mulighed for at
sats alle på en 1-til-5 skala, uden deres samtykke. (Efter rasende
protest fra hele Internettet, bagmænd ændret deres plan til at
omfatter kun positive anmeldelser.)
Dave Eggers ‘ roman “The Circle”
fortæller om en stigende stjerne på en Google-lignende selskab. Hun udmærker sig ved at svare
tusindvis af e-mails en dag, der arbejder i et hektisk tempo. Hun bor sammen med en
kameraet rundt om hendes hals, der streamer alt, hvad hun ser på
Internettet. Det går ikke godt for hende.
Og der er en ny stemme
blandt de der har skilt sig ud: Pave Frans. Paven ‘ s seneste rundskrivelse “På
Omsorg for Vores Fælles Hjem” betyder, at der er blandede velsignelser
teknologien. Efter at have anerkendt de vidundere af moderne teknologi (“Der
kan benægte skønheden i et fly eller en skyskraber?”), Francis, der er skitseret i
de farer, der skriver, at den teknologiske udvikling ikke har været modsvaret
ved udvikling i menneskelige værdier og samvittighed.
“Økonomien
accepterer, at ethvert fremskridt i teknologi med henblik på at vinde, uden at
bekymring for dens potentielt negative effekt på mennesker,” skrev han.
Den
paven siger, med sin særlige myndighed, hvad mange andre er
at sige disse dage: – Maskiner er ikke et mål i sig selv. Husk
mennesker.
Dekanen for det digitale skilt sig ud, er Jaron Lanier. Han er en
musiker, komponist, kunstner og pioner inden for virtual reality headset
at give brugeren mulighed for at opleve computer-genereret 3D-miljøer.
Men det han er mest kendt for er hans kritik af den computer kultur
han var med til at skabe.
Han mener, at Silicon Valley behandler mennesker
som elektriske relæer i en stor maskine. Selv om han stadig arbejder i
teknologi, han i høj grad har vendt sig imod hans stamme.
“Jeg er den første fyr til at blive ædru efter en heavy-duty part”, hvor han beskriver sig selv.
Han
findes typisk på hjem i Californien i Berkeley Hills,
dreje i en stol foran en computer skærm og en musikalsk
synthesizer. Direkte bag ham er en vintage Wurlitzer gyldne harpe.
Lyde og violiner, der hænger ned fra loftet. Dette er hans hjem, kontor og mand
hulen.
Lanier, 55, er en mand af stor omkreds og
ekstraordinær hår. Han har dreadlocks, at hans talje. Han har ikke klippe sin
hår i mindst 30 år, og siger, at han ikke ved, hvordan man gå om det.
Når en besøgende, som tyder på, at han kunne se en frisør, svarer han, i sin
sædvanlige skingre, singsong stemme: “jeg kender ikke dette begreb. Er der en
ny start-up?”
Lanier ‘ s humanistiske tage på teknologi, der kan spore
tilbage til hans tragiske barndom: Han var 9, da hans mor blev dræbt i en
bilulykke i El Paso. Han har senere erfaret, at ulykken kan have
dette skyldes en teknisk fejl i bilen.
“Det har helt klart påvirket min tænkning om den korrekte forhold mellem mennesker og maskiner,” sagde han.
Ved
14-årig, han var ved at tage college klasser på New Mexico State University.
Han færdiggjorde aldrig sin uddannelse fra højere læreanstalt, som ikke gjorde noget, da han havnede i
Silicon Valley, design af computerspil. Han startede en
firma, der har solgt virtual-reality headset, men den foldede selskab. I
2000, da han lavede sin første store skridt som en digital dissenter, når han
offentliggjort et essay, “den Ene Halvdel af et Manifesto”, der begyndte med en bold
erklæring:
“De sidste tyve år, jeg har fundet mig selv på
indersiden af en revolution, men på ydersiden af sine strålende dogmer.
Nu, at revolutionen ikke blot ramte mainstream, men gennemtæskede
det til underkastelse ved at tage over økonomien, er det nok tid til
mig til at græde ud i min uenighed mere højlydt end jeg havde før.”
Lanier
senere skrev to bøger beklage den måde, at alle væsentlige værker for
Facebook, Google, osv., ved at fodre materiale i de centrale
processorer og dreje private liv til noget selskaber kan
tjene penge. Han vil gerne se folk kompenseres for deres data i form
af mikrobetalinger.
Andre tech kritikere har kastet deres øjne på
det begreb, dog. Taylor, som for eksempel frygt for, at mikrobetalinger
ville skabe et incitament for folk til at sende klik-agn materiale. Dumme
stunts – “Holde min øl, og se dette” – ville være potentielt
omsættelige.
Lanier ‘ s bredeste argument er, at den teknologiske
ændringen indebærer valg. Dårlige beslutninger vil låse os ind i dårlige systemer. Vi
i fællesskab besluttede, for eksempel, at handel vores privatliv gratis
Internet service.
“Det er et valg. Det er ikke uundgåelige,” siger han.
Lanier
fortalte sin 8-årige datter for nylig: “I vores samfund, at der er to
veje til succes: den Ene er at være god til computere og den anden er at være en
sociopat.”
Hun er en smart pige, og ved, hvad “sociopat”:
sagde han. Og han forstår karakteren af denne verden, at han har hjulpet
opfinde. Det er derfor, denne sommer sendte han sin datter til en software
programmering lejren.
Meget af dagens tech miljø opstod fra
the stone roses – hackere og hippier i 1960’erne og ’70’erne, der
set den personlige computer som et redskab til befrielse. Men den politiske
venstre har nu en mere kompliceret, jaundiced forhold til den digitale
verden.
Den samme teknologi, som sætter personer og aktivere
demonstranter til at organisere også gøre det muligt for regeringerne at udspionere
deres borgere. Hvad bruges til at være en telefon, ser nu ud til at mange mennesker kan lide en
tracking-enhed.
Så er der spørgsmålet om, hvem der er at tjene penge.
Progressive er rystet over den ufatteligt overskud af de store tech
virksomheder. Venstre noterer sig også, at køn og race forskelle
i tech-virksomheder, og i anledning af en techno-elite.
De fleste
smertefuldt for progressive har været anledning af “sharing economy,”
som de i første omgang taget til sig. De føler det, som om idéen var stjålet
fra dem, og perverteret til noget, der gør ondt arbejdstagere.
De
sige, at virksomheder som Uber, Airbnb, TaskRabbit og Amazon
Mechanical Turk er at skabe en “koncert økonomi” – én, der, selv om det
tilbyder kunder komfort og rimelige priser, er bygget på
freelancere og entreprenører, der mangler indkomst eller job beskyttelse af
funktionærer. (Amazon grundlægger Jeffrey P. Bezos, en investor i
Uber og Airbnb, der ejer The Washington Post.)
“Hvad var faktureret som
“deling” var faktisk ” udtræk,’ ” sagde Nathan Schneider, en
journalist og co-arrangør af den nylige konference om Ny Skole
cooperative platforme. “Det viste sig at være en måde at fralægge os labor love
og udvinding af ressourcer tilbage til investorerne og opbygning af monopoler.”
Han
talte ved en reception i slutningen af den to-dages konference. Den
arrangementet var en stor succes, med et opmærksomt publikum pakning panelet
diskussioner. Disse mennesker er forpligtet til at genopfinde Internettet.
“Historien om den Internettet har været en skuffelse efter skuffelse,” sagde Schneider.
Som
Schneider talte, Astra Taylor stod et par meter væk, holder retten med
venner og allierede. Taylor er høj, med slående træk, der giver
hende en kommanderende tilstedeværelse. Hun var født til at være en tech-kritiker. Hun var ikke
undervist hjemme, hun var “unschooled.” Hendes forældre i Athens, Ga, sætte hende
ansvaret for sin uddannelse. I en alder af 13, som hun har skabt sin egen avis
med en miljøforkæmper bøjet. Hun brændte med en følelse af højre og
forkert. “Jeg var en alvorlig barn,” siger hun overbevisende.
Hun siger, at
hun havde lyst til at se mere offentligt støttede medier platforme – tænk
offentlig radio – og mere håndfaste regler for at bevare de digitale kraftcentre
bliver monopoler. Taylor er skeptiske over for den figur, der
information ønsker at være fri; faktisk er, siger hun, information ofte
ønsker nogen at betale for det.
Internettet, sagde hun, lidt ligesom
en ven, der trænger til at blive glattet ud. Hun forestiller sig, at give den
Internet en taler-til: “Du kender, Internet, vi har kendt dig i lang
tid og vi synes, du er ikke lever op til dit potentiale. Du holder
laver de samme fejl.”
Det sidste arrangement på den Nye Skole
konferencen bød på en stemwinder af et foredrag af en person, Taylor mener, at en
mentor: Douglas (“jeg er på Team Menneske!”) Rushkoff.
Rushkoff, hvis
kommende bog med titlen “at Kaste Sten på Google Bus,” forudsat, at en
primer on the rise of capitalism, centralbanker og den industrielle kultur.
Han foreslog, at civilisation i gang med at lave forkerte valg, i Midten
Aldre. Centraliseret valuta – ikke godt. I de tidlige dage, hver
fællesskabet kan have sit eget møntsystem. Vi er nødt til at “genfødsel værdier
peer-to-peer-bazaar kultur.”
Vokser kraftigere og mere livlig som sine foredrag, der gik på, at han talte om behovet for at “optimere økonomien for mennesker.”
“Hvor
gør mennesker passer ind i denne nye økonomi?” sagde han. “Virkelig ikke som skabere
af værdi, men som indhold. Vi er indholdet. Vi er data. Vi
er medierne. Når du bruger en smartphone, din smartphone bliver klogere,
men du får dummere.”
Taylor, Rushkoff, Lanier og andre tech
skeptikere kan endnu ikke danne en organiseret, sammenhængende bevægelse. De er mere
som et forbund af gadflies. Selv Pave Frans ‘ s tanker om
teknologi i vid udstrækning blev tabt midt i sin overskrift, som fanger synspunkter om
klimaændringer.
Andrew Keen, forfatter af “Internettet er Ikke Det
Svar,” lyder en mut bemærk, når vi taler om, hvad den teknologiske
modstand kan udrette.
“Ingen nogensinde har hørt om Astra Taylor,” sagde han.
Han
ikke ensbetydende med, at som en fornærmelse. Han gjorde et punkt om hele
besætningen af afvigere. Ingen, sagde han, har nogensinde hørt om Andrew Keen,
enten.
Verden er ikke ved at gå tilbage til stenalderen, på
fald ikke frivilligt. En milliard mennesker kan bruge Facebook på en given
dag. Jaron Lanier kan ikke lide den måde, de store virksomheder skrabe værdi
fra vores liv, men det er folk, der deltager i dette system villigt –
hvis det er måske ikke helt klar over, hvad der sker med deres data.
Taylor ‘ s
smartphone med revnet skærm klart har været i kraftig brug. Hun
ved disse gadgets er vanedannende af design – “ligesom Las Vegas slot
maskiner i vores lommer.” Men hun har også problemer med at leve uden.
“Jeg har brug for at lære at slå det fra,” sagde hun.
Den
verdens spookiest filosof, er Nick Bostrom, en tynd, blød talt
Svensker. Af alle de mennesker bekymrede løbske kunstig intelligens,
og Killer Robotter, og muligheden for en teknologisk dommedag,
Bostrom tryller de mest ekstreme scenarier. I hans sind, det menneskelige
udryddelse kunne bare være begyndelsen.
Bostrom favorit
apokalyptisk hypotetiske indebærer en maskine, der er blevet programmeret til at
gøre papirclips (selv om nogen verdslige produkt vil gøre). Denne maskine
med tiden bliver smartere og mere kraftfulde, men aldrig udvikler menneskelige
værdier. Det opnår “superintelligens.” Det begynder at konvertere alle typer
almindelige materialer til papir klip. Til sidst beslutter sig for at henvende
alt på Jorden, herunder den menneskelige race (!!!) – i papir klip.
Derefter går det interstellare.
“Du
kunne have en superintelligens, hvis eneste mål er at gøre så mange papir
klip som muligt, og du får denne boble af papir klip spredning
gennem universet,” Bostrom roligt fortalte et publikum i Santa Fe, New
Mexico, tidligere i år.
Han tilføjede, at han bevarer sin tone underdrivelse, “jeg tror, det ville være en lav værdi i fremtiden.”
Bostrom s
underliggende bekymringer om maskinen intelligens, utilsigtede konsekvenser
og potentielt ondsindede computere er gået mainstream. Du kan ikke
deltage i en teknologi-konference i disse dage uden nogen at bringe op
A. I. angst. Det svæver over tech samtale med
skingre jamren af 1950’erne-æra Hollywood flyvende tallerken.
Mennesker
vil fortælle dig, at selv Stephen Hawking er bekymrede over det. Og Regningen
Gates. Og at Elon Musk gav $10 millioner til forskning om, hvordan at holde
machine intelligence under kontrol. Det er alt sammen sandt.
Hvordan dette
kom om er lige så meget en historie om, media relations, som det handler om
den teknologiske forandring. Maskinerne ikke er på nippet til at tage over.
Dette er et emne fyldt med spekulationer og måske en snert af hysteri.
Men
diskussionen afspejler en bredere sandhed: Vi lever i en tidsalder, hvor
machine intelligence er blevet en del af hverdagen. Computere flyve
fly og snart vil køre biler. Computer-algoritmer forventer, at vores
behov og beslutte, hvilke reklamer der skal vise os. Maskinerne skaber nyheder
historier uden menneskelig indgriben. Maskiner kan genkende dit ansigt i en
mængden.
Nye teknologier – herunder gensplejsning og
nanoteknologi – er cascading på en anden og konvergerende. Vi har endnu ikke
vide, hvordan dette vil spille ud. Men nogle af de mest alvorlige tænkere på
Jorden bekymre dig om potentielle farer – og spekulerer på, om vi fortsat være fuldt ud
kontrol af vores opfindelser.
Science fiction pioneer Isaac
Asimov forudset disse problemer, da han begyndte at skrive om robotter i
1940’erne. Han udviklede regler for robotter, den første var: “En
robot må ikke skade et menneske eller gennem passivitet, tillade, at et menneske
at komme til skade.”
Folk taler stadig om Asimov ‘ s regler. Men de taler endnu mere om, hvad de kalder “the Singularity.”
Den
idé datoer at mindst 1965, da den engelske matematiker og
kode-breaker I. J. God skrev, “En ultraintelligent maskine kan design
endnu bedre maskiner, så ville der uden tvivl være en
‘intelligens eksplosion,” og den intelligens, man ville være langt til venstre
bag”.
I 1993, science fiction forfatter Vernor Vinge brugt
udtrykket “Singulariteten” til at beskrive sådan et øjeblik. Opfinder og forfatter
Ray Kurzweil løb med den idé, cranking ud af en serie af bøger
at forudsige en alder af intelligente, åndelige maskiner.
Kurzweil,
nu en director of engineering hos Google, omfatter en sådan fremtid; han er
måske den mest berømte af techno-utopians, for han mener, at
teknologiske fremskridt vil munde ud i en fusion af menneske og maskine
intelligens. Vi vil alle blive “transhuman.”
Om nogen af denne
faktisk vil ske, er genstand for en robust debat. Bostrom understøtter
forskning, men bekymringer, at der er tilstrækkelige beskyttelsesforanstaltninger er ikke på plads.
Forestil dig,
Bostrom siger, at den menneskelige ingeniører programmerede maskiner til at aldrig
skade mennesker – et ekko af den første af Asimov ‘ s robot love. Men
maskiner kan beslutte, at den bedste måde at adlyde skade-ikke-mennesker
kommandoen ville være at forhindre, at nogen mennesker fra nogensinde at blive født.
Eller
forestil dig, Bostrom siger, at superintelligent maskiner er programmeret til at
sikre, at uanset hvad de gør, vil få mennesker til at smile. De kan derefter
beslutter, at de skal implantere elektroder i ansigtets muskler
alle mennesker til at holde os smilende.
Bostrom siger ikke, at dette vil
ske. Disse er tænkt eksperimenter. Hans kæmpe-billede idé er, at
bare i de seneste par hundrede år, vi har set forbløffende ændringer
i den menneskelige befolkning og økonomisk velstand. I Bostrom ‘ s opfattelse, vores
den moderne eksistens er en anomali – skabt en høj grad af teknologi. Vores
værktøjer har pludselig overvældet af de begrænsninger, der af naturen. Vi er i
afgift nu, eller synes at være for øjeblikket.
Men hvad nu, hvis den teknologi, der bider tilbage?
Der
en anden Svensker i denne historie, og endda mere end Bostrom, han er
personer, der kører samtalen. Hans navn er Max Tegmark. Han er en
karismatiske 48-årige professor i fysik afdeling på
Massachusetts Institute of Technology. Han er også grundlægger af noget
kaldet the Future of Life Institute, som har været at uddele Elon
Musk er penge til forskning på at gøre A. I. sikrere.
Tegmark er
noget af en fysik radikale, den slags videnskabsmand, der mener, at der
kan være andre universer som ikke kun hastigheden af lys og tyngdekraft
er forskellige, men det matematiske fundament for virkeligheden er
forskellige. Tegmark og Bostrom er intellektuel allierede. I Tegmark s
seneste bog, “Vores Matematiske Univers: Min Søgen efter den Ultimative
Natur af Virkeligheden,” skriver han om mødet Bostrom på en konference i
2005 i Californien:
“Efter nogle gode vine, vores samtale drejede
til dommedagsscenarier. Kunne Large Hadron Collider skabe en
miniature sort hul, der ville ende med at hugge op Jorden? Kunne det
oprette en ‘strangelet”, der kan katalysere omdannelsen af Jorden i
strange quark matter?”
I tillæg til at tage den
hvad-kan-gå-galt spørgsmål alvorligt, Tegmark og Bostrom underholde
optimistiske scenarier. Måske de siger, at Jorden er den eneste planet i
univers, der rummer intelligent liv. Vi har en chance for at tage dette
overraskende fænomen af intelligens og bredte det ud til stjernerne – hvis vi
må ikke ødelægge os selv først med løbske teknologi.
“Fremtiden
er vores form. Jeg føler, at vi er i et kapløb om at vi er nødt til at vinde. Det er en
race mellem den voksende strøm af teknologi og voksende visdom
vi er nødt til at forvalte det. Lige nu, næsten alle de ressourcer, der har en tendens til at gå
i stigende magt tech,” Tegmark sagde.
I April 2014,
33 mennesker samledes i Tegmark hjem for at diskutere eksistentielle trusler fra
teknologien. De besluttede sig for at danne den Fremtidige Liv Institut. Det ville
har ikke betalt medarbejdere. Tegmark overtalt til, at mange berømtheder i
verdener for videnskab, teknologi og underholdning for at føje deres navne til
af den årsag. Skype-stifter Jaan Tallinn, undertegnet den som en co-grundlægger. Skuespillere
Morgan Freeman og Alan Alda tiltrådte bestyrelsen.
Tegmark
samle en op-ed om de potentielle farer ved maskinen
intelligens, foring op tre navnkundige forfattere: Nobelpristageren
fysiker Frank Wilczek, kunstig intelligens-forsker Stuart
Russell, og det største navn i videnskaben, Stephen Hawking. Hawking ‘ s
berømmelse er som middagssolen vask ud hver anden stjerne på himlen, og
Tegmark vidste, at op-ed ville betragtes som et orakels
erklæring fra den fysiker.
Det stykke, der løb i
Huffington Post, og i den Uafhængige i Storbritannien, var en kort, breezy
– tarmkanalen, at der indgår en tutorial på idéen om Singulariteten og en
forfærdet over konklusion, at eksperter ikke tager truslen om løbske
A. I. alvorligt. A. I., forfatterne skrev, er “potentielt den bedste eller
værste nogensinde til at ske for menneskeheden.”
“Stephen Hawking Siger, A. I. Kunne Være Vores” Værste Fejl I Historien,’ ” en online-science news site rapporteret.
Og CNBC erklærede: “Kunstig intelligens kunne ende menneskeheden: Hawking.”
Så der fik alles opmærksomhed.
Tegmark s
næste træk var at organisere en off-the-record konference af store tænkere
at diskutere, A. I., Mens Boston-området, gik ind i en dyb fryse i januar
af dette år, vil omkring 70 forskere og akademikere, ledet af Tegmark,
indkaldes i Puerto Rico for at diskutere den eksistentielle trussel af maskinen
intelligens. Deres model var den historiske konference om rekombinant DNA
forskning, der blev afholdt i Asilomar, Californien, i 1975, hvilket resulterede i nye
sikkerhedsforanstaltninger til gen-splejsning.
Moskus, grundlæggeren af Tesla og
SpaceX, sluttede sig til gruppen i Puerto Rico. På den sidste aften af
konferencen, han lovede $10 millioner til forskning på at sænke truslen
fra A. I.
(Se også: Elon Musk Ryggen Kunstig Intelligens Non-Profit OpenAI Med $1 Milliard)
“Med kunstig intelligens, er vi tilkalde dæmonen,” Moskus havde sagt tidligere, en linje, der sendes Twitter ind i en tizzy.
I
de måneder, der fulgte, 300 forskere, der sendte forslag til
måder at sænke A. I. trussel. Tegmark siger instituttet har tildelt 37
tilskud til en værdi af $7 millioner (omkring Rs. 46 crorer).
Reality check. Mere end et halvt århundrede
af forskning i kunstig intelligens har endnu til at producere noget
ligner en bevidst, overlagt maskine. Vi har stadig kontrollere dette
teknologien. Vi kan fjerne det.
Lige ned Vassar Gade fra
Tegmark ‘s kontor er MIT’ s datalogi og Kunstig Intelligens
Laboratorium, hvor robotter er aplenty. Daniela Rus, direktør, er en
opfinder, der bare nuppe 25 millioner dollar (omkring Rs. 165 crorer) i støtte fra Toyota til at udvikle en
bil, der aldrig vil blive involveret i en kollision.
Er hun bekymret for, om Singulariteten?
“Det kommer sjældent op,” Rus sagde. “Det er bare ikke noget, jeg tænker over.”
Med
et par undtagelser, mest på fuld tid, A. I. forskere mener, at
Bostrom-Tegmark frygt er for tidligt. Et bredt gentagne observation er
at det er ligesom at bekymre sig om overbefolkning på Mars.
Rus
påpeger, at robotter er bedre end mennesker på knasende numre og
løft af tunge byrder, men mennesker er stadig bedre på fine, adrætte bevægelser,
for ikke at nævne kreative, abstrakt tænkning.
“De fremskridt, der er ikke
har været så stabil, som folk siger, og maskinen færdigheder er virkelig langt
fra at være klar til at matche vores kompetencer,” sagde hun. “Der er opgaver, der
er meget let for mennesker – at rydde dit bord til middag, læsning
opvaskemaskine, rydde op på dit hus – det er overraskende svært for
maskiner.”
Rus gør et punkt om selvkørende biler: De kan ikke
bare køre hvor som helst. De har brug for præcise kort og relativt forudsigelig
situationer. Hun mener for eksempel, at de ikke kunne håndtere
Washington, DC Dupont Circle.
I Dupont Circle, køretøjer og
fodgængere klare sig vej frem gennem en række interpersonelle
signaler om, at en maskine kunne ikke fortolke, sagde hun. Selvkørende biler
kæmpe med tunge trafik, sagde hun, og endda regn og sne er en
problemet. Så forestille sig, at forsøge at forstå, håndbevægelser fra vej besætninger
og andre bilister.
“Der er for meget gang i den,” Rus sagde. “Vi
har ikke de rigtige følere og algoritmer til at karakterisere meget hurtigt
hvad sker der i et bymæssigt område, og til at beregne, hvordan de skal reagere.”
Den
fremtiden er indædt skumle, når det kommer til teknologi, de smarteste
mennesker på planeten, der ikke kan se, hvad der kommer. For eksempel, mange af
store vismænd i den moderne æra ikke forventer, at computere ville
få mindre snarere end større.
Alle, der leder efter noget at
bekymre sig om i den nærmeste fremtid måske vil overveje det modsatte af
superintelligens: superstupidity.
I vores mere og mere
teknologisk samfund, vi er afhængige af komplekse systemer, der er sårbare over for
fejl i komplekse og uforudsigelige måder. Deepwater oliekilder kan blæse
ud og tage måneder at blive igen. Atomreaktorer kan smelte
ned. Raketter kan eksplodere. Hvordan kan intelligente maskiner mislykkes – og hvordan
katastrofal kan disse fejl være?
Ofte er der ingen
person, der forstår præcis, hvordan disse systemer fungerer eller fungerer
på ethvert givet tidspunkt. Kaste i elementer af autonomi, og ting kan gå
forkert hurtigt og katastrofalt.
Dette var tilfældet med “flash
crash” i børsen i 2010, hvor, dels på grund af automatiseret,
ultra-hurtig handel programmer, Dow Jones industrial average faldt
næsten 1.000 point inden for minutter, før den igen stiger.
“Hvad vi er
gøre hver eneste dag i dag producerer super dumme enheder, der gør
fejl,” argumenterer for, Boris Katz, en anden kunstig intelligens-forsker
på MIT.
“Maskiner er farlige, fordi vi giver dem også
meget magt, og vi giver dem magt til at agere i forhold til sanseindtryk.
Men disse regler er ikke helt tænkt igennem, og så nogle gange
maskinen vil fungere på den forkerte måde,” sagde han.
“Men ikke fordi det ønsker at dræbe dig.”
En
levende legende af A. I. felt og MIT fakultet er Marvin Minsky’,
88, der hjalp med at grundlægge området i 1950’erne. Det var hans generation, der
sætte os på denne vej til en alder af smarte maskiner.
Minsky’, tildeling
et interview i stuen i sit hjem et par miles fra campus,
blinkede en skælmske smil, når de bliver spurgt om de farer af intelligente
maskiner.
“Jeg formoder, at du kunne skrive en bog om, hvordan de vil redde os,” sagde han. “Det bare afhænger af, hvilke farer der vises.”
Den
A. I. debat er tilbøjelige til at forblive viklet ind i usikkerhed og
spekulation. I teorien, som det oprindelige Huffington Post op-ed erklærede,
der er ingen teoretisk grænse for, machine intelligence – “ingen fysisk lov
den er til hinder for, at partikler fra at være organiseret på måder, der klarer sig endnu mere
avancerede beregninger end de ordninger, som af partikler i menneskelig
hjerner.”
Men den akademiske og videnskabelige virksomhed er ikke overbevist om, at A. I. er en overhængende trussel.
Tegmark
og hans Fremtidige Liv allierede besluttede i sommer for at tage på en relateret
men mere presserende problem: den trussel af autonome weaponized maskiner.
Tegmark
sammen med Stuart Russell, den kunstige intelligens, som forskeren på
i et åbent brev, der opfordrede til et forbud mod sådanne våben. Igen, de fik
Hawking til at underskrive det, sammen med Moskus, Bostrom, og omkring 14.000 andre
forskere og ingeniører. På juli 28, de formelt fremlagt brev
på et A. I. konference i Buenos Aires.
Russell sagde, at det tog ham
for fem minutters søgning på Internettet for at finde ud af, hvordan en meget lille robot –
en microbot kunne bruge en formet afgift for at “sprænge huller i folks
hoveder.” En microrifle, sagde han, kunne bruges til at “skyde deres øjne ud.”
“Du ville
har stort levering af skibe, der ville dumpe millioner af små flyvende
køretøjer, sandsynligvis i endnu insekt-størrelse, er det mindste du kunne komme væk
med, og stadig dræbe et menneske,” Russell sagde.
Efter Nick
Bostrom ‘ s foredrag i Santa Fe, der blev afholdt i New Mexico Skole for
Døve, gik han til en bog-signing begivenhed for hele byen ved Skolen for
Avanceret Forskning. Hans bog er en omhyggeligt begrundet, temmelig tæt
– tarmkanalen med titlen, “Superintelligens: Stier, Farer, Strategier.”
Bostrom,
stående på kanten af en gård, der blev afholdt tilbage i en lille klynge af
part gæster. Da han satte sig ned i en time lange interview. Reserveret,
intenst fokuseret på hans ideer, den 42-årige Bostrom syntes
bekymret for, om hans ideer kunne blive fuldt ud forstået af nogen,
der er ikke en akademisk filosof. Han blev distraheret af muligheden
som en myg, eller flyve, eller nogle af disse insekt havde invaderet hans glas vand.
Spurgte
hvis der var noget, han ønsker nu, at han havde gjort anderledes i forbindelse med hans
bog, han sagde, at han burde have været klart, at han støtter skabelsen af
superintelligens. Ikke overraskende er de fleste læsere glemte det vigtigste punkt.
“Jeg
tror faktisk det ville være en kæmpe tragedie, hvis maskinen superintelligens
blev aldrig udviklet,” sagde han. “Det ville være et svigt for vores
Jorden oprindelse, intelligent civilisation.”
I hans opfattelse, at vi har en
chance for at gå galaktiske – eller endda intergalaktiske – med vores intelligens.
Bostrom, som Tegmark, er meget opmærksomme på, at den menneskelige intelligens indtager en
meget lille plads i grand ordningen af ting. Jorden er en lille
rock, der kredser om en almindelig stjerne på en af spiralarmene af en galakse
med hundredvis af milliarder af stjerner. Og mindst et tocifret milliardbeløb i
galakser snurre rundt i hele det kendte univers.
Kunstig intelligens,
Bostrom sagde, “er den teknologi, der låser op for denne meget større plads i
muligheder, muligheder, der gør det muligt for ubegrænset plads
kolonisering, der gør det muligt at uploade menneskelige sind ind i computere, der
gør det intergalaktiske civilisationer med mega-størrelse sind, der lever
for milliarder af år.”
Der er en bizar rynke i Bostrom s
tænkning. Han mener, at en overlegen civilisation ville have væsentlige
uendelig datakraft. Disse superintelligent maskiner kunne gøre
næsten alt, herunder skabe simulerede universer, der omfatter
programmer, der netop efterligne den menneskelige bevidsthed, fyldt med minder
af en persons historie – selv om alt dette ville være helt
fremstillet af software, uden at i den virkelige verden, den fysiske manifestation.
Bostrom
går så langt som til at sige, at hvis vi ikke udelukke muligheden for, at en
maskinen kunne skabe en simulering af den menneskelige eksistens, må vi antage,
at det er overvejende sandsynligt, at vi bor i sådan en
simulering.
“Jeg er ikke sikker på at jeg ikke allerede i en maskine,” sagde han roligt.
© 2015 Washington Post
Download Gadgets 360 app til Android og iOS til at holde dig ajour med de seneste tech nyheder, produkt
anmeldelser og eksklusive tilbud på de populære mobiler.