Astra Taylor ‘ s iPhone har en sprucken skärm. Hon har bandagerade det med
klart packtejp och planer på att använda telefonen tills den faller sönder.
Hon föremål för planerad föråldring av dagens prylar, och att de
hur stor tech företag trycket kunder att uppgradera.
Taylor, 36,
är en dokumentär filmare, musiker och politisk aktivist. Hon är också
en ny stjärna i världen av teknik kritik. Hon är inte
paranoid, men hon håller silvertejp över kameralinsen på hennes laptop
datorn, eftersom, som alla vet, dessa prylar kan tas över
med brottsliga medel av alla slag.
Taylor är en 21: a århundradet digital
dissenter. Hon är en av de många technophiles missnöjd med den
tekniska revolutionen har spelat ut. Politiskt progressiva en gång omfamnade
den utopiska löfte om Internet som en demokratiserande kraft, men
de har varit förfärade av ökningen av den “övervakningsstat,” och
nära-monopolisering av digitala plattformar av stora företag.
Sista
månad, Taylor och mer än 1 000 aktivister, forskare och tekniker
samlades vid New School i New York för en konferens för att prata
om uppfinna Internet. De drömmer om ett co-op-modellen: människor
att förhandla direkt med varandra utan att behöva gå igenom en
data-sugande företagets nav.
“De mäktiga definitivt inte vill ha
oss för att starta saker, och de kommer att gå till stora ansträngningar för att stoppa oss från
gör så, och de kommer att använd brute force eller de kommer att använda byråkrati”
Taylor varnade conferees vid utgången av den två dagar långa mötet.
Vi behöver en rörelse, sade hon, “som säger nej till den rådande ordningen.”
Den
oliktänkande har ingen lätt uppgift. Vi är i en ny Maskin Ålder. Maskinen
intelligens och digitala sociala nätverk är nu inbäddade i den grundläggande
infrastrukturen i den utvecklade världen.
Mycket av detta är objektivt
bra och lustfyllt och tillåtande. Vi tenderar att gilla våra produkter, vår
sociala medier, vår dator spel. Vi vill att våra anslutning. Vi gillar
att kunna veta nästan allting, eller handla impulsivt,
genom att skriva några ord i en sökmotor.
Men det är denna
skugga berättelsen är skriven på samma gång. Det är en passionerad, om
fortfarande anmärkningsvärt oorganiserad, motstånd till den digitala anläggningen.
Techno-skeptiker,
eller vad du vill kalla dem – “humanisterna” kan vara det bästa sikt –
känsla av att mänskliga behov är att gå vilse i den tekniska frenzy, som det
prioriteringar har vänts upp och ner. De har en känsla av att det är för
mycket fokus på att se till att nya innovationer kommer att vara bra för
– maskiner.
“Jag är på Team Människa!” författaren Douglas Rushkoff kommer att säga vid ingående av ett föredrag.
Du
skulle kunna fylla en högskola kursplan med böcker att förespråka någon form av
tekniska motstånd. Starta klass med “Du Är Inte en Gadget”
(Och Jaron Lanier), gå vidare till “Internet Är Inte Svaret” (Andrew
Skarpt), och sedan, för att skrämma eleverna dumt, “Vår Sista Uppfinning:
Artificiell Intelligens och Slutet av den Mänskliga Eran” (James Barrat).
Någonstans
i mixen bör vara Astra Taylor ‘ s “The People’ s Platform: Ta Tillbaka
Makt och Kultur i den Digitala Tidsåldern”, en klar-eyed omprövning av
Internet och nya medier.
Av de otaliga kritik av dator
kultur, en av de vanligaste är att företag blir rika av
våra personliga data. Våra tankar, vänskap och grundläggande uppmanar finns
behandlas av algoritmer och säljs till annonsörer. Maskiner
får snart veta mer om oss än vi vet om oss själva.
Att
information är värdefull. En frekvent hån är att på Facebook, vi är inte
kunder, vi är handelsvaror. Eller för att uttrycka det på ett annat sätt: Om
tjänsten är kostnadsfri, du är produkten.
Vissa digitala oliktänkande
är inte inriktade på ekonomiska frågor, men bara på den typ av
människa-maskin-interaktion. Detta är en fråga som vi alla förstår
intuitivt: Vi är ständigt distraheras. Vi går runt med våra ögon
kasta ner på våra enheter. Vi är sällan helt närvarande överallt.
Andra
kritiker är oroliga av erosion av sekretess. Den Förstörda
uppenbarelser orsakat en utbredd rädsla för statlig övervakning. Att
debatten har varit komplicerat av terroristattackerna i Paris och San
Bernardino, eftersom nationella säkerhetstjänsten säger att terrorister har
utnyttjas nya typer av krypterade sociala medier.
Vissa avfällingar
tror att tekniken är en drivkraft för ekonomisk ojämlikhet. Det är graven
oro för att robotar tar jobben för människor. Och roboten fråga
leder oundvikligen till de mest apokalyptiska rädsla: att maskinen intelligens
kunde springa bort från sin mänskliga uppfinnare, lämnar oss förslavade – eller ännu värre
– av de maskiner som vi har skapat.
Tekniska skepsis är inte ny.
Platon berättade om en kung som protesterade uppfinnandet av skrivkonsten,
att säga att det skulle försvaga hans folks minne och “implantat i glömska
deras själar.”
Men något annat är på gång just nu och det
helt enkelt har att göra med hastigheten. Den första kommersiella webbläsare hit
marknaden 1994. Google kom 1998. Twitter dök upp i 2006,
och iPhone 2007. Facebook-grundaren Mark Zuckerberg är alla av 31
år gamla.
Vår teknik i dag är så nya att vi inte har haft tid
att förstå hur att använda den klokt. Vi har inte riktigt lärt sig hur man
stoppa oss från att skicka sms och bilkörning, många av oss frestade att knacka på
ut ytterligare en bokstav även om vi är på väg 75 på motorvägen.
Vissa
länder med aggressiva åtgärder för att reglera ny teknik. Den
Sydkoreanska regeringen har beslutat att spel är så beroendeframkallande att det
behandlas på samma sätt som en drog eller alkohol problem. Under tiden,
Europeiska Unionens lagstiftning “Rätten att Bli Glömd” tvingar företag som
Google och Yahoo för att ta bort generande material från sökmotorer
resultat om de så begär.
Washingtons politiska
inrättandet har dock uppskjuten till Silicon Valley. Tech
världen snett frihetliga och inte vill ha mer statlig övervakning och
förordningar.
En av de tekniskt världens främsta förespråkare i Washington
är Robert Atkinson, vd för it &
Innovation Foundation, som tar emot cirka två tredjedelar av sin finansiering
från tech företag.
Atkinson är en gänglig, talföra man som låter
uppretad av att stiga i vad han anser vara neo-Luddite tänkande.
(“Luddite” är en term, som har anor från tidigt 19th century, uppkallad efter en
skumma karaktär som heter Ned Ludd, som inspirerade textilarbetare att krossa
mekaniska vävstolar.)
Han oroade sig för att böcker av människor som Astra
Taylor kommer att skapa en tanke smitta som kommer att infektera Washington
det politiska beslutsfattandet. Enligt hans uppfattning finns det två typer av Luddites:
gammaldags hand-wringers som är skrämd av något nytt och
innovativ, och den “mjuka” Luddites – att han skulle sätta Taylor i att
kategori – som säger att de tar till sig tekniken men vill gå långsammare, med
mer Europeisk stil och förordningar.
“Det är framväxten av mjuk
Luddites att jag är rädd om, eftersom det har blivit eliten
konventionella visdomen i många utrymmen,” Atkinson sagt.
Men han kan
vara orolig för tidigt. En Senaten för att reglera självstyrande bilar
gick just ingenstans. Det är inte som om människor marscherar på
Washington att kräva att lagstiftare adress den själv-kör-bil hot.
Den
tekniska motstånd är inte begränsat till facklitteratur och polemik. Skönlitteratur
författare är att plocka upp tråden, ofta upplåning från George Orwell
och hans dystopiska mästerverk, “1984.”
Till exempel, Gary
Shteyngart “Super Sad True Love Story” är en berättelse om människor som kämpar
för att hitta kärlek och mänsklighet i en värld av Big Brother-liknande övervakning,
samhälleliga sammanbrott och allt grova sociala normer. Romanen
har prylar som tillåter människor att gradera en annan numeriskt på
deras sexuella attraktionskraft. Inte osannolikt: Ett start-up företag
nyligen meddelat att man planerar att marknadsföra en app som gör det möjligt för användare att
priser alla på en 1 till 5-skala, utan deras samtycke. (Efter rasande
protester från hela Internet, tillskyndarna ändrat sin plan för att
har bara positiva omdömen.)
Dave Eggers bok “Cirkeln”
berättar om en stigande stjärna på ett Google-liknande företag. Hon utmärker sig genom att svara
tusentals e-postmeddelanden om dagen, arbetar på en frenetisk takt. Hon bor med en
kamera runt halsen som strömmar allt hon ser på
Internet. Detta innebär inte att gå bra för henne.
Och det är en ny röst
bland de oliktänkande: Påven Franciskus. Påven senaste encyklika “På
Hand om Vårt Gemensamma Hem”, undrar den blandade välsignelser
– teknik. Efter att erkänna underverk av modern teknik (“Som
kan förneka skönhet av ett luftfartyg eller en skyskrapa?”), Francis skissade
de faror, som skriver att den tekniska utvecklingen har inte matchats
genom utveckling i mänskliga värden och samvete.
“Ekonomin
accepterar varje framsteg i teknik med syfte att vinna, utan att
oro för dess eventuella negativa inverkan på människor”, skrev han.
Den
påven säger, med sin särskilda auktoritet, vad många andra är
att säga i dessa dagar: – Maskiner är inte ett slut på sig själva. Kom ihåg
människor.
Dekanus för den digitala oliktänkande är Jaron Lanier. Han är en
musiker, kompositör, artist och pionjär av virtuell verklighet headset
att tillåta användaren att uppleva datorgenererade 3D-miljöer.
Men vad han är mest känd för är hans kritik av datorn kultur
han hjälpte till att skapa.
Han anser att Silicon Valley behandlar människor
som elektriska reläer i en stor maskin. Även om han fortfarande är verksam i
teknik, han i stor utsträckning har vänt sig mot sin stam.
“Jag är den första killen att nyktra till efter en tung fest” är hur han beskriver sig själv.
Han
kan vanligtvis hittas hemma i California Berkeley Hills,
vridbar i en stol framför en dator skärm och en musikalisk
synthesizer. Direkt bakom honom är en vintage Wurlitzer gyllene harpa.
Psaltare och violiner hänger från taket. Detta är hans hem, kontor och man
cave.
Lanier, 55, är en man av stor omkrets och
extra hår. Han har dreadlocks till midjan. Han har inte klippa hans
hår under minst 30 år och säger att han inte vet hur man ska gå tillväga.
När en besökare som tyder på att han kunde se en frisör, svarar han, och i hans
vanliga högfrekvent, enformig röst: “jag vet inte det begreppet. Är som en
nya start-up?”
Lanier är humanistisk ta på teknik kan spåra
tillbaka till hans tragiska barndom: Han var 9 när hans mamma dog i en
bilolycka i El Paso. Han fick senare veta att olyckan kan ha
orsakats av ett tekniskt fel i bilen.
“Det definitivt påverkat mitt tänkande om det korrekta förhållandet av människor och maskiner”, sade han.
Av
14 års ålder var han med college klasser vid New Mexico State University.
Han tog aldrig examen från college, som inte gjorde något när han hamnade i
Silicon Valley, designa dataspel. Han började till slut en
företaget som sålde virtual-reality-headset, men företaget lagt sig. I
2000 gjorde han sin första stora drag som en digital dissenter när han
publicerade en essä, “En och en Halv Manifesto” som började med en fet
förklaring:
“Under de senaste tjugo åren, har jag funnit mig själv på
insidan av en revolution, men på utsidan av dess strålande dogm.
Nu när revolutionen har inte bara drabbat de traditionella, men nerklubbad
den till underkastelse genom att ta över ekonomin, det är nog dags för en
mig för att ropa ut mitt missnöje mer högljutt än vad jag gjort innan.”
Lanier
senare skrev två böcker och klagar över hur alla i huvudsak arbetar för
Facebook, Google, etc., genom att mata in materialet i de centrala
processorer och vrida eget liv till något företag som kan
tjäna pengar på. Han vill se människor kompenseras för sina data i form
för mikrobetalningar.
Andra tech kritiker har rullade sina ögon på
det begreppet, dock. Taylor, till exempel, en rädsla för att mikrobetalningar
skulle skapa ett incitament för människor att skicka klicka på bete material. Dum
stunts – “Håll min öl, och titta på det här” – skulle kunna
marknadsmässiga.
Lanier bredaste argument är att den tekniska
förändring handlar om val. Dåliga beslut kommer att låsa in oss i dåliga system. Vi
kollektivt beslutat, till exempel att handla vår integritet gratis
Internet-service.
“Det är ett val. Det är inte oundvikliga”, säger han.
Lanier
berättade för sin 8-åriga dotter nyligen: “I vårt samhälle finns det två
vägar till framgång: Ett är att vara bra på datorer och den andra är att vara en
sociopat.”
Hon är en smart tjej och vet vad “sociopat” innebär,
sade han. Och han förstår naturen av denna värld, som han har hjälpt
uppfinna. Det är därför den här sommaren sände han sin dotter till en programvara
programmering camp.
Mycket av dagens teknisk miljö uppstått från
den motkultur – hackare och hippies från 1960-och 70-talet som
ses den personliga datorn som ett verktyg för frigörelse. Men den politiska
vänster har nu en mer komplicerad, jaundiced relation med den digitala
världen.
Samma teknik som möjliggör för individer och aktivera
demonstranter för att organisera också göra det möjligt för regeringar att spionera på
deras medborgare. Vad som brukade vara en telefon ser nu att många människor tycker om en
tracking enhet.
Då det är frågan om vem som är att tjäna pengar.
Progressiva är bestört över den häpnadsväckande vinster av den stora tech
företag. Vänster noterar också kön och ras-skillnader
i tech-företag, och uppkomsten av en techno-elit.
De flesta
smärtsamt för progressiva har ökningen av “att dela ekonomin”
som de ursprungligen hade anammat. De känner sig som om tanken var stulen
från dem och förvridits till något som gör ont arbetstagare.
De
säga att företag som Uber, Airbnb, TaskRabbit och Amazon
Mechanical Turk är att skapa ett “gig ekonomin” – en som, även om det
erbjuder kunder bekvämlighet och rimliga priser, är byggd på
frilansare och entreprenörer som saknar inkomst eller jobb skydd av
tjänstemän. (Amazon grundaren Jeffrey P. Bezos, en investerare i
Uber och Airbnb, äger Washington Post.)
“Vad var faktureras som
“dela med sig “faktiskt ” utvinning”, säger Nathan Schneider, en
journalisten och medarrangör av den senaste tidens Nya Skola konferens på
kooperativa plattformar. “Det visade sig vara ett sätt att smita undan arbetsrätt
och utvinna resurser tillbaka till investerare och bygga monopol.”
Han
talade vid en mottagning i slutet av den två-dagars konferens. Den
evenemanget var en stor framgång, med en uppmärksam publik packning panelen
diskussionerna. Dessa människor är fast beslutna att uppfinna Internet.
“Historien om Internet har varit en besvikelse efter besvikelse,” Schneider sagt.
Som
Schneider talade, Astra Taylor stod några meter bort, håller hov med
vänner och allierade. Taylor är lång, med slående att ge
hennes pondus. Hon var född till att vara en tech kritiker. Hon var inte
hemundervisning, hon var “unschooled.” Hennes föräldrar i Athens, Ga., sätta henne
i ansvar för sin utbildning. Vid 13 års ålder, skapade hon en egen tidning
med en miljöaktivist böjda. Hon brändes med en känsla för rätt och
fel. “Jag var en allvarlig barn”, säger hon, på ett övertygande sätt.
Hon säger
hon skulle vilja se mer av regeringen-stödda media plattformar – tror
offentliga radio – och mer robusta regler att hålla de digitala eldsjälar
från att bli monopol. Taylor är skeptisk till den trop som
information vill vara fri, faktiskt, säger hon, information ofta
vill ha någon att betala för det.
Internet, sade hon, är lite som att
en vän som behöver rätas ut. Hon föreställer sig att ge
Internet ett samtal: “Du vet, Internet, vi har känt dig under en lång
tid och vi tror att du inte lever upp till din potential. Du håller
att göra samma misstag.”
Den sista händelsen i den Nya Skolan
konferensen innehöll en stemwinder av ett tal av någon som Taylor anser att en
mentor: Douglas (“jag är på Team Människa!”) Rushkoff.
Rushkoff, vars
kommande bok med titeln “att Kasta Stenar på Google Buss,” under förutsättning att ett
primer på uppkomsten av kapitalismen, centralbanker och industriell kultur.
Han föreslog att civilisationen började göra fel varv i Mitten
Åldrar. Centraliserad valuta – inte bra. I de tidiga dagarna, varje
gemenskapen kunde ha sina egna mynt. Vi behöver “pånyttfödelse värden
peer-to-peer-bazaar kultur.”
Växer mer och mer livligt som hans föreläsning gick på, talade han om behovet av att “optimera ekonomin för människor.”
“Där
göra människor passar in i denna nya ekonomi?” sade han. “Verkligen inte som skapare
av värde, men som innehållet. Vi är innehållet. Vi är data. Vi
är media. När du använder en smartphone, din smartphone blir smartare,
men du får dummare.”
Taylor, Rushkoff, Lanier och andra tekniska
skeptiker göra ännu inte utgör en organiserad, sammanhängande rörelse. De är mer
som en konfederation av gadflies. Även Påven Francis tankar om
tekniken var i stort sett förlorat bland sina rubriker åsikter om
klimatförändringen.
Andrew Keen, författare av “Internet är Inte Det
Svaret,” låter som en dyster när man talar om vad den tekniska
motstånd kan åstadkomma.
“Ingen har någonsin hört talas om Astra Taylor,” sade han.
Han
inte menar det som en förolämpning. Han gör en punkt om hela
besättningen på oliktänkande. Ingen, sade han, har någonsin hört talas om Andrew Keen,
antingen.
Världen är inte på väg att gå tillbaka till stenåldern, på
åtminstone inte frivilligt. En miljard människor kan använda Facebook på en given
dag. Jaron Lanier kanske inte gillar sättet de stora företagen skrapa värde
från våra liv, men människor deltar i det systemet gärna –
om det kanske inte är helt medvetna om vad som händer med deras uppgifter.
Taylor
smartphone med sprucken skärm tydligt har varit i flitigt bruk. Hon
vet dessa prylar är beroendeframkallande av design – “som Las Vegas slot
maskiner i våra fickor.” Men hon har också svårt att leva utan en.
“Jag måste lära mig att stänga av den,” sade hon.
Den
världens läskigaste filosofen Nick Bostrom, en tunn, mjuk-talat
Svensken. Av alla människor orolig om skenande artificiell intelligens,
och Killer Robotar, och möjligheten av en teknisk domedagen,
Boström väcker den mest extrema scenarier. I hans sinne, mänskliga
utrotning kan vara bara början.
Boström favorit
apokalyptiska hypotetiskt innebär att en maskin som har programmerats för att
gör gem (även om alla vardagliga produkt kommer att göra). Denna maskin
blir smartare och mer kraftfull, men aldrig utvecklar mänskliga
värden. Det uppnår “superintelligens.” Det börjar att konvertera alla typer
vanliga material i gem. Så småningom bestämmer sig för att vända
allt på Jorden – inklusive den mänskliga rasen (!!!) – i gem.
Sedan går det interstellära.
“Du
kunde ha en superintelligens vars enda mål är att göra så många papper
klipp som möjligt, och du får denna bubbla av gem sprida
genom universum,” Boström lugnt sagt en publik i Santa Fe, New
Mexiko, tidigare i år.
Han tillade, att upprätthålla sin ton av underdrift, “jag tror att det skulle vara ett lågt värde i framtiden.”
Bostrom är
underliggande oro om artificiell intelligens, oavsiktliga konsekvenser
och potentiellt illvilliga datorer har gått mainstream. Du kan inte
delta i en konferens i dessa dagar utan att någon föra upp
A. I. ångest. Det svävar över tech konversation med
högfrekvent gnälla av 1950-talet Hollywood flygande tefat.
Människor
kommer att berätta att även Stephen Hawking är orolig för det. Och Bill
Gates. Och att Elon Musk gav $10 miljoner för forskning om hur
maskinen intelligens under kontroll. Allt som är sant.
Hur detta
kom ungefär är lika mycket en berättelse om media relations som det handlar om
teknisk förändring. Maskinerna är inte på väg att ta över.
Detta är ett ämne som idel spekulationer och kanske en doft av hysteri.
Men
diskussionen reflekterar en bredare sanningen: Vi lever i en tid där
maskinen intelligens har blivit en del av vardagen. Datorer flyga
plan och snart kommer att driva bilar. Algoritmer och förutse våra
behov och besluta vilka annonser att visa oss. Maskiner skapar nyheter
berättelser utan mänsklig inblandning. Maskiner kan känna igen ditt ansikte i en
publiken.
Ny teknik – inklusive genteknik och
nanoteknik – strömmar på varandra och närmar sig varandra. Vi behöver inte
vet hur det kommer att spela. Men några av de mest seriösa tänkare på
Jorden oroa dig om potentiella faror – och undrar om vi förblir fullt
i kontroll av våra uppfinningar.
Science fiction-pionjär Isak
Asimov förväntade dessa frågor när han började skriva om robotar i
1940-talet. Han utvecklade regler för robotar, av vilka den första var: “En
robot får inte skada en människa eller, genom passivitet, låta en människa
som att komma till skada.”
Folk pratar fortfarande om Asimov ‘ s regler. Men de prata ännu mer om vad de kallar “the Singularity.”
Den
tanken datum till minst 1965, när Brittiska matematiker och
kod-breaker I. J. Bra skrev, “En ultraintelligent maskinen kan design
ännu bättre maskiner; det skulle då utan tvekan vara en
“intelligens explosion,” och människans intelligens skulle finnas kvar långt
bakom”.
I 1993, science fiction-författaren Vernor Vinge använt
begreppet “Singulariteten” för att beskriva ett sådant ögonblick. Uppfinnare och författare
Ray Kurzweil sprang med tanken, slänga ut en serie böcker
att förutsäga ålder av intelligenta, andliga maskiner.
Kurzweil,
nu en director of engineering på Google, omfamnar en sådan framtid; han är
den kanske mest berömda av techno-utopians, för han anser att
den tekniska utvecklingen kommer att kulminera i en fusion mellan människa och maskin
intelligens. Vi kommer alla att bli “transhuman.”
Om något av detta
som faktiskt kommer att ske är föremål för robust debatt. Boström stöder
forskning, men oroar sig för att tillräckliga skyddsåtgärder är inte på plats.
Tänk dig,
Boström säger, att de mänskliga ingenjörer programmerade maskiner att aldrig
skadar människor – ett eko av den första av Asimov ‘ s robot lagar. Men
maskiner kan besluta att det bästa sättet att lyda skada-inte-människor
kommando skulle vara att förhindra människor från att någonsin vara född.
Eller
tänk, Boström säger att superintelligenta maskiner är programmerade att
se till att allt de gör kommer att göra människor leende. De kan då
bestämmer att de ska implantera elektroder i ansiktsmusklerna av
alla människor för att hålla oss med ett leende.
Boström säger inte detta kommer
hända. Dessa är tankeexperiment. Hans stora bilden uppfattning är att,
bara under de senaste par hundra åren har vi sett häpnadsväckande förändringar
i den mänskliga populationen och ekonomiskt välstånd. I Boström anser att vår
moderna existens är en anomali – en skapad till stor del av tekniken. Vår
verktyg har plötsligt överväldigad begränsningar av naturen. Vi är i
ladda nu, eller verkar vara för tillfället.
Men vad händer om den teknik som biter tillbaka?
Det
är en andra Svensk i historien, och ännu mer än Boström, han är
person som kör konversation. Hans namn är Max Tegmark. Han är en
karismatiska 48-årig professor i partikelfysik vid
Massachusetts Institute of Technology. Han är även en av grundarna av något
kallas Framtiden för Life Institute, som har varit att dela ut Elon
Musk pengar för forskning på att göra A. I. säkrare.
Tegmark är
något av en fysik radikal, den typ av forskare som tror att det
kan vara andra universa som inte bara ljusets hastighet och allvar
finns olika men de matematiska grunderna för verkligheten är
olika. Tegmark och Boström är intellektuella allierade. I Tegmark s
senaste bok, “Våra Matematiska Universum: Min Strävan efter den Ultimata
Typ av Verkligheten”, skriver han om mötet Boström vid en konferens i
2005 i Kalifornien:
“Efter några bra vin, vårt samtal vände
att domedagsscenarier. Kunde Large Hadron Collider skapa en
miniatyr svart hål som skulle sluka upp Jorden? Kan det
skapa en ” strangelet som katalyserar omvandlingen av Jorden till
konstigt quark för roll?”
Förutom att ta
vad-kan-gå-fel frågor på allvar, Tegmark och underhålla Boström
optimistiska scenarier. Kanske, säger de, att Jorden är den enda planeten i
universum som hamnar intelligent liv. Vi har en chans att ta detta
häpnadsväckande fenomenet intelligens och sprida det till stjärnorna – om vi
inte förstöra oss själva först med skenande teknik.
“Framtiden
är vår att forma. Jag känner att vi är i ett lopp som vi behöver för att vinna. Det är en
race mellan den växande strömmen av tekniken och den växande visdom
vi måste hantera det. Just nu, nästan alla resurser tenderar att gå
i växande makt tech,” Tegmark sagt.
I April 2014,
33 personer samlades i Tegmark hem för att diskutera existentiella hot från
– teknik. De bestämde sig för att bilda den Framtida Liv Institutet. Det skulle
har ingen avlönad personal. Tegmark övertalade många celebriteter i
världar av vetenskap, teknik och underhållning för att lägga till sitt namn till
orsak. Skype-grundaren Jaan Tallinn, undertecknades den som en co-grundare. Skådespelare
Morgan Freeman och Alan Alda gick med i styrelsen.
Tegmark
sätta ihop en op-ed om de potentiella farorna med maskin
intelligens, foder upp tre lysande medförfattare: nobelpristagare
fysikern Frank Wilczek, artificiell intelligens forskaren Stuart
Russell, och det största namnet inom vetenskap, Stephen Hawking. Hawking är
berömmelse är som solen tvätta ut alla andra stjärnor i himlen, och
Tegmark visste att op-ed skulle ses som en oracular
uttalande från fysiker.
Pjäsen, som sprang i
Huffington Post och i de Oberoende i Storbritannien, var en kort, blåsigt
– tarmkanalen som ingår en handledning om idén om det Unika och
förfärad slutsatsen att experter inte tar hotet om skenande
A. I. allvar. A. I., författarna skrev, är “potentiellt bästa eller
värsta någonsin att hända med mänskligheten.”
“Stephen Hawking Säger A. I. Kunde Vara Vår Värsta Misstag I Historien,’ ” en online science news webbplats som redovisas.
Och CNBC förklarade: “Artificiell intelligens skulle kunna innebära slutet för mänskligheten: Hawking.”
Så det fick allas uppmärksamhet.
Tegmark s
nästa steg var att organisera en off-the-record-konferensen av stora tänkare
för att diskutera A. I. Medan Boston-området gick in i en djup frysa i januari
i år, cirka 70 forskare och akademiker, som leds av Tegmark,
som samlades i Puerto Rico för att diskutera existentiella hot av maskinen
intelligens. Deras modell var den historiska konferensen om rekombinant DNA
forskning som hölls i Asilomar, Kalifornien, år 1975, vilket resulterade i nya
skyddsåtgärder för gen skarvning.
Mysk, grundare av Tesla och
SpaceX, gick med i gruppen i Puerto Rico. På den sista natten av
konferens, lovade han, $10 miljoner för forskning på att sänka hot
från A. I.
(Se även: Elon Musk Ryggen Artificiell Intelligens Icke-Vinstdrivande OpenAI Med $1 Miljard)
“Med artificiell intelligens, som vi kalla den demon,” Mysk hade sagt tidigare, en linje som skickas Twitter i en tizzy.
I
de månader som följde, 300 lag av forskare skickat förslag till
olika sätt att sänka A. I. hot. Tegmark säger institutet har tilldelats 37
bidrag värt $7 miljoner euro (ungefär Rs. 46 crores).
Reality check. Mer än ett halvt sekel
forskning om artificiell intelligens har ännu inte lagt fram något
liknar en medveten, uppsåtlig maskinen. Vi har fortfarande kontroll denna
– teknik. Vi kan koppla bort det.
Bara nedför Gatan från Vassar
Tegmark kontor är MIT: s Computer Science and Artificial Intelligence
Laboratorium, där robotar läskigheter. Daniela Rus, direktör, är en
uppfinnare som bara tog 25 miljoner dollar (ungefär Rs. 165 crores) i finansiering från Toyota att utveckla en
bilen som aldrig kommer att vara inblandade i en kollision.
Är hon orolig för den Singularitet?
Det är sällan kommer upp,” Rus sagt. “Det är bara inte något jag tycker om.”
Med
ett par undantag, de flesta på heltid A. I. forskare tror att den
Boström-Tegmark rädsla är för tidigt. En ofta upprepad observation är
att det är som att oroa om överbefolkning på Mars.
Rus
påpekar att robotar är bättre än människor på sifferanalyser och
tunga lyft, men människor är fortfarande bättre på fina, smidiga rörelser,
för att inte tala kreativa, abstrakt tänkande.
“Utvecklingen har inte
varit så stadig som folk säger, och maskinen färdigheter är verkligen långt
från att vara redo att matcha vår kompetens”, säger hon. “Det är uppgifter som
är mycket lätt för människor att rensa ditt matbord, lastning
diskmaskin, städar upp ditt hus – det är förvånansvärt svårt för
– maskiner.”
Rus som gör en fråga om självstyrande bilar: De kan inte
kör precis var som helst. De behöver exakta kartor och relativt förutsägbara
situationer. Hon tror, till exempel, att de inte kunde hantera
Washington, DC: s Dupont Circle.
I Dupont Circle, fordon och
fotgängare hanka sig fram genom en mängd olika interpersonella
signaler om att en maskin inte kunde tolka, sade hon. Självstyrande bilar
kämpar med tung trafik, sade hon, och även regn och snö är en
problem. Så föreställ er att förstå gester från road crews
och andra förare.
“Det är för mycket som händer,” Rus sagt. “Vi
inte har rätt sensorer och algoritmer för att karakterisera mycket snabbt
vad händer i ett överbelastat område, och för att beräkna hur de kommer att reagera.”
Den
framtiden är oförsonlig skumma när det gäller teknik, smartaste
människor på planeten misslyckas med att se vad som kommer. Till exempel, många av
stora vise i modern tid inte räknar med att datorer skulle
få mindre snarare än större.
Den som letar efter något att
oroa dig i en nära framtid kanske vill överväga motsatsen till
superintelligens: superstupidity.
I vår allt mer
teknologiska samhället, vi är beroende av komplexa system som är känsliga för
fel i komplexa och oförutsägbara sätt. Deepwater oljekällor kan blåsa
ut och ta månader att återförslutas. Kärnkraftsreaktorer kan smälta
ner. Raketer kan explodera. Hur kan intelligenta maskiner misslyckas – och hur
katastrofala skulle de vara fel?
Ofta är det inte en
person som förstår exakt hur dessa system fungerar eller fungerar
vid varje givet ögonblick. Kasta i delar av autonomi, och saker och ting kan gå
fel snabbt och katastrofalt.
Så var fallet med “flash
krasch” på aktiemarknaden under 2010, när, delvis på grund av automatiserad,
ultra-snabb handel program, Dow Jones industrial average sjönk
nästan 1 000 poäng inom minuter innan den studsade.
“Vad vi är
gör varje dag för idag är att producera super dum enheter som gör
misstag,” menar Boris Katz, en annan artificiell intelligens forskare
på MIT.
“Maskinerna är farliga eftersom vi ger dem också
mycket makt, och vi ger dem makt att agera i svar sensorisk input.
Men dessa regler är inte helt genomtänkt, och sedan ibland
maskinen kommer att fungera på fel sätt”, sade han.
“Men inte för att den vill döda dig.”
En
levande legend av A. I. området och MIT fakulteten är Marvin Minsky,
88, som hjälpte hittade området på 1950-talet. Det var hans generation som
satte oss på den här vägen till en ålder av smarta maskiner.
Minsky, beviljande
en intervju i vardagsrummet i hans hem några kilometer från campus,
blixtrade en okynniga leende när vi frågar om de faror som är intelligent
– maskiner.
“Jag antar att du skulle skriva en bok om hur de ska rädda oss,” sade han. “Det beror bara på vilka faror uppstå.”
Den
A. I. debatten är sannolikt att förbli trassla in och osäkerhetsfaktorer
spekulationer. I teorin, så att ursprungliga Huffington Post op-ed anges,
det finns ingen teoretisk gräns för maskin intelligens – “inga fysiska lag
hinder för partiklar från organiseras på ett sätt som gör ännu mer
avancerade beräkningar än de arrangemang av partiklar i mänskliga
hjärnor.”
Men den akademiska och vetenskapliga etablissemanget är inte övertygad om att A. I. är ett överhängande hot.
Tegmark
och hans Framtida Liv allierade bestämde mig i somras för att ta en närstående
men mer akut fråga: hotet från den autonoma weaponized maskiner.
Tegmark
tillsammans med Stuart Russell, artificiell intelligens forskare, på
ett öppet brev kräver ett förbud mot sådana vapen. Återigen, de fick
Hawking att underteckna det, tillsammans med Mysk, Boström, ca 14.000 andra
forskare och ingenjörer. Den 28 juli, de formellt presenterade brev
på en A. I. konferens i Buenos Aires.
Russell sa att det tog honom
fem minuter efter det att söka på Internet för att räkna ut hur mycket liten robot –
en microbot – kan använda en formad laddning för att “blåsa hål i människors
huvuden.” En microrifle, sade han, skulle användas för att “skjuta deras ögon.”
“Du skulle
har stor leverans fartyg som skulle dumpa miljontals små flygande
fordon, förmodligen även insekt-storlek, de minsta du kan få bort
med, och fortfarande döda en människa,” Russell sa.
Efter Nick
Boström föreläser i Santa Fe, som hölls i New Mexico School
Döva, gick han till en bok-signering event över hela stan på Skolan för
Avancerad Forskning. Hans bok är en noggrant motiverade, ganska tät
– tarmkanalen titeln, “Superintelligens: Vägar, Faror, Strategier.”
Boström,
stående vid kanten av en innergård, höll ut i en liten samling av
part gäster. Sedan satte han sig ner för en timme långa intervjun. Reserverad,
intensivt fokuserad på hans idéer, den 42-åriga verkade Boström
orolig för huruvida hans idéer kan vara fullt gripas av någon
vem är inte en akademisk filosof. Han var distraherad av möjligheten
som en mygga eller fluga, eller någon sådan insekt hade invaderat hans glas vatten.
Bett
om det var något som han nu önskar att han hade gjort annorlunda med hans
boka, han sa att han borde ha varit tydlig med att han stöder inrättandet av
superintelligens. Föga förvånande att de flesta läsare har missat att viktig punkt.
“Jag
tror faktiskt att det skulle vara en stor tragedi om maskinen superintelligens
var aldrig utvecklas”, sade han. “Det skulle vara ett misslyckande läge för vår
Jorden-med ursprung intelligent civilisation.”
Enligt hans uppfattning är att vi har en
chans att gå galaktiska – eller ens intergalaktiska – med vår intelligens.
Boström, som Tegmark, är mycket medveten om att den mänskliga intelligensen ligger i en
minimala utrymme i den stora tingens ordning. Jorden är ett litet
rock kretsar kring en vanlig stjärna på en av spiralarmarna i en galax
med hundratals miljarder stjärnor. Och minst tiotals miljarder
galaxer snurra i hela det kända universum.
Artificiell intelligens,
Boström sade, “är den teknik som låser upp denna mycket större utrymme för
möjligheter, möjligheter som möjliggör obegränsat utrymme
kolonisation, som möjliggör uppladdning av mänskliga sinnen in i datorer, som
gör intergalaktiska civilisationer med planeternas storlek sinnen levande
för flera miljarder år.”
Det är en bisarr rynka i Boström s
tänkande. Han tror att en överlägsen civilisation skulle ha huvudsak
oändlig datorkraft. Dessa superintelligenta maskiner kan göra
nästan vad som helst, inklusive att skapa simulerat universum som inkluderar
program för att exakt efterlikna det mänskliga medvetandet, fylld med minnen
om en persons historia – även om allt detta skulle vara helt
tillverkad av programvara, utan verkliga, fysiska manifestation.
Boström
går till och med så långt som att säga att om vi inte utesluta möjligheten av att en
maskinen kan skapa en simulering av den mänskliga existensen, att vi bör anta
att det är oerhört sannolikt att vi lever i en sådan
simulering.
“Jag är inte säker på att jag inte redan i en maskin,” sade han lugnt.
© 2015 Washington Post
Ladda ner Prylar 360 app för Android och iOS för att hålla dig uppdaterad med de senaste tekniska nyheterna, produkt
recensioner och exklusiva erbjudanden på populära mobiler.