Astra Taylors iPhone har en sprukket skjerm. Hun har bind for det med
klart pakking tape og planlegger å bruke telefonen til det går i oppløsning.
Hun objekter til planlagt foreldelse av dagens utstyr, og til
måten de store tech selskaper press kundene å oppgradere.
Taylor, 36,
er en dokumentarfilmskaper, musiker og politisk aktivist. Hun er også
en kommende stjerne i verden av teknologi kritikk. Hun er ikke
paranoid, men hun holder duct tape over kameralinsen på sin bærbare pc
datamaskin – fordi, som alle vet, disse gadgets kan bli tatt over
ved nefarious agenter av alle slag.
Taylor er en 21. århundre digital
dissenter. Hun er en av de mange technophiles misfornøyd med måten
tech-revolusjonen har spilt ut. Politisk progressive gang omfavnet
den utopiske løfte av Internett som en demokratisk kraft, men
de har blitt skuffet av fremveksten av “overvåking staten,” og
i nærheten-monopolization av digitale plattformer av store selskaper.
Siste
måned, Taylor og mer enn 1000 aktivister, forskere og teknologikyndige
samlet på New School i New York Byen for en konferanse for å snakke
om å gjenoppfinne Internett. De drømmer om en co-op-modell: mennesker
arbeider direkte med hverandre uten å måtte gå gjennom en
data-suger corporate hub.
“Den kraftige definitivt ikke vil
oss til å starte ting, og de vil gå til store anstrengelser for å stoppe oss fra
å gjøre det, og de vil bruke brute force eller de vil bruke byråkrati,”
Taylor advarte conferees ved utgangen av de to-dag på sesjon.
Vi trenger en bevegelse, sa hun, “som sier nei til den eksisterende orden.”
Den
dissentere har ingen enkel oppgave. Vi er i en ny Maskin Alder. Maskin
intelligens og digitale sosiale nettverk er nå integrert i den grunnleggende
infrastrukturen i den utviklede verden.
Mye av dette er objektivt
god og behagelig og myndiggjøring. Vi har en tendens til å like våre enheter, vår
sosiale medier, vår dataspill. Vi ønsker at våre tilkobling. Vi liker
å være i stand til å vite nesten alt og alt, eller handle impulsivt,
ved å skrive noen få ord i en søkemotor.
Men det er denne
shadow fortellingen blir skrevet på samme tid. Det er en lidenskapelig, hvis
fortsatt bemerkelsesverdig uorganisert, motstand mot digital etablering.
Techno-skeptikere,
eller hva du vil kalle dem, “humanister” kan være det beste uttrykket –
følelse av at menneskelige behov er å bli mistet i tech vanvidd, at
prioriteringene har blitt snudd opp-ned. De føler at det er for
mye fokus på å sørge for at nye innovasjoner vil være et gode for
maskiner.
“Jeg er på Lag!” forfatteren Douglas Rushkoff vil si ved avslutningen av en prat.
Du
kunne fylle en college pensum med bøker espousing noen form for
teknologiske motstand. Start klasse med “Du Er Ikke en Gadget”
(Jaron Lanier, går du videre til “Internett Er Ikke Svaret” (Andrew
Opptatt av), og deretter, for å skremme elevene dum, “Vår Siste Oppfinnelse:
Kunstig Intelligens og Slutten på Menneskets Tidsalder” (James Barrat).
Et eller annet sted
i blandingen bør være Astra Taylor ‘ s “The People’ s Plattform: å Ta Tilbake
Kraft og Kultur i den Digitale Tidsalder,” en klar-eyed revurdering av
Internett og nye medier.
Av de utallige kritikken av datamaskinen
kultur, en av de mest vanlige er at selskapene er å bli rik av
vår personlige data. Våre tanker, vennskap og grunnleggende drifter er
behandlet av datamaskinen algoritmer og selges til annonsører. Maskinene
snart kan få vite mer om oss enn vi vet om oss selv.
At
informasjonen er verdifull. En hyppig gibe er at på Facebook, vi er ikke
kundene, og vi er av den varer. Eller for å si det på en annen måte: Hvis
tjenesten er gratis, du er produktet.
Noen digitale dissentere
ikke fokusert på den økonomiske problemer, men rett og slett på arten av
menneske-maskin interaksjon. Dette er et problem vi alle forstår
intuitivt: Vi blir stadig distrahert. Vi går rundt med våre øyne
kastet ned på våre enheter. Vi er sjelden fullt til stede overalt.
Andre
kritikere er bekymret for erosjon av personvern. Edward Snowden
avsløringene utløste en utbredt frykt for regjeringen overvåking. At
debatten har vært komplisert av terrorangrepene i Paris og San
Bernardino, fordi nasjonal sikkerhet tjenestemenn sier terrorister har
utnyttet nye typer kryptert sosiale medier.
Noen dissentere
tror teknologien er å drive økonomisk ulikhet. Det er grav
bekymringer som roboter er å ta jobber med mennesker. Og roboten problemet
fører uunngåelig til de mest apokalyptiske frykter: at maskinen intelligens
kan stikke av fra sin menneskelige oppfinnere, forlater oss enslaved – eller verre
– av maskinene vi opprettet.
Teknologiske skepsis er ikke noe nytt.
Platon fortalte historien om en konge som protesterte oppfinnelsen av å skrive,
og sier at det ville svekke hans folks minne og “implantat glemsomhet i
deres sjeler.”
Men det er noe annet som skjer nå, og det
har rett og slett å gjøre med hastighet. Den første kommersielle nettleseren hit
markedet i 1994. Google kom i 1998. Twitter dukket opp i 2006,
og iPhone i 2007. Facebook-grunnlegger Mark Zuckerberg er alle 31.
år gamle.
Vår teknologi i dag er så nytt at vi ikke har hatt tid
for å forstå hvordan de kan bruke det klokt. Vi har ikke helt lært å
stoppe oss selv fra tekstil og kjøring, og mange av oss blir fristet til å trykke
ut én bokstav, selv om vi kommer 75 på motorveien.
Noen
land tar aggressive tiltak for å regulere nye teknologier. Den
Sør-koreanske regjeringen har besluttet at gaming er så avhengighetsskapende at det
bør behandles på samme måte som et stoff eller alkohol problem. I mellomtiden,
den Europeiske Union law “Retten til å Bli Glemt” tvinger selskaper som
Google og Yahoo til å fjerne pinlig materiale fra søkemotor
resultater hvis du blir bedt om å gjøre det.
Washingtons politiske
etablering, men har i stor grad utsatt til Silicon Valley. Tech
verden går skjevt libertarian og ikke ønsker mer offentlig tilsyn og
forskrifter.
En av tech verdens fremste talsmenn i Washington
er Robert Atkinson, president i informasjonsteknologi &
Innovasjon Foundation, som mottar om lag to tredeler av sin finansiering
fra tech selskaper.
Atkinson er en hengslete, voluble mann som lyder
oppgitt over av økningen i hva han anser for å være neo-Luddite tenkning.
(“Luddite” er et begrep som kan dateres til tidlig i det 19. århundre, oppkalt etter en
mørk figur som heter Ned Ludd, som er inspirert tekstil arbeidstakere til å knuse
mekaniske vevstoler.)
Han er bekymret for at bøker av folk som Astra
Taylor vil opprette en tanke smitte som vil infisere Washington
policymaking. I hans syn, er det to typer av Luddites:
gammeldags hånd-wringers som er skremt av noe nytt og
nyskapende, og “myke” Luddites – han ville sette Taylor i at
kategori – som sier de tar imot teknologien, men ønsker å gå langsommere, med
mer Europeisk stil forskrifter.
“Det er fremveksten av myk
Luddites at jeg er bekymret, fordi det har blitt elite
konvensjonell visdom i en rekke områder,” Atkinson sa.
Men han kan
bli bekymret for tidlig. En Senatet regningen for å regulere selvkjørende biler
gikk nettopp ingensteds. Det er ikke som om folk er marsjerer på
Washington til å kreve at lovgivere adresse selv-kjører bilen trussel.
Den
teknologiske motstand er ikke begrenset til faglitterære polemikk. Fiksjon
forfattere er å plukke opp tråden, ofte lånt fra George Orwell
og dystopiske mesterverk, “1984.”
For eksempel, Gary
Shteyngart “Super Sad True Love Story” er en fortelling om mennesker som sliter
finne kjærlighet og menneskelighet i en verden av Big Brother-som overvåking,
samfunnets sammenbrudd og stadig grov sosiale normer. Romanen
har gadgets som tillater folk å rangere en annen numerisk på
deres seksuelle attraktivitet. Ikke usannsynlig: En start-up selskap
nylig annonsert sin plan til marked, en app som ville gjøre det mulig for brukerne
pris alle på en 1-til-5 skala, uten deres samtykke. (Etter rasende
protest fra hele Internett, støttespillere endret sin plan for å
inkluderer bare positive anmeldelser.)
Dave Eggers ‘ s roman “Sirkel”
forteller om en stigende stjerne på en Google-som selskap. Hun utmerker seg ved å svare
tusenvis av e-poster om dagen, arbeider i et frenetisk tempo. Hun bor sammen med en
kameraet rundt halsen som streamer alt hun ser på
Internett. Dette ikke går bra for henne.
Og det er en ny stemme
blant de frafalne: Pave Francis. Den paven nylig pavelige “På
Ta godt vare på Vårt Felles Hjem” vurderer blandet velsignelser
teknologi. Etter å erkjenne marvels av moderne teknologi (“Hvem
kan nekte skjønnheten i et fly eller en skyskraper?”), Francis skisserte
farene, skriver at teknologisk utvikling har ikke blitt matchet
ved utvikling av menneskelige verdier og samvittighet.
“Økonomien
aksepterer hvert fremskritt i teknologi med utsikt til fortjeneste, uten
bekymring for sin potensielt negativ innvirkning på mennesker,” skrev han.
Den
paven sier, med sin spesielle myndighet, hva mange andre er
sa disse dager: Maskiner er ikke et mål i seg selv. Huske
mennesker.
Dekan ved det digitale dissentere er Jaron Lanier. Han er en
musiker, komponist, utøver og pioneer av virtual-reality-hodetelefoner
som tillater brukeren å oppleve datamaskin-genererte 3D-miljøer.
Men det han er mest kjent for er hans kritikk av datamaskinen kultur
han bidro til å skape.
Han mener at Silicon Valley behandler mennesker
som elektriske releer i en enorm maskin. Selv om han fortsatt jobber i
teknologi, er han i stor grad har vendt seg mot sin stamme.
“Jeg er den første fyren til å nøktern opp etter en heavy-duty party” er hvordan han beskriver seg selv.
Han
kan vanligvis bli funnet i sitt hjem i California Berkeley Hills,
svingende i en stol foran en pc-skjerm og en musikalsk
synthesizer. Rett bak ham er en vintage Wurlitzer gylne harpe.
Lyder er og fioliner henge fra taket. Dette er hans hjemmekontor og mann
grotten.
Lanier, 55, er en mann av betydelig omfang og
ekstraordinære hår. Han har dreadlocks til livet. Han har ikke kuttet sine
håret i minst 30 år, og sier han ikke ville vite hvordan du skal gå om det.
Når en besøkende som tyder på at han kunne se en frisør, svarer han, i sin
vanlige high-pitched, singsong stemme: “jeg vet ikke at begrepet. Er det en
ny start-up?”
Lanier er humanistisk ta på teknologi som kan spore
tilbake til hans tragisk barndom: Han var 9 da hans mor ble drept i en
bilulykke i El Paso. Han fant senere ut at ulykken kan ha
blitt forårsaket av en teknisk feil i bilen.
“Det definitivt påvirket min tenkning om den riktige forholdet mellom mennesker og maskiner,” sa han.
Av
14 år, ble han tar college klasser på New Mexico State University.
Han har aldri ble uteksaminert fra college, som spilte ingen rolle når han endte opp i
Silicon Valley, designe dataspill. Han fikk etter hvert i gang en
selskapet som solgte virtual-reality-hodetelefoner, men selskapet kastet. I
2000, gjorde han sin første store trekk som en digital dissenter når han
publisert et essay, “En Halv Manifest”, som begynte med en fet
erklæring:
“De siste tjue år, har jeg funnet meg selv på
innsiden av en revolusjon, men på utsiden av sin strålende dogme.
Nå som revolusjonen har ikke bare rammet mainstream, men bludgeoned
det til underkastelse ved å ta over økonomien, er det sannsynligvis på tide for
meg til å rope ut min dissens mer høylytt enn jeg har gjort før.”
Lanier
senere skrev to bøker klagende måten alle som er i hovedsak arbeider for
Facebook, Google, etc., ved fôring materialet i de sentrale
– prosessorer og slå eget liv inn i noe bedrifter kan
tjene penger. Han ønsker å se folk kompensert for sine data i form
av micropayments.
Andre tech kritikere har kastet sine øyne på
det begrepet, men. Taylor, for eksempel frykt for at micropayments
ville skape et insentiv for folk å legge ut click-bait materiale. Dum
stunts – “Hold my øl, og se dette” – ville være potensielt
salgbare.
Lanier er bredest argumentet er at teknologiske
endringen innebærer valg. Dårlige beslutninger vil låse oss inn i dårlige systemer. Vi
samlet besluttet, for eksempel, å handle våre retningslinjer for gratis
Internett-tjeneste.
“Det er et valg. Det er ikke til å unngå, sier han.
Lanier
fortalte sin 8 år gamle datter nylig: “I vårt samfunn er det to
veier til suksess: det Ene er å være god på datamaskiner og den andre er å være en
sosiopat.”
Hun er en smart jente, og vet hva “sosiopat” betyr,
han sa. Og han forstår arten av denne verden, at han har hjulpet
finne på. Det er derfor denne sommeren han sendte sin datter til en programvare
programmering camp.
Mye av dagens tech miljø dukket opp fra
den protestkultur – hackere og hippier på 1960-og ’70-tallet som
sett på den personlige datamaskinen som et verktøy for frigjøring. Men den politiske
venstre har nå en mer komplisert, jaundiced forhold til den digitale
world.
Den samme teknologien som styrke enkeltpersoner og aktiver
demonstranter å organisere også gjøre det mulig for myndighetene til å spionere på
til sine innbyggere. Det som pleide å være en telefon nå ser ut til mange mennesker som en
tracking-enhet.
Så er det spørsmålet om hvem som er å tjene penger.
Progressives er forferdet over den ufattelige fortjeneste av den store tech
selskaper. Venstre tar også oppmerksom på kjønn og etniske forskjeller
i tech selskaper, og fremveksten av tekno-elite.
De fleste
smertefullt for progressive har vært fremveksten av “deling av økonomien,”
som de i utgangspunktet omfattet. De føler seg som om ideen ble stjålet
fra dem og pervertert til noe som gjør vondt arbeidere.
De
si at selskaper som Uber, Airbnb, TaskRabbit og Amazon
Mechanical Turk er å skape en “gig økonomi” – en som, selv om det
tilbyr kundene praktiske og rimelige priser, og er bygget på
frilansere og entreprenører som mangler inntekt eller jobb-beskyttelse av
lønnede ansatte. (Amazon-grunnlegger Jeffrey P. Bezos, en investor i
Uber og Airbnb, eier The Washington Post.)
“Hva ble fakturert som
‘dele’ var faktisk “utvinning,” sa Nathan Schneider, en
journalist og co-organizer av den Nye Skolen conference on
samarbeidende plattformer. “Det er avslørt å være en måte å shirking arbeidsrett
og trekke ut ressurser tilbake til investorer og bygge monopoler.”
Han
var tale på et mottak på slutten av den to dager lange konferansen. Den
arrangementet var en stor suksess, med et oppmerksomt publikum pakking panelet
diskusjoner. Disse menneskene er forpliktet til å gjenoppfinne Internett.
“Historien av Internett har vært en av skuffelse etter skuffelse,” Schneider sa.
Som
Schneider snakket, Astra Taylor sto et par meter unna, holder domstolen med
venner og allierte. Taylor er høy, med slående funksjoner som gir
hennes en kommanderende tilstedeværelse. Hun ble født til å være en tech-kritiker. Hun var ikke
hjem-skolert, hun var “unschooled.” Hennes foreldre i Athens, Ga, sette henne
ansvaret for hennes utdannelse. I en alder av 13, skapte hun sin egen avis
med en miljøforkjemper bøyd. Hun brent med en følelse av rett og
feil. “Jeg var en seriøs barn,” sier hun, overbevisende.
Hun sier
hun ønsker å se mer statlig støttede media-plattformer – tror
public radio – og mer robust regelverk for å holde digital kraftstasjoner
fra å bli monopoler. Taylor er skeptisk til at trope
informasjon som ønsker å være fri, faktisk, sier hun, ofte informasjon
ønsker noen til å betale for det.
Internett, sa hun, er litt som
en venn som trenger å bli rettet ut. Hun innbiller seg å gi
Internett-en snakker til: “vet Du, Internett, vi har kjent deg i en lang
tid og vi synes du er ikke å leve opp til potensialet. Du holder
å gjøre de samme feilene.”
Den siste hendelsen på den Nye Skolen
konferansen inneholdt en stemwinder av en prat med noen Taylor mener en
mentor: Douglas (“jeg er på Lag!”) Rushkoff.
Rushkoff, som
boken har tittelen “Kaste Stein på Google Buss,” forutsatt at en
primer på fremveksten av kapitalismen, sentralbanker og industrielle kultur.
Han foreslo at sivilisasjonen begynte å gjøre feil blir i Midten
Aldre. Sentralisert valuta – ikke bra. I de tidlige dager, hver
samfunnet kunne ha sine egne mynter. Vi trenger å “gjenfødelse verdiene av
node-til-node-basaren kultur.”
Stadig høyere og mer animerte som sitt foredrag gikk på, han snakket om behovet for å “optimalisere økonomien for mennesker.”
“Hvor
gjøre mennesker passer inn i denne nye økonomien?” sa han. “Egentlig ikke som skaperne
av verdi, men som innholdet. Vi er innholdet. Vi er dataene. Vi
er det media. Når du bruker en smarttelefon, smarttelefonen blir smartere,
men du får dummere.”
Taylor, Rushkoff, Lanier og andre tech
skeptikere ennå ikke utgjør en organisert, sammenhengende bevegelse. De er mer
som en konføderasjon av gadflies. Selv Pave Francis ‘ tanker om
teknologien ble i stor grad mistet midt i sin overskrift iøynefallende synspunkter på
klimaendringer.
Andrew Keen, forfatter av “Internett er Ikke
Svaret,” lyder en glum merk når du snakker om hva den teknologiske
motstand kan oppnå.
“Ingen har noen gang hørt om Astra Taylor,” sa han.
Han
ikke bety at som en fornærmelse. Han gjorde et poeng om hele
mannskapet på dissentere. Ingen, sa han, har hørt av Andrew Keen,
heller.
Verden er ikke om å gå tilbake til steinalderen, på
hvert fall ikke frivillig. En milliard mennesker kan bruke Facebook på en gitt
dagen. Jaron Lanier kan ikke liker måten de store selskapene skrape verdi
fra våre liv, men folk deltar i dette systemet villig –
hvis det er kanskje ikke helt klar over hva som skjer til sine data.
Taylor ‘ s
smarttelefon med sprakk skjermen tydelig har vært i omfattende bruk. Hun
vet disse gadgets er vanedannende av design – “som Las Vegas slot
maskiner i våre lommer.” Men hun har også problemer med å leve uten.
“Jeg trenger å lære for å slå den av,” sa hun.
Den
verdens spookiest filosof er Nick Bostrom, en tynn, myk-talt
Svensken. Av alle de folk som er bekymret for runaway kunstig intelligens,
og Morder Roboter, og muligheten av en teknologisk dommedag
Bostrom maner de mest ekstreme scenarier. I hans sinn, menneskelig
utryddelse kunne bare begynnelsen.
Bostrom er favoritt
apokalyptiske hypotetisk innebærer en maskin som har blitt programmert til å
gjør binders (selv om noen dagligdagse produktet vil gjøre). Denne maskinen
holder du å bli smartere og kraftigere, men aldri utvikler menneskelige
verdier. Det oppnår “superintelligens.” Det begynner å konvertere alle slag
vanlige materialer i binders. Til slutt bestemmer seg for å slå
alt på Jorden, inkludert den menneskelige rase (!!!) – i binders.
Så går det interstellare.
“Du
kunne ha en superintelligens hvis eneste mål er å gjøre så mange papir
klipp som mulig, og du får denne boblen av binders sprer seg
gjennom universet,” Bostrom rolig fortalte et publikum i Santa Fe, New
Mexico tidligere i år.
Han la til, å opprettholde sin tone av understatement, “jeg tror at det ville være en lav verdi fremtiden.”
Bostrom er
underliggende bekymringer om maskin intelligens, utilsiktede konsekvenser
og potensielt ondsinnede datamaskiner har gått mainstream. Du kan ikke
delta på en teknologi konferanse i disse dager uten noen å bringe opp
A. I. angst. Det flyter over tech samtale med
high-pitched sutre av en 1950-talls Hollywood flygende tallerken.
Folk
vil fortelle deg at selv Stephen Hawking er bekymret for det. Og Regningen
Gates. Og at Elon Musk ga $10 millioner til forskning på hvordan å holde
machine intelligence under kontroll. Alt som er sant.
Hvordan dette
kom om er like mye en historie om media relasjoner som det er om
teknologisk endring. Maskinene er ikke på randen av å ta over.
Dette er et tema som er fylt med spekulasjoner og kanskje et snev av panikk.
Men
diskusjonen reflekterer et bredere sannheten: Vi lever i en tid der
machine intelligence har blitt en del av hverdagen. Datamaskiner fly
fly og snart vil kjøre bil. Datamaskinen algoritmer forutse vår
behov og bestemme hvilke annonser for å vise oss. Maskiner lage nyheter
historier uten menneskelig inngripen. Maskiner kan kjenne igjen ansiktet ditt i en
publikum.
Nye teknologier – inkludert genetisk engineering og
nanoteknologi – er gjennomgripende på en annen og konvergerende. Vi trenger ikke
vet hvordan dette vil spille ut. Men noen av de mest seriøse tenkere på
Jorden bekymre deg om potensielle farer og lurer på om vi forblir fullt og helt
kontroll av våre oppfinnelser.
Science fiction pioneer Isak
Asimov forventede disse bekymringene når han begynte å skrive om roboter i
1940-tallet. Han utviklet regler for roboter, hvorav den første var: “En
roboten kan ikke skade et menneske eller gjennom uvirksomhet, tillate at et menneske
blir å komme til skade.”
Folk fortsatt snakker om Asimov ‘ s regler. Men de snakke enda mer om det de kaller “Singularitet.”
Den
ideen dateres til minst 1965, da den Britiske matematikeren og
kode-breaker I. J. Bra skrev, “En ultraintelligent maskinen kan design
enda bedre maskiner; det ville utvilsomt være en
‘intelligens eksplosjon,’ og observasjon av mannen ville være langt til venstre
bak.”
I 1993, science fiction-forfatter Vernor Vinge brukt
begrepet “Singularity” for å beskrive et slikt øyeblikk. Oppfinner og forfatter
Ray Kurzweil kjørte med den ideen, å spy ut en rekke bøker
predicting the age of intelligent, åndelige maskiner.
Kurzweil,
nå har en direktør i engineering på Google, omfavner en slik fremtid; han er
kanskje den mest kjente av techno-utopians, for han mener at
den teknologiske utviklingen vil kulminere i en fusjon av menneske og maskin
intelligens. Vi vil alle bli “transhuman.”
Om noen av dette
faktisk vil skje, er gjenstand for robust debatt. Bostrom støtter
forskning, men bekymringer for at tilstrekkelige sikkerhetstiltak er ikke på plass.
Tenk deg,
Bostrom sier, at menneskelig ingeniører programmert maskiner til aldri
skade mennesker – et ekko av den første av Asimov ‘ s robot lover. Men
maskiner kan bestemme seg for at den beste måten å adlyde skade-ingen-mennesker
kommandoen ville være å hindre at noen mennesker aldri blir født.
Eller
tenk deg, Bostrom sier, at superintelligent maskinene er programmert til å
sikre at uansett hva de gjør, vil mennesker smil. De kan da
bestemme seg for at de skal implantere elektroder i ansiktsmusklene av
alle personer å holde oss smilende.
Bostrom er ikke dette vil si
skje. Disse er tanke-eksperimenter. Hans store bildet ideen er at,
bare i de siste par hundre år, og vi har sett utrolig endringer
i den menneskelige befolkningen og økonomisk velstand. I Bostrom ‘ s view, vår
moderne eksistens er en anomali – skapt stor grad av teknologi. Vår
verktøy har plutselig overveldet av de begrensninger i naturen. Vi er i
lade nå, eller ser ut til å være for øyeblikket.
Men hva om teknologien biter tilbake?
Det
er en annen Svenske i denne historien, og enda mer enn Bostrom, han er den
person som driver samtalen. Hans navn er Max Tegmark. Han er en
karismatiske den 48 år gamle professor i fysikk-avdelingen ved
Massachusetts Institute of Technology. Han er også en av grunnleggerne av noe
kalt Fremtid av Livet Institutt, som har vært doling ut Elon
Moskus er penger til forskning på å lage A. I. tryggere.
Tegmark er
noe av en fysikk radikale, den slags vitenskapsmann som tror at det
kan være andre universer som ikke bare hastigheten til lys og gravitasjon
er forskjellige, men det matematiske grunnlaget av virkeligheten er
forskjellige. Tegmark og Bostrom er intellektuelle allierte. I Tegmark er
siste bok, “Våre Matematiske Univers: Min Søken etter den Ultimate
Arten av Virkeligheten,” skriver han om møtet Bostrom på en konferanse i
2005 i California:
“Etter noen god vin, vår samtale slått
til dommedag scenarier. Kunne Large Hadron Collider opprette en
lite sort hull som ville ende opp med å buldre opp Jorden? Kunne det
lag en ‘strangelet’ som kan katalysere konvertering av Jorden inn
merkelig quark saken?”
I tillegg til å ta
hva-kan-gå-feil spørsmål på alvor, Tegmark og Bostrom underholde
optimistiske scenariene. Kanskje, sier de, Jorden er den eneste planeten i
universet som havner intelligent liv. Vi har en sjanse til å ta denne
oppsiktsvekkende fenomen av intelligens og spre det til stjernene – hvis vi
ikke ødelegge oss selv først med runaway teknologi.
“Fremtiden
er vår å ta form. Jeg føler vi er i et løp som vi trenger for å vinne. Det er en
race mellom den økende strømmen av teknologi og voksende visdom
vi må klare det. Akkurat nå, nesten alle ressurser har en tendens til å gå
i økende strømmen av tech,” Tegmark sa.
I April 2014,
33 mennesker samlet seg i Tegmark hjem for å diskutere eksistensielle trusler fra
teknologi. De bestemte seg for å danne Fremtid av Livet Institutt. Det ville
har ikke betalt ansatte. Tegmark er overbevist om at mange armaturer i
verdener av vitenskap, teknologi og underholdning til å legge sitt navn til
årsaken. Skype-grunnlegger Jaan Tallinn logget på som en co-grunnlegger. Aktører
Morgan Freeman og Alan Alda sluttet seg til styret.
Tegmark
sette sammen en op-ed om potensielle farer av maskinen
intelligens, stille opp tre strålende co-forfattere: nobelprisvinner
fysiker Frank Wilczek, kunstig intelligens forsker Stuart
Russell, og de største navn i vitenskap, Stephen Hawking. Hawking er
fame er som solen midt på dagen vaske ut hver annen stjerne på himmelen, og
Tegmark visste at op-ed ville bli sett på som en oracular
uttalelse fra lege.
Stykket, som gikk i
Huffington Post og i den Uavhengige i Storbritannia, var en kort, breezy
skrift som inkluderte en tutorial på ideen om Egenheten og en
forferdet konklusjon at eksperter ikke tar trusselen om runaway
A. I. alvor. A. I., forfatterne skrev, er “potensielt beste eller
verste noensinne å skje med menneskeheten.”
“Stephen Hawking Sier A. I. Kan Bli Vår ‘Verste Feil I Historie,’ “, en online science news nettsted rapportert.
Og CNBC erklærte: “Kunstig intelligens kan ende menneskeheten: Hawking.”
Så fikk alles oppmerksomhet.
Tegmark er
neste trekk var å organisere en off-the-record konferanse av store tenkere
å diskutere A. I. Mens Boston-området gikk inn i en dyp fryse i januar
av dette året, rundt 70 forskere og akademikere, ledet av Tegmark,
sammenkalt i Puerto Rico for å diskutere den eksistensielle trusselen av maskinen
intelligens. Deres modell ble den historiske konferanse om rekombinant DNA –
forskning holdt i Asilomar, California, i 1975, noe som resulterte i ny
sikkerhetstiltak for gene skjøting.
Musk, grunnlegger av Tesla og
SpaceX, sluttet seg til gruppen i Puerto Rico. På den siste kvelden av
konferanse, han lovet $10 millioner til forskning på å redusere trusselen
fra A. I.
(Se også: Elon Musk Ryggen Kunstig Intelligens Non-Profit OpenAI Med $1 Milliard)
“Med kunstig intelligens, vi er sammenkalle demon,” Moskus hadde sagt tidligere, en linje som sendte Twitter inn i en tizzy.
I
månedene som fulgte, 300 team av forskere sendt forslag til
måter å senke A. I. trussel. Tegmark sier instituttet har tildelt 37
tilskudd verdt 7 millioner dollar (rundt Rs. 46 crores).
Reality check. Mer enn et halvt århundre
forskning på kunstig intelligens, har ennå til å produsere noe
likner en bevisst, forsettlig maskinen. Vi har fortsatt kontroll over dette
teknologi. Vi kan ta den.
Rett ned Gaten fra Vassar
Tegmark kontor er MIT ‘ s informatikk og Kunstig Intelligens
Laboratorium, hvor roboter er aplenty. Daniela Rus, direktør, er en
oppfinner som bare nabbed 25 millioner dollar (rundt Rs. 165 crores) i støtte fra Toyota til å utvikle en
bilen som aldri vil bli involvert i en kollisjon.
Er hun bekymret for Egenheten?
“Det sjelden kommer opp,” Rus sa. “Det er bare ikke noe jeg tenker på.”
Med
et par unntak, de fleste på heltid A. I. forskere tror
Bostrom-Tegmark frykten er for tidlig. En mye gjentatt observasjon er
at dette er som å bekymre seg om overbefolkning på Mars.
Rus
poeng ut som roboter er bedre enn mennesker på knasende tall og
løfte tunge belastninger, men mennesker er fortsatt bedre på fine, raske bevegelser,
for ikke å nevne kreative, abstrakt tenkning.
“Fremgangen har ikke
er så stødig som folk sier, og maskinen ferdigheter er virkelig langt
fra å være klar til å matche vår kompetanse,” sa hun. “Det er oppgaver som
er veldig lett for mennesker å fjerne din middagsbordet, lasting
oppvaskmaskin, rydde i huset – det er overraskende vanskelig for
maskinene.”
Rus gjør et punkt om selvkjørende biler: De kan ikke
stasjonen bare hvor som helst. De trenger presise kart og relativt forutsigbar
situasjoner. Hun mener for eksempel at de ikke kunne håndtere
Washington, D.C. er Dupont Circle.
I Dupont Circle, kjøretøy og
fotgjengere rot deres vei videre gjennom en rekke mellommenneskelige
signaler om at en maskin kan ikke tolke, sa hun. Selvkjørende biler
sliter med tung trafikk, sa hun, og til og med regn og snø er en
problemet. Så tenk å prøve å forstå hånd bevegelser fra veien mannskaper
og andre sjåfører.
“Det er for mye som skjer,” Rus sa. “Vi
ikke har de riktige sensorer og algoritmer for å karakterisere veldig raskt
hva skjer i et overbefolket område, og for å beregne hvordan du skal reagere.”
Den
fremtiden er implacably grumsete når det kommer til teknologi; den smarteste
mennesker på planeten klarer å se hva som kommer. For eksempel, mange av
store vismenn i moderne tid ikke forutse at datamaskiner vil
få mindre snarere enn større.
Alle som leter etter noe å
bekymre deg i nær fremtid kan være lurt å vurdere det motsatte av
superintelligens: superstupidity.
I vår stadig mer
teknologiske samfunnet, er vi avhengig av komplekse systemer som er sårbare for
svikt i komplekse og uforutsigbare måter. Dypt vann og olje brønner kan blåse
ut og ta måneder å være forsvarlig. Nuclear power reactors kan smelte
nede. Raketter kan eksplodere. Hvordan kan intelligente maskiner mislykkes – og hvordan
katastrofale kan de være feil?
Ofte er det ingen
person som forstår nøyaktig hvordan disse systemene fungerer, eller er i drift
på et gitt øyeblikk. Kaste inn elementer av autonomi, og ting kan gå
feil raskt og katastrofalt.
Slik var tilfellet med “flash
crash” i aksjemarkedet i 2010, da, delvis på grunn av automatisert,
ultra-rask handel programmer, Dow Jones industrial average falt
nesten 1000 poeng i løpet av minutter før rebounding.
“Hva vi er
å gjøre hver dag i dag er produksjon av super dum enheter som gjør
feil,” hevder Boris Katz, en annen kunstig intelligens forsker
ved MIT.
“Maskiner er farlig fordi vi gir dem også
mye makt, og vi gir dem makt til å handle i respons til sensoriske input.
Men disse reglene er ikke helt tenkt gjennom, og deretter noen ganger
maskinen vil fungere på feil måte,” sa han.
“Men ikke fordi de ønsker å drepe deg.”
En
levende legende av A. I. feltet og MIT fakultetet er Marvin Minsky,
88, som har hjulpet funnet feltet i 1950-årene. Det var hans generasjon som
sette oss på denne veien alder av smarte maskiner.
Minsky, og gi
et intervju i stua til hans hjem et par miles fra campus,
blinket en impish smil når du blir spurt om farene av intelligent
maskiner.
“Jeg antar at du kan skrive en bok om hvordan de skal redde oss,” sa han. “Det bare er avhengig av hvilke farer vises.”
Den
A. I. debatten er sannsynlig å være fanget i usikkerhet og
spekulasjon. I teorien, som det opprinnelige Huffington Post op-ed er oppgitt,
det er ingen teoretisk grense for å machine intelligence – “ingen fysiske lover
er til hinder for partikler fra å være organisert på måter som utfører enda mer
avanserte beregninger enn ordninger av partikler i menneskelig
hjernen.”
Men den akademiske og vitenskapelige etablissementet er ikke overbevist om at A. I. er en overhengende trussel.
Tegmark
og hans Fremtid av Livet allierte bestemte seg i sommer for å ta på seg en relatert
men mer presserende problemet: trusselen om autonome militær versjon av maskiner.
Tegmark
sammen med Stuart Russell, kunstig intelligens, forsker, på
et åpent brev kaller for et forbud mot slike våpen. Igjen, de fikk
Hawking for å signere den, sammen med Moskus, Bostrom, og ca 14.000 andre
forskere og ingeniører. På juli 28, de formelt presentert brev
på en A. I. konferanse i Buenos Aires.
Russell sa det tok ham
fem minutter av Internett-søk for å finne ut hvordan en veldig liten robot –
en microbot – kunne bruke en formet ladning, “blåse hull i folks
hoder.” En microrifle, sa han, kunne brukes til å “skyte sine øyne ut.”
“Du vil
har stort levering skip som ville dumpe millioner av små flygende
biler, sannsynligvis enda insekt-størrelse, det minste du kan komme unna
med, og fortsatt drepe et menneske,” Russell sier.
Etter At Nick
Bostrom er forelesning i Santa Fe, holdt på New Mexico Skole for
Døve, dro han til en bok-signering arrangement på tvers av byen på Skolen
Avansert Forskning. Boken er en grundig begrunnet, ganske tett
skrift med tittelen, “Superintelligens: Stier, Farer, Strategier.”
Bostrom,
står på kanten av en gårdsplass, holdt tilbake i en liten klynge av
partiet gjester. Da han satte seg ned for en time-lang intervju. Reservert,
intenst fokusert på hans ideer, og en 42-åringen syntes Bostrom
engstelig om hans ideer kan være fullt ut forstått av noen
som ikke er en akademisk filosof. Han ble distrahert av muligheten
som en gnat, eller fly, eller noe slikt insekt hadde invadert hans glass vann.
Spurte
hvis det var noe han nå ønsker han hadde gjort annerledes med hans
bestill, sa han han skulle ha vært klar på at han støtter opprettelsen av
superintelligens. Ikke overraskende, de fleste lesere savnet det sentrale punkt.
“Jeg
tror faktisk det ville være en stor tragedie hvis maskinen superintelligens
ble aldri utviklet,” sa han. “Det ville være en feil modus for våre
Jord-stammer intelligent sivilisasjon.”
I hans syn, har vi en
muligheten til å gå galactic – eller enda intergalaktiske – med vår intelligens.
Bostrom, som Tegmark, er svært klar på at menneskelig intelligens har en
ørsmå plass i grand ordningen ting. Jorden er en liten
stein i bane rundt en vanlig stjerne på en av de spiralformede av en galaxy
med hundrevis av milliarder av stjerner. Og minst titalls milliarder av
galakser snurre på tvers av det kjente universet.
Kunstig intelligens,
Bostrom sa, “er teknologien som låser opp dette mye større plass i
muligheter, evner, som gir ubegrenset plass
kolonisering, som gjør det mulig for opplasting av menneskelige sinn inn i datamaskiner, som
kan intergalaktiske sivilisasjoner med planetenes størrelse sinn levende
for milliarder av år.”
Det er en bisarr rynke i Bostrom er
å tenke på. Han mener en overlegen sivilisasjon ville ha hovedsak
uendelig datakraft. Disse superintelligent maskiner kan gjøre
nesten alt, inkludert opprette simulert univers som inkluderer
programmer som nettopp etterligne menneskelige bevissthet, fylt med minner
av en persons historie – selv om alt dette ville være helt
produsert av programvaren, med ingen reell, fysisk manifestasjon.
Bostrom
går så langt som å si at dersom vi ikke utelukke muligheten for at en
maskinen kan lage en simulering av en menneskelig eksistens, burde vi anta
at det er overveldende sannsynlig at vi lever i en slik
simulering.
“Jeg er ikke sikker på at jeg ikke allerede er i en maskin,” sa han rolig.
© 2015 Washington Post
Last ned Gadgets 360-app for Android og iOS for å holde deg oppdatert med den nyeste tech nyheter, produkt
anmeldelser og eksklusive tilbud på de populære mobiler.