Skaparna av artificiellt intelligenta maskiner är ofta avbildad i
populära fiktion som närsynt Dr Frankensteins som är omedvetna om den
apokalyptiska teknik de släpper lös över världen. I verkliga livet, de
tenderar att vrida sina händer över de stora frågorna: gott mot ont och
den inverkan den kommande vågen av robotar och maskinen hjärnor kommer att ha på
mänskliga arbetstagare.
Vetenskapsmän, att erkänna att deras arbete är att bryta ut
research lab och i den verkliga världen, har brottats med under en dagslång
toppmötet den 10 December i Montreal med sådana etiska frågor som hur man kan förebygga
datorer som är smartare än människor från att sätta människor i arbete,
lägga till komplikationer till rättsliga förfaranden, eller, ännu värre, som syftar till att
skada samhället. Dagens AI kan lära sig att spela tv-spel, hjälpa
automatisera e-post svar, och köra bil under vissa förutsättningar.
Det är redan framkallat oro för vilken effekt det kan ha arbetstagare.
“Jag
tror att den största utmaningen att sysselsättningen”, sade
Andrew Ng, forskningsenheten för Kinesiska sökmotorn Baidu Inc.,
som meddelade förra veckan att en av bilarna hade kört själv på en 30
kilometer (19 km) väg runt Peking med ingen människa som krävs. Den
hastigheten med vilken AI förskott kan ändra arbetsplatsen betyder “stor
antalet människor som är i 20-årsåldern och 40-talet och 50-talet” skulle behöva vara
omskolas på ett sätt som aldrig hänt förut, sade han.
“Det: s
ingen tvekan om att det finns olika klasser av jobb som kan automatiseras idag
som inte kunde vara automatiserad innan,” sade Erik Brynjolfsson, en
ekonom vid Massachusetts Institute of Technology, med hänvisning till arbetstagare
som junior jurister med uppgift att e-discovery eller människor bemanning
kassan gångar i self – kassan stormarknader.
“Du hoppas att
finns det några nya jobb behövs i den här ekonomin”, sade han. “Företagare
och chefer har inte varit lika kreativa i att uppfinna nya jobb när de
har varit i att automatisera en del av befintliga arbetstillfällen.”
Yann LeCun,
Facebook är chef för AI-forskning, är inte så orolig, säger att
samhället har anpassat sig till förändringar i det förflutna. “Det är en annan fas i
framsteg av teknik,” LeCun sagt. “Det kommer inte att bli lätt, men
vi måste ta itu med det.”
Det finns andra potentiella quandaries,
gillar hur den rättsliga landskapet kommer att förändras som AI börjar göra mer
beslut oberoende av en mänsklig operatör. “Det skulle vara mycket svårt
i vissa fall för att få en algoritm som aktualiseras i samband med en
rättsligt förfarande,” sade Ian Kerr, Kanada Forskning Ordförande i Etik,
Lag & Teknik vid University of Ottawa juridiska Fakulteten. “Jag
tror att det skulle vara en enorm utmaning.”
Andra letar
längre fram, försöker analysera effekterna av AI som överskrider mänskliga
kapacitet. Förra året köpte Google DeepMind, en AI företag
med fokus på grundläggande forskning med målet att utveckla maskiner
som är smartare än människor. Demis Hassabis, en av bolagets
grundarna, beskrev det som en Apollo-programmet för skapandet av
artificiell intelligens.
“Jag vill inte påstå att vi vet när vi ska
göra det”, sade Shane Legg, en annan av företagets grundare. “Att vara
förberedd i god tid är bättre än att vara förberedd efter.”
Medan
de tror att chansen är liten att en skadlig super-intelligens kan
utvecklas, Legg och andra har satt ut för att undersöka den möjliga
effekter på grund av den djupa hot som det kunde innebära.
“Jag bryr mig inte
tror slutfasen är den värld vi nu har med robotar som servitör
ta med dig din mat på en bricka,” sade Nick Bostrom, en Oxford akademiska
vars bok Superintelligens: Vägar, Faror, Strategier har informerat
den diskussion om konsekvenserna av intelligenta maskiner. “Slutet
resultatet kan vara något som ser väldigt annorlunda från vad vi är
bekant med.”
Shahar Avin, en forskare vid University of
Cambridges Centrum för Studiet av Existentiell Risk, sa att det är för
tidigt i AI-forskning att ha ett bra sätt att studera hur man kan förebygga
maligna AI bildas.
“Vi vill ha en agent som inte kan eller kommer att
inte ändra sitt eget värde-system”, säger Avin sagt. Det är en öppen fråga hur
för att göra detta, sade han. En kombination av mer resurser och mer allmänna
debatten bör få fler forskare till fältet för att studera hur man gör
AI säker.
Som en del av arbetet, Elon Musk, grundare av Tesla
Motors Inc. och Space Exploration Technologies Corp, och andra tekniska
armaturer meddelade att skapa den 11 December av OpenAI, en ideell
forskargruppen arbetar för att utveckla kraftfulla nya AI-teknik i
så öppna som möjligt.
Om super-intelligens är oundvikliga,
det är bäst att bygga det i det öppna och uppmuntra folk att tänka på
dess konsekvenser, Mysk sagt. Han finansierade också den Framtida Liv
Institute, en organisation för att utforska några av de risker som
hot mot mänskligheten av nya teknologier, inklusive AI.
Ng sa,
men att fascination av “AI onda intelligenser” kan visa sig vara en
distraktion mycket mer sannolikt negativa effekter, såsom förlust av arbetstillfällen.
Och LeCun sade AI skulle bli bättre och snällare än människor.
“Vi är
drivs av grundläggande instinkter som var inbyggd i oss för att överleva,” LeCun
sade. “Maskiner kommer att ha en mycket, mycket annorlunda typ av intelligens.
Det kommer inte att ha enheter som gör att människor gör dåliga saker varje
andra.”
David Johnston, generalguvernör i Canada, gjorde några
anmärkningar vid en särskild händelse i Toronto, som fångat några av dessa
ångest.
“Vad vi gör allt förnuft är att maskinen lärande
och artificiell intelligens är sannolikt att växa fram inom rimlig tid, och
när de gör det, vi vet att effekten kommer att vara betydande,” Johnston sa.
“Så, vilken roll kan vi spela, och hur gör vi för att maximera möjligheterna för
denna teknik, och minimera de utmaningar som uppstår?”
© 2015 Bloomberg L. P.
Ladda ner Prylar 360 app för Android och iOS för att hålla dig uppdaterad med de senaste tekniska nyheterna, produkt
recensioner och exklusiva erbjudanden på populära mobiler.