Bilde: IBM
Tidligere denne uken, David Kenny, IBM Senior Vice President for Watson og Cloud, fortalte den AMERIKANSKE Kongressen at Amerikanerne har noe å frykte fra kunstig intelligens, og at utsiktene til teknologisk arbeidsløshet og fremveksten av en “AI overlord” er skadelige myter. Utsagnene var så egoistiske som de var uvøren, avsløre det oppsiktsvekkende grad IBM er villig til å gi avkall på fremtiden for å få til stede.
Kongressmann John Delaney (MD-6) har nylig lansert Kunstig Intelligens (AI) Caucus for 115th Kongressen, der formålet er å “informere politikere av den teknologiske, økonomiske og sosiale konsekvenser av fremskritt i AI og for å sikre at rask innovasjon i AI og relaterte felt fordeler Amerikanerne så fullstendig som mulig.” Den caucus, som blir utarbeidet i fellesskap av Congressman Pete Olson (TX-22), som nylig hadde tete-a-tetes med Amazon og Google. Nå, det er ikke hadde en mulighet til å høre hva IBM—tech ansvarlig firma Watson, en overhyped kognitiv databehandling som har gjort et navn for seg selv ved å beseire verdens største Fare champions—har å si. IBMS David Kenny utstedt et åpent brev til Kongressen, før en Congressional orienteringen som ble holdt den 28. juni.
“Virkningen av AI er tydelig i debatten om dens samfunnsmessige betydning—med noen fryktelige profeter envisioning massiv jobb tap, eller enda en eventuell AI ‘overlord” som styrer menneskeheten. Jeg må uenig med disse dystopiske utsikt.”
Den siste AI vinteren, når renter og finansiering i AI innskrumpet opp, er nå forlengst glemt, og det har blitt moderne igjen å fantasere om den transformative potensial for AI. En konsekvens av dette hype, imidlertid, har vært fremveksten av en AI tilbakeslag. Folk er begynt å bli bekymret—og enda litt redd for hva avansert kunstig INTELLIGENS kan bety for dem, og med god grunn.
Ingen tvil, vi begynner å føle den første inklings av en automatisering revolusjon, hvor stadige fremskritt innen AI og robotics true nesten ethvert menneskelig yrke. Utsiktene til masse teknologisk arbeidsløshet har ført til samtaler for en garantert grunnleggende inntekt, og selv en robot skatt for å bremse automatisering og re-direkte midler til andre typer arbeid. Mer illevarslende, det er potensial for AI å løpe amok. Fremstående tenkere som Elon Musk og Stephen Hawking har advart om farene ved AI, og sier at det til slutt kan unnslippe vår forståelse og kontroll.
Pishposh, sier Kenny. I sitt åpne brev til Kongressen, hevder han slik frykt er er for store, og at Amerikanerne burde omfavne AI med åpne armer.
“Virkningen av AI er tydelig i debatten om dens samfunnsmessige betydning—med noen fryktelige profeter envisioning massiv jobb tap, eller enda en eventuell AI ‘overlord” som styrer menneskeheten. Jeg må uenig med disse dystopiske utsikt,” skrev Kenny. “Når du faktisk gjør vitenskapen av maskin intelligens, og når du faktisk bruke det i den virkelige verden av virksomheten og samfunnet—som vi har gjort i IBM til å lage vår banebrytende kognitiv databehandling system, Watson—forstår du at denne teknologien ikke støtter frykt-mongering ofte forbundet med AI-debatt i dag.”
Den virkelige katastrofen, sa Kenny, ville være i “utsettelse eller hemme kognitiv teknologi før sin fulle potensialet kan bli realisert,” og legger til at “Vi betale en betydelig pris hver dag for ikke å vite hva som kan være kjent: uten å vite hva som er galt med pasienten, for ikke å vite hvor du skal finne kritiske naturressurser, eller ikke å vite hvor risikoen ligger i vår globale økonomien.”
Han sa frykt for massiv jobb tap er forståelig, men historisk presedens tyder på at AI “vil ikke erstatte mennesker i arbeidslivet.” I stedet, Kenny mener at AI vil øke både mennesker og de jobbene vi vil tilsynelatende fortsatt ha i fremtiden.
Kenny har også sagt at vi skal “forlate noen forestilling om å skattlegge automatisering,” og at vi “kan ikke lure oss selv til å tro at en universell grunnleggende inntekt vil løse utfordringen med visse oppgaver blir automatisert.” Han henviste til disse resepter som “kort sikt cop-outs”, og anbefalte at Amerikanske lærere begynner å understreke ferdigheter over grader.
På risiko, Kenny sier at vi trenger å vite hvordan en AI-system kommer til en konklusjon over en annen. “Mennesker har rett til å spørre hvordan et intelligent system antyder visse beslutninger og ikke andre, spesielt når teknologien blir brukt på tvers av bransjer, som helse -, bank-og cybersecurity,” skrev han. “Og bransjen har et ansvar for å svare på.”
I slutten av Kenny sa at selskapene må være i stand til å forklare hva som gikk til en algoritme er beslutningsprosessen, og innbyggerne må være laget for å forstå hvordan AI teknologien fungerer. Og faktisk, arbeidet blir gjort på dette området, blant annet for å skape kunstig INTELLIGENS som kan forklare sine handlinger på en måte som vi kan forstå.
Uten spørsmål, Kenny er rett om potensialet for AI til å forandre vårt samfunn—og til det bedre. AI vil hjelpe oss med å oppfinne nye legemidler, skape tryggere veier, redusere økonomisk risiko, hjelp oss å forvalte våre ressurser, og kan løse noen av verdens mest utfordrende problemer. Vi bør absolutt være entusiastiske og støtter forskning på AI, men vi bør også være svært skeptisk gitt sin nedbrytende potensial, om at avbrudd fører til sosial uro og fattigdom, eller en katastrofe som truer eksistensen av våre arter.
“For meg, at [open letter] leser mer som en bedrifts pressemelding. Det spiller egentlig ikke engasjere seg med lengre sikt AI bekymringer som jeg jobber med,” sa Skype-co-grunnlegger Jaan Tallinn i et intervju med Gizmodo. “[Kenny skriver at], ‘Kritiske beslutninger krever menneskelig dømmekraft, moral og intuisjon—AI endrer ikke på det.’ Hvis ting går bra, så er det sant. Men det krever hardt arbeid for å løse AI kontroll problem å sørge for at stadig mer autonome AI ville stoppe og gå tilbake kontrollen til mennesker når de viktige beslutninger må fattes.”
Tallinn, co-grunnlegger av Senter for Studier av Eksistensiell Risiko ved University of Cambridge, sier vi allerede mot dette veldig dilemma i debatter utvikler seg rundt det nye feltet av autonome våpen—og svar, sa han, ikke er så enkelt og trygt som Kenny brev gjør det lyd.
“Crux av sitt argument er at IBM vet mer om AI og om økonomi enn de “redd profeter” og at enhver omtale av risiko er en farlig, Luddite villfarelse.”
Stuart Russell, professor of computer science and Smith-Zadeh Professor i Engineering ved University of California, Berkeley, er enig i at AI vil introdusere viktige fordeler, men han er bekymret for den vei IBM har valgt å kalkmaling de potensielle konsekvensene, og selv bagatelliserer de som er i ferd med å alarmere.
“Jeg tror IBM har satset bedriften på AI—som godt kan være en god innsats—og slik at de har frykt om regjeringen ‘hemme kognitiv teknologi’ eller ‘beskatte automatisering’,” Russell fortalte Gizmodo. IBM har all rett til å begjære Kongressen og til å uttrykke sin mening, sa han, mens også peke på selskapets ganske stor lobbyvirksomhet og pr-budsjett.
“Crux av sitt argument er at IBM vet mer om AI og om økonomi enn de “redd profeter” og at enhver omtale av risiko er en farlig, Luddite løgn,” sa Russell.
På økonomi av sysselsetting risiko, Russell viste til flere “redd profeter,” inkludert nobelprisvinnere Robert Shiller, Mike Spence, og Paul Krugman; Klaus Schwab, leder av World Economic Forum, og Larry Summers, tidligere sjeføkonom i verdensbanken og finansminister under Bill Clinton. “Jeg tror ikke at en kan avfeie sine argumenter med ad hominem fornærmelser,” sa Russell. Som disse tenkerne har tatt store smerter til å påpeke, er det ventende automatisering revolusjon er klar til å eliminere utallige jobber og fortrenge arbeidere.
På potensialet for dårlig utformet AI til å skape problemer for menneskeheten som det vokser til slutt overstige menneskelige evner i praktisk talt alle områder, Russell laget omtale av andre kjente “redd profeter,” blant annet Alan Turing, grunnleggeren av informatikk; Norbert Weiner, det matematisk pioner innen moderne automatisering; Marvin Minsky, en av de “founding fathers” av AI seg selv; Bill Gates og Elon Musk—to av “ledende teknologer av de siste 50 år”—og “svært mange av dagens ledere av AI-forskning.”
Om påstanden om at risiko ikke bør være nevnt, at det setter fremgang, Russell sa det er nyttig å se tilbake på historien av kjernekraft.
“I mitt syn ville det være helt rimelig for en kjernefysisk ingeniør for å vurdere risikoen for meltdown og foreslår studie av sikkerhets-systemer og andre metoder for å hindre katastrofe,” Russell fortalte Gizmodo. “IBM’ s view er at vi skal skjule risiko og ikke studerer metoder for å hindre dem, i tilfelle som genererer dårlig PR. I virkeligheten, Tsjernobyl-katastrofen var dårlig PR for atomindustrien, faktisk, er det i hovedsak ødelagt bransjen så vel som rendering tusenvis av kvadratkilometer av Ukraina ubeboelig. Det resulterte fra å sette kortsiktig fortjeneste i forkant av langsiktig sikkerhet.”
Ingen tvil, er det potensial for en AI katastrofe øker med hver bestått gjennombrudd i feltet, og som vår teknologiske infrastruktur blir stadig mer sårbart. Denne ukens “Petya” ransomware angrep—som var i virkeligheten en cyberattack designet for å ødelegge sensitive data—var et utmerket eksempel, som viser hvor sårbar vår verden er blitt. Hendelsen tvunget til nedleggelse av datamaskiner over hele verden, å sette en midlertidig stopper for flybilletter, lager, handel og skipsfart. Det er enda tvunget operatører ved atomkraftverket i Tsjernobyl for å bytte til manuell stråling overvåking som en forholdsregel. Og dette fra en relativt dum cyberattack. Tenk hva som vil skje når disse angrepene er drevet av maskin intelligens. Og det er bare ett av utallige rekke andre mulige scenarier.
IBM—i hvert fall for tiden—synes villig til å ignorere disse harde realiteter. Men Francesca Rossi, som er professor i informatikk ved Universitetet i Padova, Italia, ikke se det på den måten, hyller IBMS tilnærming.
“Jeg er veldig støttende [Kenny] point-of-view—de er i samsvar med mine og reflekterer en tilnærming til å distribuere avanserte teknologier som kunstig intelligens i et etisk og praktisk måte,” Rossi fortalte Gizmodo. “I min vekselsvirkningene på konferanser og arenaer på tvers av USA og Europa, og jeg er stadig å finne et behov for å utdanne næringsliv og offentlige ledere på den sanne potensialet i AI, både teknologisk og societally. Dessverre, noen uinformert parter—og noen som burde vite bedre—er unødvendig å øke frykten som er ubegrunnet.”
Rossi mener det ville være skadelig for bransjen og for samfunnet dersom disse “ubegrunnet frykt” resulterte i restriktiv politikk eller regelverk som kvalt ansvarlig innovasjon og utvikling.
“Så jeg applauderer [Kenny] for å gjøre hva ledere bør gjøre—å presentere en informert, godt tenkt ut perspektiv på et tema som er nye og kan noen ganger være forvirrende,” sier Rossi. “For som han (så vel som kongressmedlemmer) sa: den private og offentlige sektor må arbeide sammen for å løse disse problemene, og hans handlinger denne uken var et godt eksempel på å være tro mot sitt ord.”
At privat og offentlig sektor skal arbeide sammen på dette problemet er absolutt noe vi alle kan være enige om. Men vi må sørge for at begge sektorer arbeider med det beste av sine borgere og forbrukere i tankene. Vi er fortsatt svært mye i det Ville Vesten æra av AI utvikling, og som tiden går vi burde forvente—og forkjemper for strengere regelverk og standarder. Bedrifter og regjeringer overtalt av sine store lommer, ikke ofte gå ned disse banene frivillig.
Disse 23 Prinsipper Kan Hjelpe Oss til å Unngå en AI Apokalypsen
Science fiction-forfatteren Isaac Asimov kjent spådd at vi en dag har til å programmere roboter…
Les mer
Heldigvis, det er grupper som tar det første viktig skritt i denne retningen. Fremtiden av Livet Instituttet har utarbeidet en liste over retningslinjer, kalt Asilomar AI Prinsipper, til å styre sikker og ansvarlig utvikling av AI, og EFF har nylig lansert en ny innsats for å spore fremdriften av AI og maskinlæring. En rekke private og akademiske institusjoner har lignende mål.
IBM har en stor stemme, ingen tvil, men la oss være sikker på å ta hensyn til den økende kor av bekymring.
[CNBC, Recode]