Vissa maskininlärningsforskare tror att neurala nätverk kommer att bli allt mer okontrollerbara och eventuellt snurra ur kontroll, vilket hotar mänskligheten med katastrof och till och med utrotning. Deras kollegor tror tvärtom att faran med moderna intelligenta system inte inkluderar mänsklighetens utplåning, och ett antal vetenskapsmän är helt enkelt alarmister. Så vilken är rätt? Och hur kan vi förstå detta? Ett möjligt svar erbjuds av författarna till en ny artikel från forskningsinstitutet Forecasting, som bad experter inom området AI och andra existentiella risker, såväl som specialister på att framgångsrikt förutse världshändelser, att bedöma faran som artificiell intelligens utgör. Vi berättar vad de fick reda på.
AI (artificiell intelligens)är datorsystem som kan utföra uppgifter som vanligtvis kräver mänsklig intelligens, såsom taligenkänning och beslutsfattande.
Innehåll
- 1 AI kommer att förstöra mänskligheten
- 2 Neurala nätverk är ett användbart verktyg
- 3 Vem har rätt?
- 4 globala risker
- 5 meningsskiljaktigheter och svar
AI kommer att förstöra mänskligheten
Vi har redan pratat mer än en gång om hur AI-system kan utgöra ett allvarligt hot mot mänsklighetens framtid. Tja, science fiction-författare avgudar helt enkelt detta ämne, och filmer som «I, Robot» och «Terminator» har länge blivit kult. Många framstående vetenskapsmän är för övrigt allvarligt oroade över de potentiella riskerna med artificiell intelligens.
En av dem som öppet och konsekvent har uttryckt sin oro över hotet från AI mot mänskligheten är professor Stephen Hawking, som upprepade gånger har uttalat att utvecklingen av AI kan vara “antingen den värsta eller bästa händelsen i mänsklighetens historia.” Han varnade för att om AI skapades och försågs med övermänsklig intelligens, skulle det säkert kunna komma ur kontroll och förstöra vår civilisation.
Professor Nick Bostrom, chef för Future of Humanity Institute vid Oxford University, varnar också för de möjliga farorna med AI. I sin bok «Superintelligens: Paths, dangers, strategier» han beskriver scenarier där skapandet av superintelligent AI kan leda till katastrofala konsekvenser för mänskligheten. Bostrom betonar behovet av att utveckla säkerhetsåtgärder och etiska principer för att styra utvecklingen av AI.
Mer om ämnet: Kan artificiell intelligens förstöra mänskligheten till 2035?
En annan framstående forskare som förespråkar en försiktig inställning till AI-utveckling är Stuart Russell, professor i datavetenskap vid University of California, Berkeley. Russell uttrycker oro över att AI kan bli så intelligent attvi inte kommer att kunna förutsäga dess handlingar. Han anser också att det är nödvändigt att utveckla säkra och etiskt sunda metoder för att skapa och kontrollera AI.
Som du kan se har oro över de potentiella hoten från AI uttryckts av många forskare och teknikexperter, och vi har diskuterat åsikterna från en av de mest kända kritikerna av AI, Eliezer Yudkowsky här.
Neural nätverk är ett användbart verktyg
Neurala nätverk är AI-system baserade på den mänskliga hjärnans struktur och funktion som kan lära sig och anpassa sig till utföra komplexa uppgifter.
Bland de forskare och experter som anser att artificiell intelligens inte utgör ett allvarligt hot mot mänskligheten kan flera framstående figurer identifieras. Dessa experter lyfter fram potentialen hos AI för att förbättra liv och lösa många av de problem som mänskligheten står inför.
En av dem är Rodney Brooks, tidigare chef för Massachusetts Institute of Technologys laboratorium för artificiell intelligens och en av grundarna av iRobot. Brooks är känd för sin skepsis mot apokalyptiska förutsägelser om AI:s framtid och hävdar att rädslan för att AI kommer att förstöra mänskligheten är baserad på överdrifter och en bristande förståelse för det nuvarande tekniska tillståndet. Enligt hans åsikt är vi fortfarande långt ifrån att skapa AI som kan utgöra ett verkligt hot.
Vill du alltid vara medveten om de senaste nyheterna inom området vetenskapliga upptäckter och högteknologi? Prenumerera på vår kanal på Telegram – så missar du definitivt inget intressant!
En annan välkänd expert som har en positiv syn på utvecklingen av AI är Andrew Ng, professor vid Stanford University och en av grundarna av Coursera. Ng ser AI som ett kraftfullt verktyg för att förbättra människors liv.
Nuvarande framsteg inom AI, såsom bildigenkänning och naturlig språkbehandling, ger enorma fördelar för medicin, utbildning och andra områden. Rädslan för AI är ofta överdriven, och fokus bör ligga på att ta itu med mer angelägna frågor som att säkerställa etisk användning av teknik och att skydda data, säger han.
Yann LeCun, chef för artificiell intelligens på Facebook och en av pionjärerna inom djupinlärning, uttrycker också optimism om AI. LeCun tror att AI kan ge betydande fördelar för samhället om det utvecklas och används på rätt sätt. Han betonar vikten av ett tvärvetenskapligt förhållningssätt och samarbete mellan forskare, ingenjörer och samhället för att skapa säkra och användbara AI-system. LeCun påpekar också behovet av att vara realistisk om kapaciteten och begränsningarna hos nuvarande AI-tekniker.
Ett annat exempel på ett positivt förhållningssätt till AI är Oren Etzioni, VD för Allen Institute for Artificial Intelligence. Etzioni hävdar att AI inte utgör ett existentiellt hot mot mänskligheten. Han menar att den nuvarande utvecklingen av AI syftar till att lösa specifika problem och förbättra människors liv. Enligt hans åsikt är det nödvändigt att fokusera på regleringen och de etiska aspekterna av användningen av AI, och inte på rädslan för en möjlig förstörelse av mänskligheten.
Missa inte: Artificiell intelligens kommer att förstöra mänskligheten i 2075
Vem har rätt?
Så hur kan vi förstå vilken vetenskapsman som har rätt och vilka hot utgör moderna intellektuella system mot världen? Forskare från Forecasting Research Institute försökte hitta svaret på denna fråga genom att be experter inom området maskininlärning och prognosmakare att bedöma faran med AI.
Resultatet visade sig vara inte mindre kontroversiellt än forskarnas åsikter som presenterats ovan – De två intervjuade expertgrupperna var oense på många punkter. Dessutom var experterna i studien i allmänhet mycket mer nervösa än prognosmakarna och satsade mycket högre på katastrof.
Författarna till studien, som publicerades på institutets officiella webbplats, ville veta varför experterna var så oense och organiserade vad de kallade “motstridigt samarbete”: att låta båda grupperna av ämnesspecialister spendera många timmar (i genomsnitt 31 timmar för experter och 80 timmar för prognosmakare) om att läsa nytt material om AI och diskutera dessa frågor med människor som har motsatta åsikter, med en moderator.
Läs också: Neurala nätverk har lärt sig att ljuga och göra det med flit
Tanken var att se om att ge varje grupp mer information och bättre argument från den andra gruppen skulle få dem att ändra uppfattning. Forskarna var också nyfikna på att hitta “nyckelpunkter”: frågor som hjälper till att förklara en grupps övertygelse och information som kan ändra deras uppfattning. Författarna till arbetet fokuserade på oenighet om potentialen hos AI att antingen förstöra mänskligheten eller orsaka ekonomisk kollaps.
Resultaten, som nämnts ovan, var blandade – anhängare av idén att AI utgör ett hot mot mänskligheten minskade sannolikheten för en katastrof före 2100 från 25 % till 20 %, och optimister höjde den från 0,1 % till 0,12 %. Med andra ord, bägge grupperna förblev på samma nivå som de började från.
Rapporten är inte desto mindre imponerande eftersom den representerar ett sällsynt försök att sammanföra smarta, välinformerade människor som inte håller med. Även om resultaten av studien inte löste meningsskiljaktigheterna mellan experter, kastade den ljus över var dessa skillnader kom ifrån i första hand.
Du kanske är intresserad av: Den “mörka sidan” av chatbotar: från kärleksförklaringar till samtal med döda< /p>
Globala risker
Naturligtvis finns det ett antal andra AI-risker att oroa sig för, av vilka många redan idag står inför. Till exempel uppvisar existerande artificiell intelligenssystem ibland störande fördomar och är utmärkta på att lura användare, vilket innebär att de faktiskt kan användas för skada. Men denna skada, även om den verkligen är allvarlig, bleknar tydligt i jämförelse med «förlusten av kontroll över AI:n, vilket resulterar i att alla dör».
Så varför är experter på maskininlärning så oense? Författarna till den vetenskapliga artikeln menar att detta inte beror på skillnader i tillgång till information eller bristande medvetenhet om olika synpunkter.
Om så vore fallet , då skulle fientligt samarbete, som bestod av massexponering för ny information och motsatta åsikter, förändra människors övertygelse ännu mer dramatiskt, står det i artikeln.
Intressant nog förklarades mycket av oenigheten inte heller av olika idéer om vad som kommer att hända med AI under de närmaste åren. När forskarna parade ihop optimister och pessimister och jämförde deras chanser för katastrof var den genomsnittliga skillnaden 22,7 %. Viktigast var dock olikheter i åsikter om den långsiktiga framtiden.
Optimister trodde generellt att det skulle ta längre tid att skapa super-AI än vad pessimister trodde. Många nämnde behovet av robotik för att nå mänskliga nivåer, inte bara artificiell intelligens i programvara, och hävdade att detta skulle vara mycket svårare.
Du kanske är intresserad av: Hur förändrar neurala nätverk Internet och lär ut kreativitet ?
Det är en sak att skriva kod och text på en bärbar dator, men en helt annan sak är att lära sig, som en maskin, att vända en pannkaka, rengöra ett klinkergolv eller utföra någon av de många andra fysiska uppgifterna där människor nu är överlägsna robotar. I slutändan är språkmodeller bara modeller av språk, inte digitala hyperhumanoida machiavelliner som arbetar mot sitt mål.Oenighet och svar
Den mest intressanta källan till oenighet som forskarna identifierade var vad de kallar “grundläggande ideologiska skillnader.” Det här är ett fint sätt att säga att de är oense om vem som har bevisbördan i en diskussion.
Båda grupperna är överens om att «extraordinära påståenden kräver extraordinära bevis», men de är oense om vilka påståenden som är extraordinära. Är det förvånande att tro att artificiell intelligens kommer att döda hela mänskligheten, även om mänskligheten har funnits i hundratusentals år, eller är det otroligt att tro att mänskligheten kommer att fortsätta att överleva bredvid artificiell intelligens som är smartare än människor? >
Detta är verkligen inte den mest uppmuntrande slutsatsen att dra från studien. Oenigheter orsakade av specifika meningsskiljaktigheter om vad som kommer att hända de närmaste åren är lättare att lösa eftersom de är baserade på hur de närmaste åren kommer att utspela sig, snarare än på djupa, svårföränderliga skillnader i människors övertygelse om hur saker fungerar i världen, och om vem som bär bevisbördan.
Läs också: Globala risker: vad hotar vår civilisation?
På ett eller annat sätt vet vi inte framtid och artificiell intelligens Hur som helst kommer den att fortsätta att utvecklas. Kort sagt, det finns fortfarande inga enkla svar på komplexa frågor.