Vi som är involverade i artificiell intelligens, jag möter ofta uppfattningen att många människor är rädda för AI och vad det kan bli. Det är egentligen inte förvånande, när det betraktas ur synvinkeln av mänsklighetens historia, och samtidigt uppmärksamma vad vi matas av underhållningsindustrin att folk kan vara rädda för den cybernetiska upproret, vilket tvingade oss att leva i ett isolerat område, och den andra förvandlas till en “Macrocephaly” mänskliga batterier.
Fortfarande, för mig, att titta på alla dessa evolutionära modeller som jag använder i utvecklingen av AI, är det svårt att tänka på det faktum att min ofarliga, rena som en tår baby skapa på min datorskärm en dag kan förvandlas till monster futuristiska dystopi. Om du kallar mig för “destroyer of worlds” som en gång var ledsen och pratade om sig själv Oppenheimer efter att han ledde programmet för att skapa en atombomb?
Kanske skulle jag ha accepterat att en ära, och kanske kritikerna av mitt arbete fortfarande rätt? Kanske jag borde verkligen sluta undvika frågor om vilken typ av rädsla i förhållande till artificiell intelligens för mig som en expert på området AI?
Rädslan av oförutsägbarhet
Datorn HAL 9000, som blev drömmen om science fiction Arthur Charles Clarke och väcks till liv av Regissören Stanley Kubrick, i filmen “Space Odyssey “2001” är ett bra exempel på ett system som inte på grund av oförutsedda omständigheter.
I många komplexa system, Titanic, NASA Rymdfärjan och kärnkraftverket i Tjernobyl, ingenjörer hade att kombinera många komponenter. Kanske arkitekterna av dessa system var mycket medveten om hur varje element fungerar individuellt, men de har inte förstått, hur alla dessa komponenter kommer att arbeta tillsammans.
Resultatet var ett system som aldrig förstod av deras skapare, som lett till vissa konsekvenser. I varje fall fartyget sjönk, två skyttlar har exploderat, och nästan hela Europa och delar av Asien står inför problem av radioaktivitet – en uppsättning relativt litet problem, men av en slump råkade på samma tid, skapade en förödande effekt.
Jag kan lätt föreställa sig hur vi, skaparna av AI kan komma fram till ett liknande resultat. Vi tar den senaste utvecklingen och forskningen inom cognitice (kognitionsvetenskap — ca. ed), översätta dem till datorn algoritmer och lägg till det alla i det befintliga systemet. Vi försöker att utveckla AI-utan att fullt ut förstå sin egen intelligens och medvetande.
System som Watson från IBM eller Alpha från Google, är artificiella neurala nätverk, med imponerande design och funktioner och kan hantera riktigt utmanande uppgifter. Bara konsekvenser av fel i sitt arbete, är resultatet av en förlust i det intellektuella spelet “Fara!” eller en missad chans att vinna en av världens bästa spelare i desktop-logiska spelet.
Dessa effekter inte är av global natur. I själva verket är det värsta som kan hända människor i det här fallet är att någon förlorar en del pengar på räntor.
Men arkitekturen av AI blir svårare, och datorn snabbare processer. Möjligheten av AI över tid kommer bara att öka. Och redan det kommer att leda oss till vad vi börjar att ålägga AI mer och mer ansvar, trots den växande risker för oförutsedda omständigheter.
Vi är väl medvetna om att “misstag är en del av den mänskliga naturen”, så för oss blir det bara är fysiskt omöjligt att skapa en verkligt säker i hela systemet.
Rädsla för missbruk
Mycket oroade över oförutsägbara konsekvenser i AI: n som jag utvecklar, med hjälp av inställning av den så kallade neuroevolution. Jag kan skapa en virtuell miljö och fylla sina digitala varelser, vilket ger dem “hjärnan” i laget för att lösa problem av ökande svårigheter.
Över tid, effektiviteten i att lösa de problem som dessa varelser ökar, evolyutsioniruet. De som klara uppgiften bättre, alla valda för kopiering, skapa på sina grunden för en ny generation. Under många generationer, dessa digitala skapa utveckla kognitiva förmågor.
Till exempel, just nu tar vi de första stegen i utvecklingen av maskiner för att utföra enkla navigering uppgifter, göra enkla lösningar eller memorera par bitar av information. Men snart kommer vi att uppnå utveckling av maskiner som kan utföra mer komplexa uppgifter och kommer att vara mycket mer effektiv övergripande nivå av intelligens. Vårt slutliga mål är att skapa intelligens på den mänskliga nivån.
Under denna utveckling kommer vi att försöka att upptäcka och åtgärda alla fel och problem. Med varje ny generation av maskiner kommer att vara bättre rustade för att hantera fel, jämfört med den tidigare. Detta kommer att öka chanserna att vi kommer att kunna identifiera alla de oavsiktliga konsekvenser i de simuleringar och eliminera dem innan de kan förverkligas i den verkliga världen.
En annan möjlighet, som ger evolutionära metod för utveckling är ett ökat inflytande för artificiell intelligens etik. Det är troligt att sådana etiska och moraliska egenskaperna hos en människa, som en pålitlig och altruism är resultatet av vår evolution och en faktor i dess fortsättning.
Vi kan skapa en konstgjord miljö och förse maskiner förmågor som tillåter dem att visa vänlighet, ärlighet och empati. Detta skulle kunna vara ett sätt att säkerställa att vi utvecklar en mer lydig tjänare än hänsynslös mördare robotar. Men, trots det faktum att neuroevolution kan minska nivån av oönskade konsekvenser i AI beteende, det kan inte förhindra missbruk av artificiell intelligens.
Som forskare måste jag uppfylla sina skyldigheter till sanningen och att rapportera att ha upptäckte i sina experiment, oavsett, jag gillar deras resultat eller inte. Min uppgift är inte att bestämma vad jag gillar och vad som inte. Det är bara viktigt att jag kan publicera mitt arbete.
Rädsla för sociala fel prioriteringar
Att vara en lärd inte innebära att förlora mänskligheten. Jag har på en viss nivå för att återfå kontakt med deras förhoppningar och farhågor. Att vara moraliskt och politiskt motiverad person, jag har att tänka på de potentiella följderna av sitt arbete och dess möjliga effekter på samhället.
Som forskare och som medlemmar i samhället, vi har fortfarande inte kommit till en klar uppfattning om exakt vad du vill ha från AI, och vad det ska bli i slutändan. Detta är dels, naturligtvis, på grund av det faktum att vi ännu inte till fullo förstå dess potential. Men fortfarande måste vi tydligt förstå och bestämma vad vi vill bli riktigt avancerad artificiell intelligens.
En av de största områdena där folk uppmärksamma i ett samtal om AI, är sysselsättningen. Robotar redan utför för oss svårt fysiskt arbete, till exempel, montering och svetsning mellan delar av bilkarosser. Men en dag kommer dagen när robotar kommer att vara till uppgift att med en kognitiv uppgift, som de kommer att debitera vad som tidigare ansågs vara en uteslutande unik förmåga av mannen själv. Självstyrande bilar kommer att ersätta taxi förare, self-managed flygplan kommer att behöva piloter.
I stället för att få medicinsk vård på akuten, alltid fylld med trött personal och läkare, patienter kommer att kunna genomföra undersökningar och att veta diagnos via expert systems med omedelbar tillgång till all medicinsk kunskap. Kirurgi kommer att vara ogenomtränglig för trötthet av robotar, är “ganska en arm.”
Juridisk rådgivning kan erhållas från den övergripande rättslig ram. För råd på investeringar kommer att överklaga till expert system i marknadens prognoser. Kanske en dag alla människors arbete skulle göras med maskiner. Även mitt arbete kan göras snabbare genom användning av ett stort antal maskiner, ständigt undersöka hur att göra maskinerna mer intelligent.
I verkligheten i vårt nuvarande samhälle automation är redan orsakar människor att lämna sitt arbete, att göra de rika ägarna av sådana automatiserade maskiner rikare och resten sämre. Men detta är inte ett vetenskapligt problem. Det är en politisk och socio-ekonomiska problem som bör lösas av samhället självt.
Min forskning kommer inte att förändras, men mina politiska principer, tillsammans med mänskligheten, skulle kunna leda till förhållanden som AI kan bli en mycket användbar funktion, istället för att göra gapet mellan en procent globala eliten och resten av oss ännu bredare.
Rädslan för ett katastrofalt scenario
Vi fick den sista rädsla införde vi den vansinniga HAL 9000, Terminator, och alla andra onda superintelligens. Om AI kommer att fortsätta att utvecklas fram, tills du överskrider mänsklig intelligens, om konstgjorda swarmintelligence system (eller system) för att betrakta människan som en värdelös material? Hur kan vi rättfärdiga sin existens inför superintelligens kan göra och skapa något som inte kommer att kunna ingen? Om vi kan undvika ödet att bli jämnad med Marken av maskiner, som vi bidrog till att skapa?
Så den viktigaste frågan under sådana omständigheter skulle kunna vara: varför behöver vi artificiellt superintelligens?
Hade en sådan situation, skulle jag förmodligen ha sagt att jag var en god man, som även bidragit till skapandet av detta superintelligens, som är nu. Jag skulle ha vädjat till sin medkänsla och empati för att superintelligens lämnade mig så medkännande och inkännande, vid liv. Jag vill också tillägga att mångfalden i sig har ett värde och universum är så stort att förekomsten av den mänskliga arten att det faktiskt är mycket låg.
Men jag kan inte tala för hela mänskligheten, så för oss alla, för mig är svårt att hitta en övertygande argument. Bara när jag ser på oss alla, jag ser att en hel del saker som vi har gjort och gör fel. I världen hatar varandra. Vi går i krig med varandra. Vi distribuerar mat orättvist, kunskap och vård. Vi förorenar planeten. I den här världen, naturligtvis, det finns en hel del bra saker, men om du tittar på alla dessa dåliga saker som vi har skapat och fortsätter att skapa, kommer att vara mycket svårt att hitta argument till stöd för vår fortsatta existens.
Lyckligtvis, vi behöver inte motivera sin existens. Vi har fortfarande tid. Från 50 till 250 år, beroende på hur snabbt kommer att utveckla artificiell intelligens. Vi, som art, kan alla komma samman och hitta ett bra svar på den frågan, varför superintelligens kommer inte att torka bort oss inför vår planet.
Det kommer att bli mycket svårt att lösa det här problemet. Efter alla, att säga att vi stöder mångfald och mångfald och att göra det är två helt olika saker. Vilja säga att vi vill rädda planeten, och framgångsrikt för att hantera det.
Vi alla, oavsett om varje enskild person eller för hela samhället måste förbereda sig för ett katastrofalt scenario, med hjälp av denna tid för att vara redo att visa och bevisa varför våra skapelser skulle tillåta oss att fortsätta att existera. Eller så kan vi bara fortsätta att blint tro att en sådan utveckling är omöjligt, och bara sluta prata om detta ämne.
Dock, oberoende av fysisk fara kan vara för oss en superintelligens, vi bör inte glömma att fara han kommer att ha såväl politiska som ekonomiska. Om vi inte kan hitta ett sätt att öka vår levnadsstandard, för att sedan så småningom bara popitem kapitalismen en arbetare artificiell intelligens, som kommer att utgöra endast en handfull av eliten, som har alla medel för produktion.
Originalet av denna artikel publicerades på webbplatsen theconversation.com Arandom Hintze (Arend Hintze), biträdande Professor i integrativ biologi, datavetenskap och teknik Michigan state University
Vad skrämde utvecklare av AI i hans skapelse
Nikolai Khizhnyak