Som mennesker, der er involveret i kunstig intelligens forskning, møder jeg ofte det synspunkt, at mange mennesker er bange for AI, og hvad det kan blive til. Det er egentlig ikke overraskende, når de ses fra synspunktet af historien om menneskeheden, mens man er opmærksom på, hvad vi bliver fodret af underholdnings-industrien, at folk kan være bange for den kybernetiske opstand, der har tvunget os til at leve i et isoleret område, og den anden forvandlet til en “Macrocephaly” menneskelige batterier.
Stadig, for mig, at kigge på alle disse evolutionære computer modeller, som jeg bruger i udviklingen af AI, det er svært at tænke på det faktum, at min harmløse, ren som en tåre baby skabe på min computer skærm, en dag kan blive til monstre futuristiske dystopi. Hvis du kalder mig en “destroyer of worlds”, som en gang var ked af det og talte om sig selv Oppenheimer, efter at han førte program til at lave en atombombe?
Måske ville jeg have accepteret, at ære, og måske kritikere af mit arbejde stadig ret? Måske jeg burde virkelig stoppe med at undgå spørgsmål om, hvad slags frygt i forhold til kunstig intelligens til rådighed for mig som en ekspert inden for AI?
Frygten for uforudsigelighed
Computeren HAL 9000, som blev drømmen om science fiction Arthur Charles Clarke og bragt til live af Instruktøren Stanley Kubrick i sin film “Space Odyssey 2001” er et godt eksempel på et system, som mislykkedes på grund af uforudsete omstændigheder.
I mange komplekse systemer, Titanic, NASA Rumfærgen, og Tjernobyl-atomkraftværket, ingeniører var nødt til at kombinere de mange komponenter. Måske arkitekterne af disse systemer blev meget opmærksom på, hvordan hvert element, der arbejder individuelt, men de er ikke godt forstået, hvordan alle disse komponenter arbejder sammen.
Resultatet var et system, som aldrig blev forstået af deres skabere, der førte til, at visse konsekvenser. I hvert tilfælde skibet sank, to afgange er eksploderet, og næsten hele Europa og dele af Asien er konfronteret med den problem af radioaktive forurening – et sæt af relativt små problemer, men ved en tilfældighed der skete på samme tid, har skabt en katastrofal effekt.
Jeg kan nemt forestille mig, hvordan vi, skaberne af AI kan komme til et lignende resultat. Vi tager den nyeste udvikling og forskning i cognitice (kognitiv videnskab — ca. ed), omsætte dem i computer-algoritmer og tilføj det hele ind i det eksisterende system. Vi forsøger at udvikle AI uden fuldt ud at forstå deres egen intelligens og bevidsthed.
Systemer som Watson fra IBM eller Alpha fra Google, er kunstige neurale netværk, med imponerende design og evner og er i stand til at klare virkelig udfordrende opgaver. Konsekvenserne af fejl i deres arbejde, er resultatet af et tab i den intellektuelle spil “Jeopardy!” eller en forspildt mulighed for at vinde en anden af verdens bedste spiller i desktop-logisk spil.
Disse effekter er ikke global karakter. Faktisk det værste, der kan ske for mennesker, i dette tilfælde er nogen taber nogle penge på priser.
Men arkitekturen i AI bliver sværere, og computeren processer hurtigere. Muligheden for AI over tid vil kun stige. Og allerede det vil føre os til, hvad vi begynde at pålægge AI mere og mere ansvar, på trods af den stigende risiko for uforudsete omstændigheder.
Vi er godt klar over, at fejl er en del af den menneskelige natur”, så for os vil det være bare fysisk umuligt at skabe en virkelig sikker i hele systemet.
Frygt for misbrug
Meget bekymret over uforudsigelige konsekvenser i AI, at jeg er ved at udvikle, ved hjælp af den fremgangsmåde, der i den såkaldte neuroevolution. Jeg kan skabe et virtuelt miljø, og udfylde deres digitale væsner, ved at give dem “hjerne” af holdet til at løse problemer af stigende sværhedsgrad.
Over tid, effektiviteten af at løse de problemer, som disse skabninger stiger, evolyutsioniruet. De, der kunne klare opgaven bedre, er alle udvalgt til reproduktion, der skabes på grundlag af en ny generation. Over mange generationer, disse digitale oprette udvikle kognitive evner.
For eksempel lige nu er vi ved at gøre de første skridt i udvikling af maskiner til at udføre simple navigation opgaver, at lave enkle løsninger, eller huske par stumper af information. Men snart vil vi opnå udvikling af maskiner, der kan udføre mere komplekse opgaver og vil være meget mere effektiv samlede niveau af intelligens. Vores endelige mål er at skabe intelligens på menneskeligt niveau.
Under denne udvikling vil vi forsøge at opdage og løse alle fejl og problemer. Med hver ny generation af maskiner, der vil være bedre i stand til at klare fejl, i forhold til tidligere. Dette vil øge chancerne for, at vi vil være i stand til at identificere alle de utilsigtede konsekvenser i simuleringer og fjerne dem, før de kan realiseres i den virkelige verden.
En anden mulighed, som giver den evolutionære metode til udvikling er en styrkelse af kunstig intelligens etik. Det er sandsynligt, at sådanne etiske og moralske egenskaber, en person, som en pålidelig og altruisme er resultatet af vores evolution, og en faktor i dens fortsættelse.
Vi kan skabe et kunstigt miljø og udstyre maskiner evner, der giver dem mulighed for at vise venlighed, ærlighed og empati. Dette kunne være en måde at sikre, at vi udvikler et mere lydige tjenere end den hensynsløse killer robotter. Men på trods af det faktum, at neuroevolution kan reducere omfanget af utilsigtede konsekvenser i AI adfærd, kan det ikke forhindre misbrug af kunstig intelligens.
Som en videnskabsmand, jeg skal overholde deres forpligtelser med hensyn til sandhed og til at rapportere, at der har opdaget i deres eksperimenter, uanset, jeg kan lide deres resultater eller ej. Min opgave er ikke at bestemme, hvad jeg kan lide og hvad ikke. Det er kun vigtigt, at jeg kan offentliggøre mit arbejde.
Frygt for forkerte sociale prioriteter
At være forsker betyder ikke, at miste menneskeheden. Jeg har på et vist niveau, for at genvinde kontakten med deres håb og frygt. For at være moralsk og politisk motiveret person, jeg er nødt til at overveje de potentielle konsekvenser af deres arbejde, og deres mulige effekt på samfundet.
Som forskere og som medlemmer af samfundet, og vi har stadig ikke nået til en klar idé om, præcis hvad du ønsker fra AI, og hvad det bør blive i den sidste ende. Dette er til dels, selvfølgelig, på grund af det faktum, at vi stadig ikke fuldt ud forstår dens potentiale. Men stadig er vi nødt til klart at forstå og beslutte, hvad vi ønsker at få virkelig avanceret kunstig intelligens.
En af de største områder, hvor folk betaler opmærksomhed i en samtale om AI, er beskæftigelse. Robotter, der allerede udfører for os, svært fysisk arbejde, for eksempel, montage og svejsning mellem dele af bilen organer. Men en dag, den dag vil komme, hvor robotter vil være en opgave med en kognitiv opgave, det er, de vil opkræve, hvad der tidligere blev betragtet som en udelukkende unik mulighed for af manden selv. Selvkørende biler vil erstatte taxa chauffører, selvforvaltende fly, vil behovet for piloter.
I stedet for at modtage lægehjælp i akutte værelser, altid fyldt med trætte personale og læger, patienter vil være i stand til at foretage undersøgelser og til at kende diagnosen gennem ekspert systemer med umiddelbar adgang til medicinsk viden. Kirurgi vil være uigennemtrængelig for træthed af robotter, er “noget af en arm.”
Juridisk rådgivning kan være opnået fra den omfattende juridiske rammer. For rådgivning om investering, der vil appellere til ekspert-system på markedet prognoser. Måske en dag alle menneskers arbejde vil blive udført af maskiner. Selv min arbejdet kan gøres hurtigere ved brug af et stort antal maskiner, hele tiden at undersøge, hvordan for at gøre maskinerne mere intelligent.
I virkeligheden i vores nuværende samfund automatisering er allerede får folk til at forlade deres job, at gøre de rige ejere af sådanne automatiserede maskiner rigere og resten fattigere. Men dette er ikke et videnskabeligt problem. Det er en politisk og socio-økonomisk problem, der skal løses af samfundet selv.
Min forskning vil ikke ændre sig, men min politiske principper, der sammen med menneskeheden, kan føre til, under hvilke omstændigheder AI kan blive en yderst nyttig funktion, i stedet for at gøre forskel mellem den ene procent globale elite og resten af os endnu bredere.
Frygt for en katastrofal scenario
Vi fik til den sidste frygt, vi er pålagt den vanvittige HAL 9000, Terminator, og andre onde superintelligens. Hvis AI vil fortsætte med at udvikle sig, indtil, indtil du overskrider den menneskelige intelligens, uanset om kunstig swarmintelligence system (eller et sæt af systemer) til at betragte mennesket som et ubrugeligt materiale? Hvordan kan vi retfærdiggøre sin eksistens i lyset af superintelligens i stand til at gøre og skabe noget, som ikke vil være i stand til at ingen? Hvis vi kan undgå den skæbne, at blive jævnet med Jorden af de maskiner, som vi var med til at skabe?
Så det vigtigste spørgsmål under sådanne omstændigheder ville være: hvorfor har vi brug for kunstig superintelligens?
Havde sådan en situation, jeg ville sikkert have sagt, at jeg var en god mand, der selv har bidraget til udarbejdelsen af denne superintelligens, der er nu. Jeg ville have appelleret til hans medfølelse og empati til at superintelligens har efterladt mig sådan medfølende og indlevende, i live. Jeg vil også tilføje, at mangfoldighed i sig selv har værdi og universet er så stort, at eksistensen af den menneskelige art det er faktisk meget lav.
Men jeg kan ikke tale for hele menneskeheden, så for alle os, mig er svært at finde et overbevisende argument. Bare når jeg ser på os alle, jeg kan godt se, at en masse ting, vi har gjort og gør forkert. I den verden hader hinanden. Vi går i krig med hinanden. Vi distribuerer mad uretfærdigt, viden, og medicinsk behandling. Vi forurene planeten. I denne verden, er naturligvis, at der er en masse gode ting, men hvis man ser på alle de dårlige ting, som vi har skabt og fortsætter med at skabe, vil være meget svært at finde et argument til støtte for vores fortsatte eksistens.
Heldigvis er vi ikke nødt til at retfærdiggøre deres eksistens. Vi har stadig tid. Fra 50 til 250 år, afhængigt af hvor hurtigt vil udvikle kunstig intelligens. Vi, som art, er i stand til at alle komme sammen og finde et godt svar på spørgsmålet, hvorfor superintelligens vil ikke have at tørre os ud på forsiden af planeten.
Det vil være meget vanskeligt at løse dette problem. Efter alt, er at sige, at vi støtter mangfoldighed og forskellighed, og at gøre det er to helt forskellige ting. Som at sige, at vi ønsker at redde planeten, og med held for at klare det.
Vi er alle, uanset om den enkelte person eller for samfundet som helhed skal forberede sig til en katastrofal scenarie, der bruger denne tid til at være klar til at vise og bevise, hvorfor vores kreationer bør give os mulighed for at fortsætte med at eksistere. Eller vi kan bare fortsætte med at blindt tro, at en sådan udvikling er umulig, og bare stoppe med at tale om dette emne.
Men uanset den fysiske fare, der kan være for os med en superintelligens, vi bør ikke glemme, at den fare, han vil have såvel politisk som økonomisk. Hvis vi ikke kan finde en måde at øge vores levestandard, så til sidst bare popitem kapitalismen en arbejdsmand kunstig intelligens, som kun vil tjene en håndfuld af den elite, der er i besiddelse af produktionsmidlerne.
Den oprindelige denne artikel blev offentliggjort på hjemmesiden theconversation.com Arandom Hintze (Arend Hintze), assistant Professor of integrative biology, computer science and engineering Michigan state University
Hvad bange udvikleren af AI i hans skabelse
Nikolai Khizhnyak