Nogle maskinlæringsforskere mener, at neurale netværk vil blive mere og mere ukontrollerbare og muligvis spinde ud af kontrol, hvilket truer menneskeheden med katastrofe og endda udryddelse. Deres kolleger mener tværtimod, at faren ved moderne intelligente systemer ikke omfatter menneskehedens udryddelse, og en række videnskabsmænd er simpelthen alarmister. Så hvilken en er rigtig? Og hvordan kan vi forstå dette? Et muligt svar tilbydes af forfatterne til et nyt papir fra forskningsinstituttet Forecasting, som bad eksperter inden for kunstig intelligens og andre eksistentielle risici samt specialister i succesfuldt forudsigelse af verdensbegivenheder om at vurdere faren ved kunstig intelligens. Vi fortæller dig, hvad de fandt ud af.
Debatten om, hvorvidt kunstig intelligens vil ødelægge menneskeheden, raser stadig blandt videnskabsmænd. Billede: static1.makeuseofimages.com
AI (kunstig intelligens)er computersystemer, der kan udføre opgaver, der typisk kræver menneskelig intelligens, såsom talegenkendelse og beslutningstagning.
Indhold
- 1 AI vil ødelægge menneskeheden
- 2 Neurale netværk er et nyttigt værktøj
- 3 Hvem har ret?
- 4 globale risici
- 5 uenigheder og svar
AI vil ødelægge menneskeheden
Vi har allerede talt mere end én gang om, hvordan AI-systemer kan udgøre en alvorlig trussel mod menneskehedens fremtid. Nå, science fiction-forfattere elsker simpelthen dette emne, og film som «I, Robot» og «Terminator» er for længst blevet kult. Mange fremtrædende videnskabsmænd er i øvrigt alvorligt bekymrede over de potentielle risici, som kunstig intelligens udgør.
En af dem, der åbent og konsekvent har udtrykt sine bekymringer over truslen fra AI mod menneskeheden, er professor Stephen Hawking, som gentagne gange har udtalt, at udviklingen af AI kunne være “enten den værste eller bedste begivenhed i menneskehedens historie.” Han advarede om, at hvis AI blev skabt og udstyret med overmenneskelig intelligens, kunne det helt sikkert komme ud af kontrol og ødelægge vores civilisation.
Enestående teoretisk fysiker Stephen Hawking har gentagne gange udtalt sig om den mulige trussel fra AI. Billede: analyticsindiamag.com
Professor Nick Bostrom, direktør for Future of Humanity Institute ved Oxford University, advarer også om de mulige farer ved AI. I sin bog «Superintelligens: Stier, farer, strategier» han beskriver scenarier, hvor skabelsen af superintelligent AI kan føre til katastrofale konsekvenser for menneskeheden. Bostrom understreger behovet for at udvikle sikkerhedsforanstaltninger og etiske principper til at guide udviklingen af kunstig intelligens.
Mere om emnet: Kan kunstig intelligens ødelægge menneskeheden inden 2035?
En anden fremtrædende forsker, der går ind for en forsigtig tilgang til AI-udvikling, er Stuart Russell, professor i datalogi ved University of California, Berkeley. Russell udtrykker bekymring for, at AI kan blive så intelligent, atvi ikke vil være i stand til at forudsige dens handlinger. Han mener også, at det er nødvendigt at udvikle sikre og etisk forsvarlige metoder til at skabe og kontrollere AI.
Som du kan se, er bekymringer over de potentielle trusler fra AI blevet udtrykt af mange videnskabsmænd og teknologieksperter, og vi har diskuteret synspunkterne fra en af de mest berømte kritikere af AI, Eliezer Yudkowsky her.
Neural netværk er et nyttigt værktøj
Neurale netværk er AI-systemer baseret på den menneskelige hjernes struktur og funktion, som kan lære og tilpasse sig udføre komplekse opgaver.
Blandt de videnskabsmænd og eksperter, der mener, at kunstig intelligens ikke udgør en alvorlig trussel mod menneskeheden, kan der identificeres flere prominente personer. Disse eksperter fremhæver AI's potentiale til at forbedre liv og løse mange af de problemer, menneskeheden står over for.
Mange forskere ser AI som et nyttigt værktøj snarere end en trussel. Billede: images.unsplash.com
En af dem er Rodney Brooks, tidligere direktør for Massachusetts Institute of Technologys laboratorium for kunstig intelligens og en af grundlæggerne af iRobot. Brooks er kendt for sin skepsis over for apokalyptiske forudsigelser om fremtiden for kunstig intelligens og hævder, at frygten for, at kunstig intelligens vil ødelægge menneskeheden, er baseret på overdrivelser og manglende forståelse for teknologiens nuværende tilstand. Efter hans mening er vi stadig langt fra at skabe AI, der kan udgøre en reel trussel.
Vil du altid være opmærksom på de seneste nyheder inden for videnskabelige opdagelser og højteknologi? Abonner på vores kanal på Telegram – så går du bestemt ikke glip af noget interessant!
En anden velkendt ekspert, der har et positivt syn på udviklingen af kunstig intelligens, er Andrew Ng, professor ved Stanford University og en af grundlæggerne af Coursera. Ng ser kunstig intelligens som et stærkt værktøj til at forbedre folks liv.
Nuværende fremskridt inden for kunstig intelligens, såsom billedgenkendelse og naturlig sprogbehandling, bringer enorme fordele til medicin, uddannelse og andre områder. Frygten for kunstig intelligens er ofte overdreven, og fokus bør være på at tage fat på mere presserende spørgsmål såsom at sikre etisk brug af teknologi og beskytte data, siger han.
Yann LeCun, chef for kunstig intelligens hos Facebook og en af pionererne inden for deep learning, udtrykker også optimisme omkring AI. LeCun mener, at kunstig intelligens kan bringe betydelige fordele for samfundet, hvis den udvikles og bruges korrekt. Han understreger vigtigheden af en tværfaglig tilgang og samarbejde mellem forskere, ingeniører og samfundet for at skabe sikre og nyttige AI-systemer. LeCun påpeger også behovet for at være realistisk med hensyn til de nuværende AI-teknologiers muligheder og begrænsninger.
Kunstig intelligens ændrer verden. Men i hvilken retning? Billede: worldview.stratfor.com
Et andet eksempel på en positiv tilgang til kunstig intelligens er Oren Etzioni, administrerende direktør for Allen Institute for Artificial Intelligence. Etzioni hævder, at AI ikke udgør en eksistentiel trussel mod menneskeheden. Han mener, at den nuværende udvikling af kunstig intelligens er rettet mod at løse specifikke problemer og forbedre folks liv. Efter hans mening er det nødvendigt at fokusere på reguleringen og etiske aspekter af brugen af AI, og ikke på frygten for den mulige ødelæggelse af menneskeheden.
Gå ikke glip af: Kunstig intelligens vil ødelægge menneskeheden i 2075
Hvem har ret?
Så hvordan kan vi forstå, hvilken videnskabsmand der har ret, og hvilken trussel moderne intellektuelle systemer udgør for verden? Forskere fra Forecasting Research Institute forsøgte at finde svaret på dette spørgsmål ved at bede eksperter inden for maskinlæring og forecastere om at vurdere faren ved AI.
Resultatet viste sig at være ikke mindre kontroversielt end udtalelser fra videnskabsmænd præsenteret ovenfor – De to interviewgrupper af eksperter var uenige på mange punkter. Desuden var eksperterne i undersøgelsen generelt meget mere nervøse end prognoserne og satsede meget højere på katastrofe.
Kunstig intelligens er blot en af de globale risici, der truer menneskeheden. Billede: images.squarespace-cdn
Forfatterne af undersøgelsen, offentliggjort på instituttets officielle hjemmeside, ønskede at vide, hvorfor eksperterne var så uenige og organiserede det, de kaldte “modstridende samarbejde”: at have begge grupper af fagspecialister til at bruge mange timer (i gennemsnit 31 timer for eksperter og 80 timer for prognosefolk) om at læse nyt materiale om AI og diskutere disse problemer med folk, der har modsatrettede synspunkter, med en moderator.
Læs også: Neurale netværk har lært at lyve og gøre det med vilje
Ideen var at se, om det ville få dem til at ændre mening ved at give hver gruppe mere information og bedre argumenter fra den anden gruppe. Forskerne var også nysgerrige efter at finde “nøglepunkter”: spørgsmål, der hjælper med at forklare en gruppes overbevisninger og information, der kan ændre deres mening. Forfatterne af værket fokuserede på uenigheder om AI's potentiale til enten at ødelægge menneskeheden eller forårsage økonomisk kollaps.
Der er stadig ingen konsensus om, hvorvidt AI er en trussel eller ej. Billede: static.wixstatic.com
Resultaterne, som nævnt ovenfor, var blandede – tilhængere af ideen om, at AI udgør en trussel mod menneskeheden, reducerede sandsynligheden for en katastrofe før 2100 fra 25 % til 20 %, og optimister hævede den fra 0,1 % til 0,12 %. Med andre ord, begge grupper forblev på samme niveau, som de startede fra.
Rapporten er ikke desto mindre imponerende, fordi den repræsenterer et sjældent forsøg på at samle kloge, velinformerede mennesker, der er uenige. Mens resultaterne af undersøgelsen ikke løste uenigheden mellem eksperter, kastede den lys over, hvor disse forskelle kom fra i første omgang.
Du kan være interesseret i: Den “mørke side” af chatbots: fra kærlighedserklæringer til samtaler med de døde< /p>
Globale risici
Selvfølgelig er der en række andre AI-risici at bekymre sig om, mange af dem står vi allerede over for i dag. For eksempel udviser eksisterende kunstig intelligens systemer nogle gange forstyrrende skævheder og er fremragende til at bedrage brugere, hvilket betyder, at de faktisk kan bruges til skade. Men denne skade, selvom den bestemt er alvorlig, blegner tydeligvis i forhold til «tabet af kontrol over AI, hvilket resulterer i, at alle dør».
Så hvorfor er maskinlæringseksperter så vidt uenige? Forfatterne til den videnskabelige artikel mener, at dette ikke skyldes forskelle i adgang til information eller manglende bevidsthed om forskellige synspunkter.
Hvis dette var tilfældet , så ville fjendtligt samarbejde, som bestod af masseeksponering for ny information og modsatrettede meninger, ændre folks tro endnu mere dramatisk, siger artiklen.
Interessant nok blev meget af uenigheden heller ikke forklaret med forskellige ideer om, hvad der vil ske med AI i de næste par år. Da forskerne parrede optimister og pessimister og sammenlignede deres chancer for katastrofe, var den gennemsnitlige forskel 22,7 %. Vigtigst var dog forskelle i syn på den langsigtede fremtid.
Forskerne besluttede at fokusere på ekstreme, eksistentielle scenarier. Billede: media.licdn.com
Optimister troede generelt, at det ville tage længere tid at skabe super-AI, end pessimister troede. Mange nævnte behovet for robotteknologi for at nå menneskelige niveauer, ikke kun software kunstig intelligens, og argumenterede for, at dette ville være meget vanskeligere.
Du kan være interesseret i: Hvordan ændrer neurale netværk internettet og underviser i kreativitet ?
Det er én ting at skrive kode og tekst på en bærbar computer, men noget helt andet er at lære, som en maskine, at vende en pandekage, rense et flisegulv eller udføre en af de mange andre fysiske opgaver, hvor mennesker nu er robotter overlegne. I sidste ende er sprogmodeller bare modeller for sprog, ikke digitale hyper-humanoide machiavellianere, der arbejder hen imod deres mål.Uenigheder og svar
Den mest interessante kilde til uenighed, som forskerne identificerede, var det, de kalder “fundamentale ideologiske forskelle.” Dette er en fancy måde at sige, at de er uenige om, hvem der har bevisbyrden i en diskussion.
Begge grupper er enige om, at «ekstraordinære påstande kræver ekstraordinære beviser», men de er uenige om, hvilke påstande der er ekstraordinære. Er det overraskende at tro, at kunstig intelligens vil dræbe hele menneskeheden, selvom menneskeheden har eksisteret i flere hundrede tusinde år, eller er det utroligt at tro, at menneskeheden vil fortsætte med at overleve ved siden af kunstig intelligens, der er smartere end mennesker? >
Der er stadig intet enkelt svar på så komplekse spørgsmål. Billede: neurosciencenews.com
Dette er bestemt ikke den mest opmuntrende konklusion at komme til fra undersøgelsen. Uenigheder forårsaget af specifikke meningsforskelle om, hvad der vil ske i de næste par år, er lettere at løse, fordi de er baseret på, hvordan de næste par år vil udspille sig, snarere end på dybe, svære at ændre forskelle i folks overbevisning om, hvordan ting fungerer i verden, og om hvem der bærer bevisbyrden.
Læs også: Globale risici: hvad truer vores civilisation?
På en eller anden måde kender vi ikke. fremtid, og kunstig intelligens Under alle omstændigheder vil det fortsætte med at udvikle sig. Kort sagt, der er stadig ingen enkle svar på komplekse spørgsmål.