Så længe mennesker er fornuftige, når de skaber de operationelle programmer, robotter vil give enorme fordele for menneskeheden, siger ekspert
@hannahdev
Mon 11 Jun 2018 kl 11: 00 BST
Sidst opdateret om Man 11 Jun 2018 11.02 BST
En scene fra Terminator Salvation (2009).
Foto: Allstar/Warner Bros.
Tanken om at killer robotter stiger op og ødelægge mennesker er en Hollywood fantasy og en distraktion fra de mere presserende dilemmaer, som intelligente maskiner til stede for at samfundet, ifølge en af Storbritanniens mest indflydelsesrige it-forskere.
Sir Nigel Shadbolt, professor i computer science ved University of Oxford, forudsiger, at AI vil bringe overvældende fordele for menneskeheden, en revolutionering af kræft diagnose og behandling, og omdanne uddannelse og på arbejdspladsen. Hvis der opstår problemer, sagde han, vil det ikke være fordi tænkende maskiner er uventet gået rogue i en Terminator-lignende scenario.
“Faren er helt klart ikke, at robotter vil beslutte at sætte os væk og har en robot revolution,” sagde han. “Hvis der [er] killer robotter, vil det være fordi vi har været dumme nok til at give instruktioner, eller software for at gøre det uden at have et menneske i løkken, de beslutter.”
Prof Shadbolt gjorde kommentarer forud for en snak på CogX konference i London på mandag, hvor en række af de ledende figurer er at præsentere på den seneste udvikling i AI og deres potentielle konsekvenser.
Jürgen Schmidhuber, et tysk computer videnskabsmand og en pioner inden for den moderne machine learning, var også afvisende over for tanken om, at dawn of AI kan resultere i, at dommedag for menneskeheden. “Underholdnings-industrien er stærkt på at plante disse ideer i jeres hoveder, men faktisk parceller i disse film er virkelig dumt,” sagde han.
Schmidhuber, der kører AI selskab Nnaisense, der er baseret i Lugano, Schweiz, og der er også set på CogX på mandag, citeret “intens kommercielle pres” mod virksomheder, der gør en menneske-venligt AI. “95% af alle AI-forskning handler om at gøre menneskers liv længere, sundere og gladere,” sagde han. “De ønsker at sælge dig noget, som du ønsker at købe.”
Tidligere, Elon Musk, CEO af Tesla, og en tidlig investor i Google DeepMind, advarede om, at intelligente maskiner udgør en eksistentiel trussel mod menneskeheden. Der har også været rejst, at autonome maskiner kunne forlade stort antal mennesker uden job og skabe enorme rigdom uligheder.
Men, Prof Shadbolt er optimistisk omkring de sociale og økonomiske konsekvenser af nye teknologier såsom machine learning, hvor edb-programmer, lærer opgaver ved at lede efter mønstre i store datasæt.
Q&A Hvordan maskiner lære?
Vis
Skjul
Et centralt mål for området for kunstig intelligens er for maskiner til at være i stand til at lære at udføre opgaver og træffe beslutninger uafhængigt af hinanden, i stedet for at være eksplicit, som er programmeret med ufleksible regler. Der er forskellige måder at opnå dette i praksis, men nogle af de mest markante fremskridt på det seneste, såsom AlphaGo, er der anvendt en strategi, der kaldes forstærkning læring. Typisk vil maskinen have et mål, som oversætter en sætning fra engelsk til fransk og et massivt datasæt til at træne på. Det starter bare at lave en stab på opgaven – i oversættelse eksempel, at det ville begynde at producere forvansket vrøvl og sammenligne sine forsøg mod eksisterende oversættelser. Det program er så “belønnet” med en score når det er vellykket. Efter hver iteration af den opgave, den forbedres, og efter et utal af genudsendelser, sådanne programmer kan matche og endda overgå det niveau af menneskelige oversættere. At få maskiner til at lære mindre veldefinerede opgaver, eller dem, som ingen digitale datasæt, der eksisterer, er et fremtidigt mål, som vil kræve en mere generel form for intelligens, beslægtet med almindelig sund fornuft.
Var dette en hjælp?
Tak for din feedback.
“Jeg kan ikke se at det ødelægger arbejdspladser grim reaper stil,” sagde han. “Folk er virkelig opfindsomme til at skabe nye ting for mennesker at gøre, som vil betale dem en løn. Fritid, rejser, social omsorg, kulturarv, selv reality TV-shows. Folk ønsker, at folk omkring dem og interagere med dem.”
På samme måde, Shadbolt foreslået, udsigten til, at mennesker udvikler følelsesmæssige bånd til maskiner, der ikke var helt ukendt territorium. “Vi vil embue [robotter] med masser af menneskelige kvaliteter, vi vil begynde at føle med dem,” sagde han. “Det betyder ikke, at disse systemer til at være selv-bevidst. Du anthropomorphise din guldfisk i hjemmet. Jeg mente, at med en bamse, da jeg var barn.”
Men han erkendte, at nyeste fremskridt inden for AI, som omfatter evnen til ikke kun at fortolke billeder og videoer, men til kunstigt at skabe det materiale, der er rejst “ubehageligt” nye muligheder.
“En efterlevende enke [kunne] beslutte at beholde sin mands stemme rundt på hendes Alexa,” sagde han. “Der vil være den digitale lyrisk stemme og karakter af en elsket. Der kommer til at ske. Disse systemer vil ikke blot være falmede billeder, de vil være i stand til at skabe nye samtaler.”
Shadbolt sagde, at det var vigtigt, at det offentlige er involveret i diskussioner om etik for, hvordan AI er anvendt, herunder behovet for gennemsigtighed omkring, hvordan maskiner træffe beslutninger og af, hvordan personlige data, herunder medicinske optegnelser, der anvendes.
Virksomheder har allerede deltaget i en række samarbejder med det offentlige SUNDHEDSVÆSEN, for at uddanne algoritmer til at udføre diagnosticering, stream-line hospital processer eller til at udvikle programmer, der kan identificere patienter med risiko. Schmidhuber sagde, at fordelene ved at gøre medicinske data til rådighed, er enorme, og det vil være nødvendigt, at der skabes “super-menneskelige kunstige læger”.
Men han advarede om, at det offentlige sundhedsvæsen burde være at beskytte den kommercielle værdi af patient-data. “Mange hospitaler ikke engang ved, at de sidder på en skat,” sagde han. “Det kan være, at nogle hospitaler er naive og ikke klar over, hvor værdifuldt nogle af disse ting kunne være at store IT-virksomheder, der er tusindvis af miles aways. Hvis jeg skulle køre NHS, at jeg ville tage skridt til at etablere et marked, hvor det bliver klart, hvad er værdien af dette data.”