Så länge människor är förnuftiga när de skapar den operativa program, robotar kommer att medföra enorma fördelar för mänskligheten, säger expert
@hannahdev
Mon 11 Jun 2018 11.00 BST
Senast ändrad Mån 11 Jun 2018 11.02 BST
En scen från Terminator Salvation (2009).
Foto: Allstar/Warner Bros.
Idén med killer robotar som stiger upp och förstöra för människor, är en Hollywood fantasi och en distraktion från de mer akuta problem som intelligenta maskiner nuvarande samhället, enligt en av Storbritanniens mest inflytelserika forskare dator.
Sir Nigel Shadbolt, professor i datavetenskap vid Universitetet i Oxford, förutspår att AI kommer att ge överväldigande fördelar för mänskligheten, att revolutionera cancer diagnos och behandling, och att omvandla utbildning och arbetsplats. Om det uppstår problem, sade han, det kommer inte att vara eftersom kännande maskiner har oväntat gått skurk i en Terminator-liknande scenario.
“Faran är uppenbarligen inte att robotar kommer att besluta att sätta oss och ha en robot revolution”, sade han. “Om det [är] killer robotar, det kommer att bli, eftersom vi har varit dum nog att ge instruktioner eller program för det att göra det utan att ha en människa i slingan beslut.”
Prof Shadbolt gjorde kommentarer inför ett föredrag vid CogX konferens i London på måndag, då ett antal ledande personer är att presentera den senaste utvecklingen i AI och deras eventuella påverkan.
Jürgen Schmidhuber, en tysk dator vetenskapsman och en pionjär för modern maskin lärande, var också avvisande till tanken att i början av AI kan resultera i doom för mänskligheten. “Upplevelseindustrin är ett kraftfullt på att plantera tankarna i ditt huvud, men egentligen tomter i dessa filmer är riktigt dumma,” sade han.
Schmidhuber, som driver AI företaget Nnaisense, baserat i Lugano, Schweiz och som också talade vid CogX på måndag, hänvisas till “intensiv kommersiella trycket” mot företag som gör människa-friendly AI. “95% av alla AI-forskning handlar om att göra människors liv längre, friskare och lyckligare”, sa han. “De vill sälja på dig något som du vill köpa.”
Tidigare, Elon Musk, VD för Tesla och en tidig investerare i Google DeepMind, varnade för att intelligenta maskiner utgör ett existentiellt hot mot mänskligheten. Farhågor har också framförts att autonoma maskiner som kan lämna stora antalet människor som är utan jobb och skapa stor mängd orättvisor.
Men, Prof Shadbolt är optimistisk om de sociala och ekonomiska konsekvenserna av ny teknik för lärande, i vilket datorprogram lära dig saker genom att leta efter mönster i stora datamängder.
Q&A: Hur har maskiner lära sig?
Visa
Dölja
Ett centralt mål för området artificiell intelligens är för maskiner för att kunna lära sig att utföra uppgifter och fatta beslut självständigt, snarare än att vara uttryckligen programmerad med stelbenta regler. Det finns olika sätt att uppnå detta i praktiken, men några av de mest slående framsteg på senare tid, såsom AlphaGo, har använt en strategi som kallas inlärning. Vanligtvis kommer maskinen har ett mål, såsom att översätta en mening från engelska till franska och ett omfattande dataset att träna på. Det börjar bara göra ett hugg på den uppgiften – i översättning exempel att det skulle börja genom att producera förvrängd nonsens och jämföra sina försök mot befintliga översättningar. Programmet är sedan “belönas” med en poäng när den är framgångsrik. Efter varje iteration av den uppgift som den förbättrar och efter ett stort antal repriser, sådana program kan matcha och till och med överstiger den nivå av mänskliga översättare. Få maskiner att lära sig mindre väl definierade uppgifter eller de som har ingen digital data som finns är ett framtida mål som skulle kräva en mer allmän form av intelligens, som är besläktad med sunt förnuft.
Var detta till hjälp?
Tack för din feedback.
“Jag ser det inte förstör arbetstillfällen liemannen stil,” sade han. “Människor är verkligen uppfinningsrika på att skapa nya saker för människor att göra som kommer att betala dem en lön. Fritids -, rese -, social omsorg, kulturarv, även reality-TV-program. Folk vill ha människor runt omkring dem och interagera med dem.”
På samma sätt, Shadbolt föreslog, möjligheter för människor att utveckla känslomässiga band med maskiner var inte helt okänt territorium. “Vi ska embue [robotar] med massor av mänskliga egenskaper, kommer vi att börja känna empati med dem”, sade han. “Som inte kräver dessa system att vara självmedveten. Du anthropomorphise din guldfisk hemma. Jag verkligen gjorde det med en nalle när jag var barn.”
Men han medgav att senaste framstegen inom AI, som har förmågan att inte bara tolka bilder och videor, men att på konstgjord väg skapa detta material, upp “obekväma” nya möjligheter.
“En sörjande änka [kunde] besluta att hålla sin mans röst runt på hennes Alexa,” sade han. “Det ska bli den digitala postuma röst och karaktär av en nära anhörig. Det kommer att hända. Dessa system kommer inte bara vara blekta foton kommer de att kunna skapa nya konversationer.”
Shadbolt sa att det var viktigt att den offentliga diskussioner om etik för hur AI tillämpas, inklusive behovet av öppenhet kring hur maskiner fatta beslut och hur personuppgifter, inklusive journaler, används.
Företag som redan har deltagit i en rad samarbeten med NHS för att träna algoritmer för att utföra en diagnos, stream-line sjukhus processer eller för att utveckla program som kan identifiera patienter i riskzonen. Schmidhuber sade att fördelarna med att göra medicinska uppgifter som finns tillgängliga är enorm och kommer att vara nödvändigt för att skapa en “super-människa konstgjorda läkare”.
Han varnade dock för att offentliga hälso-och sjukvården bör vara att skydda det kommersiella värdet av patientdata. “Många sjukhus inte ens vet att de sitter på en skatt”, sade han. “Det kan vara så att vissa sjukhus är naiv och inte inser hur värdefull del av detta material kan vara till stort IT-företag som ligger tusentals miles away. Om jag kör NHS jag skulle vidta åtgärder för att inrätta en marknad där det blir tydligt vad som är värdet av denna data.”