Verden må handle raskt for å hindre en fremtid som autonome roboter
med kunstig intelligens streife slagmarker å drepe mennesker,
forskere og armer eksperter advarte på en elite samlet seg i den Sveitsiske
Alpene.
Reglene må være enige om å hindre utvikling av slike våpen,
de sa på en januar 19-23 møte av milliardærer, forskere og
politiske ledere i de snødekte vintersportsstedet Davos.
Angela
Kane, den tyske FNS høykommissær for Nedrustning Saker fra
2012-2015, sa verden hadde vært trege til å ta forebyggende tiltak for å
beskytte menneskeheten fra den dødelige teknologi.
“Kan det være for sent,” sa hun til en debatt i Davos.
“Det
mange land og mange representanter i den internasjonale
samfunnet som virkelig forstår ikke hva som er involvert. Dette
utviklingen er noe som er begrenset til et visst antall av avansert
land,” Kane sa.
Distribusjon av autonome våpen ville representere en farlig ny epoke innen krigføring, forskere sa.
“Vi
er ikke snakk om droner, hvor en menneskelig pilot er å styre
drone,” sa Stuart Russell, professor i informatikk ved Universitetet
of California, Berkeley.
“Vi snakker om autonome
våpen, noe som betyr at det er ingen bak det. AI: kunstig
etterretning våpen,” fortalte han et forum i Davos. “Meget presist,
våpen som kan finne og angripe mål uten menneskelig inngripen.”
Robot kaos på slagmarken
Russell
sa han ikke forutså en dag der roboter kjempe kriger for mennesker
og på slutten av dagen ene siden sier: “OK, du vant, så du kan få
alle våre kvinner.”
Men noen 1,000 vitenskap og teknologi sjefer
blant Britiske fysikeren Stephen Hawking, sa i et åpent brev siste
Juli at utviklingen av våpen med en viss grad av selvstendig
beslutningsprosessen kapasitet kunne være mulig i år, ikke flere tiår.
De
kalles for et forbud mot støtende autonome våpen som er utenfor
meningsfylt menneskelig kontroll, advarsel om at verden kunne gli inn i en
kunstig intelligens våpenkappløp og heve alarmen over risikoen for
slike våpen faller i hendene på voldelige ekstremister.
“Spørsmålet er, kan disse maskinene følger det regler i krig?” Russell sier.
‘Hinsides fatteevne’
Hvordan,
for et eksempel, kan en autonom våpen skille mellom
sivile, soldater, motstandsfolk og opprørerne? Hvordan kunne det vet
at det ikke skal drepe en pilot som har kastet ut fra et fly og er
fallskjermhopping til bakken?
“Jeg er mot roboter for etisk
grunner, men jeg tror ikke etiske argumenter vil vinne dag. Jeg
tror strategiske argumenter vil vinne dag,” Russell sier.
Den
Usa hadde gitt avkall på biologiske våpen på grunn av risikoen for at
en dag vil de kunne brukes av “nesten alle”, sa han. “Jeg håper dette
vil skje med roboter.”
Alan Winfield, professor i elektronisk
engineering ved University of the West of England, varslet at
å fjerne mennesker fra battlefield beslutningsprosess ville ha grav
konsekvensene.
“Det betyr at mennesker er fratatt fra moralsk ansvar,” Winfield sa.
Videre,
reaksjonen av roboter kan være vanskelig å forutsi, sa han: “Når du
sette en robot i et kaotisk miljø, oppfører det seg kaotisk.”
Roger Carr, leder av British aerospace og forsvar gruppe BAE, avtalt.
“Hvis
du fjerne etikk og dømmekraft og moral fra gjennomsyret
om det er fred eller krig, vil du ta menneskeheten til et nytt nivå
som er utenfor vår fatteevne,” Carr advart.
“Du like
kan ikke sette noe inn i feltet, hvis det feil, kan være
veldig ødeleggende med ingen kontroll mekanisme fra et menneske. Det er grunnen til at
navlestrengen link, mannen til maskinen, er ikke bare å bestemme når du skal distribuere
våpen, men det er også muligheten til å stoppe prosessen. Begge er
like viktig.”
Last ned Gadgets 360-app for Android og iOS for å holde deg oppdatert med den nyeste tech nyheter, produkt
anmeldelser og eksklusive tilbud på de populære mobiler.