Världen måste agera snabbt för att förhindra en framtid där autonoma robotar
med artificiell intelligens strövar slagfält döda människor,
forskare och armar experter varnade för i en elit samlas i den Schweiziska
Alperna.
Reglerna måste vara överens för att förhindra utveckling av sådana vapen,
de sa på en 19-23 januari mötes-och miljardärer, forskare och
de politiska ledarna i de snötäckta skidorten Davos.
Angela
Kane, den tyska FN: s Höge Representant för nedrustningsfrågor från
2012-2015, sa att världen hade varit långsamma med att vidta förebyggande åtgärder för att
skydda mänskligheten från den dödliga teknik.
“Kan det vara för sent,” sade hon till en debatt i Davos.
“Det
finns många länder och många representanter i internationella
gemenskapen som verkligen inte förstår vad som är inblandade. Detta
utveckling är något som är begränsat till ett visst antal avancerade
länder”, Kane säger.
Utbyggnaden av autonoma vapen skulle vara en farlig ny era i krig, forskare har sagt.
“Vi
talar inte om drönare, där en mänsklig pilot styr
drone”, säger Stuart Russell, professor i datavetenskap vid Universitetet
of California, Berkeley.
“Vi talar om autonoma
vapen, vilket innebär att det inte finns någon bakom. AI: artificiell
intelligens vapen”, sa han till ett forum i Davos. “Mycket exakt,
vapen som kan leta upp och attackera mål utan mänsklig inblandning.”
Robot kaos på slagfältet
Russell
sa att han inte förutse en dag där robotar slåss i krig för människor
och i slutet av dagen den ena sidan säger: “OK du vann, så att du kan ha
alla våra kvinnor.”
Men omkring 1 000 vetenskap och teknik chefer
bland annat Brittiske fysikern Stephen Hawking, sade i ett öppet brev senast
Juli att utvecklingen av vapen med en viss grad av autonoma
förmåga att fatta beslut kan vara möjligt i år, inte decennier.
De
efterlyst ett förbud mot kränkande autonoma vapen som är längre än
meningsfull mänsklig kontroll, varnar för att världen riskerade att glida in i en
artificiell intelligens kapprustning och höja en oro över riskerna med
sådana vapen inte hamnar i händerna på våldsamma extremister.
“Frågan är om dessa maskiner följa reglerna för krig?” Russell sa.
‘Obegripliga’
Hur,
för ett exempel, kan en autonoma vapen skilja mellan
civila, soldater, motståndsmän och rebeller? Hur kunde den veta
att det inte ska döda en pilot som har kastats ut från ett plan och är
fallskärmshoppning till marken?
“Jag är mot robotar för etiska
skäl men jag tror inte att etiska argument kommer att vinna dagen. Jag
tror strategiska argument kommer att vinna i dag,” Russell sa.
Den
Usa hade avstått från biologiska vapen på grund av risken för att
en dag de skulle kunna utnyttjas av “vem som helst”, sade han. “Jag hoppas att
kommer att hända med robotar.”
Alan Winfield, professor i elektroniska
engineering vid University of the West of England, varnade för att
ta bort människor från battlefield beslutsfattande skulle ha grav
konsekvenser.
“Det innebär att människan är berövad ett moraliskt ansvar,” Winfield sagt.
Dessutom,
reaktionen av robotar kan vara svårt att förutsäga, sade han: “När du
sätta en robot i en kaotisk miljö, den beter sig kaotiskt.”
Roger Carr, ordförande för den Brittiska flyg-och försvarskoncernen BAE, kommit överens om.
“Om
du tar bort etik och omdöme och moral från mänsklig strävan
om det är fred eller krig, kommer du att ta mänskligheten till en annan nivå
som är bortom vår fattningsförmåga,” Carr varnade.
“Du är lika
kan inte sätta något i det område som, om det inte fungerar, kan vara
mycket destruktivt med ingen kontrollmekanism från en människa. Det är därför som
navelsträngen länk, man-till-maskin, är inte bara att bestämma när du ska distribuera
vapnet men det är också förmågan att stoppa processen. Båda är
lika viktigt.”
Ladda ner Prylar 360 app för Android och iOS för att hålla dig uppdaterad med de senaste tekniska nyheterna, produkt
recensioner och exklusiva erbjudanden på populära mobiler.