Åpent brev signert av Tesla-sjef og Googles Mustafa Suleyman oppfordrer FN til å blokkere bruk av dødelig autonome våpen for å hindre tredje alder av krigen
Søndag 20. August 2017 15.01 BST
Sist endret på søndag 20. August 2017 19.56 BST
Noen av verdens ledende robotics og kunstig intelligens pionerer ringer på fn for å forby utvikling og bruk av killer roboter.
Tesla er Elon Musk og Googles Mustafa Suleyman er å lede en gruppe av 116 spesialister fra hele 26 land som kaller for forbud mot autonome våpen.
FNS nylig kåret til å begynne formelle diskusjoner om slike våpen, som inkluderer droner, tanker og automatiske maskingevær. I forkant av dette, gruppen av grunnleggerne av AI og robotics selskaper har sendt et åpent brev til FN som ringer for å hindre våpenkappløpet som er for øyeblikket under måte for killer roboter.
I sitt brev, grunnleggerne advare gjennomgang konferanse for konvensjonen om konvensjonelle våpen som dette våpenkappløpet truer med å innlede den “tredje revolusjon i krigføring” etter krutt og kjernefysiske våpen.
Grunnleggerne skrev: “en Gang utviklet, dødelige autonome våpen vil tillate væpnede konflikten til å bli utkjempet på en skala større enn noensinne, og på tidsperioder raskere enn mennesker kan forstå. Disse kan være våpen av terror, våpen som despots og terrorister bruker mot uskyldige bestander, og våpen hacket til å oppføre seg på uønskede måter.
“Vi har ikke lang tid på å handle. Når denne Pandoras eske er åpnet, vil det være vanskelig å lukke.”
Eksperter har tidligere advart om at AI-teknologien har nådd et punkt hvor distribusjon av autonome våpen som er praktisk mulig innen årene, snarere enn flere tiår. Mens AI kan brukes til å gjøre battlefield et tryggere sted for militært personell, eksperter frykter at offensive våpen som opererer på egen hånd ville senke terskelen for å gå til kamp, og føre til større tap av menneskeliv.
Brevet, lanserer ved åpningen av den Internasjonale Felles Konferanse om Kunstig Intelligens (IJCAI) i Melbourne på mandag, har støtte av høy-profil tall i robotics feltet og sterkt understreker behovet for å handle, etter at FN ble tvunget til å utsette et møte som var planlagt å starte mandag for å gjennomgå saken.
Grunnleggerne kaller “moralsk forkastelig” dødelig autonome våpen-systemer som skal legges til listen av våpen som er forbudt i henhold til FN ‘ s konvensjon om visse konvensjonelle våpen (CCW) brakte i kraft i 1983, som omfatter kjemiske og med vilje blindende laservåpen.
Toby Walsh, Scientia professor i kunstig intelligens ved University of New South Wales i Sydney, sa: “Nesten hver teknologi kan brukes for godt og dårlig, og kunstig intelligens er ikke annerledes. Det kan bidra til å håndtere mange av de presserende problemene man står overfor i samfunnet i dag: ulikhet og fattigdom, de utfordringene som klimaendringene og den pågående globale finanskrisen.
“Men den samme teknologien kan også brukes i autonome våpen for å industrialise krigen. Vi trenger å ta beslutninger i dag velge hvilke av disse fremtid vi ønsker.”
Moskus, en av underskriverne av det åpne brevet, har gjentatte ganger advart om for behovet for pro-aktiv regulering av AI, kall det menneskehetens største eksistensiell trussel, men mens AI ‘ s destruktive potensial er som anses av noen å være enorme, det er også tenkt å være borte.
Ryan Gariepy, grunnleggeren av Clearpath Robotics sa: “i Motsetning til andre potensielle manifestasjoner av AI som fortsatt i riket av science fiction, autonome våpen-systemer er på cusp av utvikling akkurat nå, og ha en svært reell potensial for å forårsake betydelig skade på uskyldige mennesker sammen med en global ustabilitet.”
Dette er ikke første gang IJCAI, en av verdens ledende AI konferanser, har blitt brukt som en plattform for å diskutere dødelig autonome våpen-systemer. For to år siden konferansen ble brukt til å starte et åpent brev signert av tusenvis av AI og robotics forskere inkludert Moskus og Stephen Hawking på samme måte kaller for et forbud, noe som bidro til å presse FN til formelle samtaler om teknologi.
Den BRITISKE regjeringen er imot et slikt forbud på dødelige autonome våpen i 2015, med utenriksdepartementet om at “internasjonal humanitær lov allerede gir tilstrekkelig regulering for dette området”. Det er sagt at STORBRITANNIA var ikke å utvikle dødelig autonome våpen og at alle våpen er ansatt av STORBRITANNIAS væpnede styrker ville være “under menneskelig kontroll, og kontroll”.
Science fiction eller vitenskap faktum?
T-800 fra Terminator-film-franchise. Foto: Melinda Saksøke Gordon/Allstar/Paramount Pictures
Mens forslaget om killer roboter maner frem bilder fra science fiction som Terminator, T-800 eller Robocop er ED-209, dødelige autonome våpen er allerede i bruk. Samsungs SGR-A1 sentry gun, som angivelig er teknisk i stand til å avfyre selvstendig, men er omstridt hvorvidt det er utplassert som er i bruk langs den Sør-koreanske grensen på 2,5 m bred koreansk Demilitarisert Sone.
Den faste plasser sentry gun, som er utviklet på vegne av den sørkoreanske regjeringen, var den første av sitt slag med et autonomt system i stand til å utføre overvåking, tale-gjenkjenning, sporing og skyte med maskingevær montert eller granatkaster. Men det er ikke bare autonome våpen system i utvikling, med prototyper tilgjengelig for land, luft og sjø kamp.
STORBRITANNIAS Taranis drone, i utvikling av BAE Systems, er ment å være i stand til å frakte luft-til-luft og luft-til-bakke våpen intercontinentally og omfatter full autonomi. Den ubemannede bekjempe aerial vehicle, omtrent på størrelse med en BAE Hawk, flyet brukes av de Røde Pilene, hadde sin første flyvning i 2013, og forventes å være i drift i noen tid etter 2030 som en del av Royal Air Force ‘ s Fremtidige Støtende Air-System, ment å erstatte den menneskelige-styrt Tornado GR4 krigsfly.
Russland, USA og andre land er i ferd med å utvikle automatiske tanker som kan være enten ekstern kontrollert eller operere selvstendig. Disse prosjektene spenner fra selvstendige versjoner av den russiske Uran-9 ubemannede bekjempe bakken kjøretøy, konvensjonell tanker ettermonteres med autonome systemer.
USA er autonome krigsskip, Sea Hunter bygget av Kraft Industri, ble lansert i 2016, og mens du fortsatt er i utvikling, er ment å ha offensive evner, inkludert anti-ubåt eksplosiver. Under overflaten, Boeing er selvstyrte ubåten systemer bygget på Echo Voyager-plattformen blir også ansett for lang rekke deep-sea militært bruk.
- The Guardian se på roboter som våpen: den menneskelige faktor