Öppet brev undertecknat av Tesla chef och Googles Mustafa Suleyman uppmanar FN att blockera användningen av dödliga autonoma vapen för att förhindra tredje ålder av kriget
Söndag 20 augusti 2017 15.01 BST
Senast ändrad söndagen den 20 augusti 2017 19.08 BST
Några av världens ledande robotik och artificiell intelligens pionjärer uppmanar Fn: s förbud mot utveckling och användning av robotar mördare.
Tesla är Elon Musk och Googles Mustafa Suleyman leder en grupp av 116 specialister från hela 26 länder som ropar på förbud mot autonoma vapen.
FN: s nyligen röstade för att inleda formella diskussioner om sådana vapen som inkluderar drönare, tankar och automatiska kulsprutor. Inför detta, den grupp av grundarna av AI och robotik företag har skickat ett öppet brev till FN: s kallelse för att förhindra kapprustning som pågår för närvarande för killer robotar.
I sin skrivelse, grundarna varna konferensen för översyn av konventionen om konventionella vapen som denna kapprustning hotar att etablera den “tredje revolution i krigföring” efter krut och kärnvapen.
Grundarna skrev: “När de har utvecklats, dödliga autonoma vapen kommer att tillåta väpnade konflikter bör lösas på en skala större än någonsin, och på såväl snabbare än vad människor kan förstå. Dessa kan vara weapons of terror, vapen som despoter och terrorister använder mot oskyldiga civilbefolkningen, och vapen hackad bete sig på ett icke önskvärt sätt.
“Vi har inte lång tid att agera. När denna Pandoras ask har öppnats, det kommer att bli svårt att stänga.”
Experter har tidigare varnat för att AI-tekniken har nått en punkt där utbyggnaden av autonoma vapen är möjligt i år, snarare än på decennier. Medan AI kan användas för att göra slagfältet till en säkrare plats för militär personal, experter fruktar att offensiva vapen att verka på sina egna skulle sänka tröskeln för att gå till strid och leda till en större förlust av människoliv.
Brevet lanserades vid öppnandet av Gemensamma Internationella Konferensen om Artificiell Intelligens (IJCAI) i Melbourne på måndag, har stöd av hög profil siffror i robotik-området och starkt betonar behovet av brådskande åtgärder, efter FN: s var tvungen att fördröja ett möte som skulle börja på måndag att se över frågan.
Grundarna kallar för “moraliskt fel” dödliga autonoma vapen system för att läggas till i listan av vapen som är förbjudna enligt FN: s konvention om vissa konventionella vapen (CCW) som har satts i kraft 1983, som innehåller kemiska och avsiktligt förblindande laservapen.
Toby Walsh, Scientia professor i artificiell intelligens vid University of New South Wales i Sydney, sa: “Nästan varje teknik kan användas för gott och ont, och artificiell intelligens är inte annorlunda. Det kan hjälpa till att ta itu med många av de akuta problemen i dagens samhälle: ojämlikhet och fattigdom, de utmaningar som klimatförändringen och den pågående globala finansiella krisen.
“Men samma teknik kan även användas i autonoma vapen för att industrialisera krig. Vi måste fatta beslut idag att välja vilken av dessa terminer som vi vill.”
Mysk, en av undertecknarna av det öppna brevet, har upprepade gånger varnat för behovet av en pro-aktiv reglering av AI, kalla det mänsklighetens största existentiella hot, men samtidigt AI: s destruktiva potential anses av vissa vara stort det är också tänkt att vara avlägsen.
Ryan Gariepy, grundare av Clearpath Robotics sade: “till Skillnad från andra potentiella manifestationer av AI som fortfarande finns kvar i sfären av science fiction, autonoma vapen system är på väg av utveckling just nu och har en mycket verklig potential att orsaka betydande skada för oskyldiga människor tillsammans med global instabilitet.”
Detta är inte första gången IJCAI, en av världens ledande AI konferenser, har använts som en plattform för att diskutera dödliga autonoma vapen system. För två år sedan var konferensen som används för att starta ett öppet brev, undertecknat av tusentals AI och robotik forskare, bland annat Mysk och Stephen Hawking på samma sätt kräver ett förbud, som hjälpte till att driva det i FN: s formella samtal om teknik.
Den BRITTISKA regeringen motsatte sig ett sådant förbud mot dödliga autonoma vapen 2015, med ud om att “den internationella humanitära rätten ger redan tillräckliga bestämmelser för detta område”. Det sägs att STORBRITANNIEN inte var att utveckla dödliga autonoma vapen och att alla vapen som är anställd av BRITTISKA väpnade styrkorna skulle vara “under mänskliga tillsyn och kontroll”.
Science fiction eller vetenskap?
T-800 från Terminator-film franchise. Foto: Foto: Melinda Stämma Gordon/Allstar/PARAMOUNT PICTURES
Medan förslaget om killer robotar frammanar bilder från science fiction såsom Terminator T-800 eller Robocop ‘ s ED-209, dödliga autonoma vapen är redan i användning. Samsungs SGR-A1 vaktgevär, som uppges tekniskt kan avfyra självständigt men är omtvistat om det är utplacerade som är i bruk längs den sydkoreanska gränsen 2,5 m bred koreas Demilitariserade Zon.
Den fasta plats vaktgevär, utvecklat på uppdrag av den sydkoreanska regeringen, var den första av sitt slag med ett autonomt system som kan utföra övervakning, röst-igenkänning, spårning och skjuter med monterad kulspruta eller granatkastare. Men det är inte den enda fristående vapensystem under utveckling, med prototyper tillgängliga för land, luft och hav bekämpa.
STORBRITANNIENS Taranis drönare, i utveckling av BAE Systems, är avsett att vara som klarar av att transportera luft-till-luft, och luft-till-mark ammunition intercontinentally och innehåller fullständig autonomi. Den unmanned combat aerial vehicle, ungefär storleken av en BAE Hawk, den plan som används av de Röda Pilarna, såg sin första testflygning i 2013 och beräknas vara i drift någon gång efter 2030, som en del av Royal Air Force ‘ s Framtida Offensiva Air-System, avsett att ersätta mänskliga lotsning Tornado GR4 stridsflygplan.
Ryssland, USA och andra länder håller på att utveckla automatiska tankar som antingen kan bli fjärrstyrd eller operera autonomt. Dessa projekt sträcker sig från självständiga versioner av den ryska Uran-9 obemannade bekämpa marken fordon, till konventionella tankar som eftermonteras med autonoma system.
USA: s autonoma krigsfartyg, Sea Hunter byggd av Industriell Kraft, lanserades i år 2016, och medan den fortfarande är i utveckling är avsedda att ha offensiv kapacitet, inklusive anti-submarine ammunition. Under ytan, Boeings autonoma ubåt system byggt på Echo Voyager plattform diskuteras också för långväga deep-sea militär användning.
- The Guardian syn på robotar som vapen: den mänskliga faktorn