Länder som spenderar miljarder på “tredje revolution i krig” som FN: s debatter förordning av AI-drivna vapen
@matthabusby
Mon, 9 Apr 2018 11.35 BST
Senast ändrad Mån 9 Apr 2018 11.51 BST
Ryssland är Armata T-14 battle tank kan självständigt eld på mål och förväntas vara helt självständig i den nära framtiden.
Foto: Grigory Dukor/Tt-Reuters
De kommer att vara “weapons of terror, som används av terrorister och skurkstater mot civilbefolkningen. Till skillnad från mänskliga soldater, de kommer att följa varje order men det onda”, säger Toby Walsh, professor i artificiell intelligens vid University of New South Wales, Australien.
“Dessa kommer att vara massförstörelsevapen. En programmerare och en 3D-skrivare som kan göra det som tidigare tog en armé av människor. De kommer att industrialisera krig, ändra hastighet och varaktigheten av hur vi kan bekämpa. De kommer att kunna döda 24-7 och de kommer att döda snabbare än människan kan agera för att försvara sig själva.”
Regeringar möte vid FN i Genève på måndag för femte gången för att diskutera om och hur man ska reglera dödliga autonoma vapen system (Lagar). Även känd som robotar mördare, dessa AI-drivna fartyg, stridsvagnar, flygplan och vapen kan bekämpa krigen i framtiden utan någon mänsklig inblandning.
Kampanjen för att Stoppa Robotar Mördare, som backas upp av Tesla s Elon Musk och Alfabetet är Mustafa Suleyman, kallar för en föregripande förbud mot Lagar, eftersom det tillfälle för en trovärdig förebyggande åtgärden är snabb stängning och en kapprustning är redan i full gång.
Jag är en pacifist, så varför inte jag stödja Kampanjen för att Stoppa Robotar Mördare?
Läs mer
“År 2015, vi varnade för att det skulle vara en kapprustning för att utveckla dödliga autonoma vapen, säger Walsh. “Vi kan se att loppet har börjat. I varje theatre of war – i luften, på havet, i havet och på land finns det prototyp autonoma vapen under utveckling.”
Inför mötet har USA hävdat att i stället för att försöka stigmatisera eller förbud” Lagar, innovation bör uppmuntras, och att användningen av teknik kan faktiskt minska risken för civila offer i krig. Experter, men frukta system kommer inte att kunna skilja mellan stridande och civila och agera i proportion till hotet.
Frankrike och Tyskland har anklagats för att ha ryggar tillbaka inför tuffa regler av aktivister som säger att Europa ska bli ledande avgiften för ett förbud. En grupp av alliansfria staterna, som leds av Venezuela, är att ringa för att förhandlingarna om en ny internationell lag för att reglera eller förbjuda killer robotar. Koncernen strävar efter det allmänna avtalet från staterna att “alla vapen, inklusive de autonoma funktioner, måste förbli under direkt kontroll och övervakning av människor i alla tider”.
Den nya globala kapprustningen
USA inledde en självständig fartyg, Havet Hunter, den 7 April 2016. Foto: Steve Dipaola/Tt-Reuters
Helt autonoma vapen det finns ännu inte, men högt uppsatta militära tjänstemän har sagt att användningen av robotar kommer att vara utbredd i krig inom loppet av ett par år. Minst 381 delvis autonoma vapen och militär robotik system som utvecklats eller är under utveckling i 12 stater, däribland Kina, Frankrike, Israel, STORBRITANNIEN och USA.
Automatiska system, såsom Israels Iron Dome och mekanisk vakter i den koreanska demilitariserad zon, har redan använts, men inte kan agera helt självständigt. Forskning av International Data Corporation föreslår globala utgifterna för robotics kommer att fördubblas från $91.5 miljarder euro 2016 till $188bn 2020, att föra full autonomi närmare realisering.
USA, föregångare inom forskning och utveckling av Lagar, har citerat autonomi som en hörnsten i sin plan för att modernisera sin armé och säkerställa dess strategiska överlägsenhet över hela världen. Detta har orsakat andra stora militära krafter för att öka sina investeringar i AI och robotik, liksom självständighet, enligt Stockholm International Peace Research Institute.
“Vi är mycket medveten om att vi är i en konkurrens med länder som Kina och Ryssland, säger Steven Walker, chef för US Defense Advanced Research Projects Agency, som utvecklar ny teknik och vars 2018 budget har ökat med 27 procent förra året.
Den AMERIKANSKA X-47B obemannade autonoma flygplan. Foto: Rex Features
USA är för närvarande arbetar på en prototyp för en svans-mindre, obemannade X-47B flygplan, som kommer att kunna starta och landa i extrema väderförhållanden och tanka i luften. Landet har också genomfört tester av en självständig anti-submarine fartyg, Havet Hunter, som kan bo på havet för månader utan en enda person ombord och kan handfat andra ubåtar och fartyg. En 6 000 kg autonoma tank, Kross, klarar av att navigera otroligt svår terräng och marknadsförs som att kunna “ta itu med nästan alla tänkbara uppdrag”.
STORBRITANNIEN håller på att utveckla sina egna obemannade fordon, som kan vara weaponised i framtiden. Taranis, en unmanned combat aerial vehicle drone uppkallad efter Keltiska gud av åska, kan undvika radar upptäckt och flyga i autonomt läge.
Ryssland, under tiden, är att bygga upp en arsenal av obemannade fordon, både i luften och på marken; kommentatorer säger att landet ser detta som ett sätt att kompensera för det konventionella militära underlägsenhet jämfört med USA. “Den som leder i AI kommer att styra världen,” sade Vladimir Putin, som nyligen omvalde president, förra året. “Artificiell intelligens är framtiden, inte bara för Ryssland utan för hela mänskligheten.”
Ryssland är Armata T-14 battle tank. Foto: Mikhail Metzel/Tass/PA-Bilder
Ryssland har utvecklat en robot tank, Nerehta, som kan utrustas med en kulspruta eller en granat launcher, medan dess semi-autonoma tank, T-14, snart kommer att vara helt självständig. Kalashnikov, ryska vapen tillverkaren, har utvecklat en helautomatiserad, av hög kaliber pistol som använder artificiella neurala nätverk för att välja mål.
Kina har olika liknande semi-autonoma tankar och utvecklar flygplan och havs-svärmar, men information om dessa projekt är hårt bevakad. “Som människor fortfarande på att förbereda för en high-tech krig, det gamla och det nya blir sammanflätade att bli en ny form av dolda komplex hybrid krig”,” skrev Wang Weixing, en Kinesisk militär forskning direktör, förra året.
“Unmanned combat är gradvis på att växa fram. Medan människor har huvudet begravt i sanden och försöker att överbrygga klyftan med världens militära makter i form av traditionella vapen, teknik-driven “ljus krigföring” är på väg att ta plats på scenen.”
Pandora ‘ s box
Enligt Kampanjen för att Stoppa Robotar Mördare, dessa system riskerar att bli “den tredje revolutionen i krigföring”, efter uppfinningen av krut och atombomber, och när väl Pandoras ask öppnats, det kommer att bli svårt att stänga.
“Livlösa maskiner inte kan förstå eller respektera värdet av liv, men de skulle ha makt att avgöra när du ska ta bort det, säger Mary Wareham, kampanjsamordnare. “Vår kampanj anser att maskiner ska aldrig vara tillåtet att ta människors liv på slagfältet eller i polisinsatser, gränskontroller, eller några som helst omständigheter.”
“Killer robotar”: AI experter kallar för bojkott över lab på South Korea university
Läs mer
Anhängarna av ett förbud säga helt autonoma vapen är osannolikt att fullt ut kunna följa med komplexa och subjektiva regler i internationell humanitär rätt och mänskliga rättigheter, som kräver mänsklig förståelse och omdöme samt medkänsla.
Pekar till 1997 förbudet mot landminor, nu en av de mest allmänt accepterade fördragen i internationell rätt, och förbudet mot klustervapen, som har 120 personer, Wareham säger: “Historien visar hur ansvarsfulla regeringar har funnit det nödvändigt i det förflutna för att komplettera de gränser som redan föreskrivs i den internationella rättsliga ramen på grund av det stora hotet mot civila.”
Man tror att beväpningen av artificiell intelligens kan föra världen närmare apocalypse än någonsin tidigare. “Tänk dig svärmar av autonoma stridsvagnar och stridsflygplan möte på gränsen och en av dem bränder i fel eller för att det har blivit hackad, säger Noel Sharkey, professor i artificiell intelligens och robotar vid University of Sheffield, som först skrev om den verklighet robot krig under 2007.
“Detta automatiskt kunde åberopa en kamp som ingen människa kan förstå eller reda ut. Det är inte ens möjligt för oss att veta hur de system som skulle samverka i en konflikt. Allt kan vara över på några minuter med massa förödelse och förlust av liv.”