Land å bruke milliarder på ‘tredje revolusjon i krigføring” som FN-debatter regulering av AI-drevet våpen
@matthabusby
Man 9 Apr 2018 11.35 BST
Sist endret på Man 9 Apr 2018 11.51 BST
Russlands Armata T-14 stridsvogn kan selvstendig skyte på mål, og er forventet å være fullstendig uavhengig i nær fremtid.
Foto: Grigorij Dukor/Reuters
De vil være “våpen av terror, som brukes av terrorister og rogue states mot sivilbefolkningen. I motsetning til menneskelige soldater, de vil følge alle bestillinger imidlertid onde,” sier Toby Walsh, professor i kunstig intelligens ved University of New South Wales, Australia.
“Disse vil være masseødeleggelsesvåpen. En programmerer og en 3D-printer kan gjøre det som før tok en hær av folk. De vil industrialise krigen, endre hastighet og varighet av hvordan vi kan kjempe. De vil være i stand til å drepe 24-7, og de vil drepe raskere enn mennesker kan handle for å forsvare seg.”
Regjeringer er møtet i FN i Genève mandag for femte gang for å diskutere om og hvordan å regulere dødelig autonome våpen-systemer (Lover). Også kjent som morder roboter, disse AI-drevne skip, stridsvogner, fly og kanoner kunne kjempe kriger i fremtiden uten menneskelig inngripen.
Kampanjen for å Stoppe Killer Roboter, støttet av Teslas Elon Musk og Alfabetet er Mustafa Suleyman, kaller for en preemptive forbud mot Lover, siden vindu av muligheter for troverdig forebyggende tiltak er rask lukking og et våpenkappløp er allerede i full gang.
Jeg er en pasifist, så hvorfor ikke jeg støtte Kampanjen for å Stoppe Killer Roboter?
Les mer
“I 2015, vi advart om at det ville være et våpenkappløp å utvikle dødelig autonome våpen, sier Walsh. “Vi kan se at løpet har startet. I hver theatre of war – i luften, på havet, i havet og på land – det er prototypen autonome våpen under utvikling.”
I forkant av møtet, USA har hevdet at heller enn å prøve å “stigmatise eller forbud” Lover, innovasjon bør oppmuntres, og at bruk av teknologi kan faktisk redusere risikoen for sivile tap i krigen. Eksperter, men frykt systemer vil ikke være i stand til å skille mellom stridende og sivile og handle proporsjonalt til trusselen.
Frankrike og Tyskland har blitt beskyldt for å skyr unna strenge regler av aktivister som sier at Europa skal være leder kostnader for et forbud. En gruppe av alliansefrie stater, ledet av Venezuela, kaller for forhandlingene om en ny internasjonal lov for å regulere eller forby killer roboter. Konsernet søker generell enighet fra uttaler at “alle våpen, inkludert de med selvstendige funksjoner, må være under direkte kontroll og tilsyn av mennesker til alle tider”.
Den nye globale våpenkappløp
USA lansert en autonom skipet, Sea Hunter, 7 April 2016. Foto: Steve Dipaola/Reuters
Fullt autonome våpen ennå ikke eksisterer, men høytstående militære tjenestemenn har sagt at bruk av roboter vil bli utbredt i krigføring i løpet av noen år. Minst 381 delvis autonome våpen og militære robotics systemer har tatt i bruk eller er under utvikling i 12 land, deriblant Kina, Frankrike, Israel, STORBRITANNIA og USA.
Automatiske systemer, for eksempel Israels Iron Dome og mekanisert vaktposter i den koreanske demilitarised sone, har allerede vært deployert, men kan ikke opptre fullt ut selvstendig. Forskning av International Data Corporation foreslår global utgifter på robotikk vil dobbeltrom fra $91.5 mrd. i 2016 til $188bn i 2020, for å bringe full autonomi nærmere realisering.
USA, foregangsmann i forskning og utvikling av Lover, har sitert autonomi som en hjørnestein i sin plan for å modernisere sin hær og sikre sin strategiske overlegenhet over hele verden. Dette har forårsaket andre store militære krefter til å øke sine investeringer i AI og robotics, så vel som i autonomi, i henhold til Stockholm International Peace Research Institute.
“Vi svært mye erkjenner at vi er i konkurranse med land som Kina og Russland, sier Steven Walker, direktør for det AMERIKANSKE Defense Advanced Research Projects Agency, som utvikler nye teknologier og hvis 2018 budsjett ble økt med 27% siste året.
Den AMERIKANSKE X-47B ubemannede autonome fly. Foto: Rex Funksjoner
USA er for tiden jobber på prototypen for en hale-mindre, ubemannede X-47B fly, som vil være i stand til å lande og ta av i ekstreme værforhold og fylle drivstoff i luften. Landet har også gjennomført testing av en selvstendig, anti-ubåt fartøy, Sea Hunter, som kan holde på sjøen i flere måneder uten en eneste person om bord og er i stand til å synke andre ubåter og skip. En 6000 kg autonome tank, Crusher, er i stand til å navigere utrolig vanskelig terreng og er annonsert som å være i stand til å “takle nesten alle tenkelige oppdrag”.
STORBRITANNIA er å utvikle sin egen ubemannede kjøretøyer, som kan være weaponised i fremtiden. Taranis, et ubemannet luftkamper kjøretøy drone som er oppkalt etter den Keltiske guden for torden, kan unngå radar deteksjon og fly i autonome modus.
Russland, i mellomtiden, er ansamling et arsenal av ubemannede kjøretøy, både i luften og på bakken; kommentatorer sier landet ser på dette som en måte å kompensere for sine konvensjonelle militære underlegenhet i forhold med OSS. “Den som fører i KI vil styre verden,” sa Vladimir Putin, nylig gjenvalgt som russisk president, siste året. “Kunstig intelligens er fremtiden, ikke bare for Russland, men for hele menneskeheten.”
Russlands Armata T-14 stridsvogn. Foto: Mikhail Metzel/Tass/PA-Bilder
Russland har utviklet en robot tank, Nerehta, som kan være utstyrt med et maskingevær eller en granatkaster, mens den semi-autonome tank, T-14, snart vil være fullt autonome. Kalashnikov, den russiske våpen-produsenten har utviklet en fullt automatisert, høy kaliber pistol som bruker kunstig nevrale nettverk til å velge mål.
Kina har ulike lignende semi-autonome tanker og utvikler fly og sjøbåren svermer, men informasjon om disse prosjektene er tett bevoktet. “Som det fortsatt finnes folk forbereder seg for en high-tech krig, det gamle og det nye er blitt flettet sammen til å bli en ny form for skjult komplekse “hybrid war”,” skrev Wang Weixing, en Kinesisk militær forskning direktør i fjor.
“Ubemannet kamp er gradvis dukker opp. Mens folk har hodet begravd i sanden prøver å lukke gapet med verdens militære krefter i form av tradisjonelle våpen, teknologi-drevet “lys warfare” er i ferd med å ta scenen.”
Pandora ‘ s box
I henhold til Kampanjen for å Stoppe Killer Roboter, disse systemene truer med å bli den “tredje revolusjon i krigføring”, etter oppfinnelsen av kruttet, og kjernefysiske bomber, og når Pandoras eske er åpnet vil det være vanskelig å lukke.
“Livløse maskiner ikke kan forstå eller respektere verdien av liv, men de ville ha makt til å bestemme når man skal ta den bort, sier Mary Wareham, kampanje-koordinator. “Vår kampanje mener at maskiner bør aldri få lov til å ta et menneskes liv på slagmarken, eller i politi, grensekontroll, eller noen omstendigheter.”
“Killer roboter’: AI eksperter kaller for boikott over lab i Sør-Korea university
Les mer
Tilhengere av et forbud si fullt autonome våpen er usannsynlig å være i stand til å fullt ut i samsvar med den komplekse og subjektive de bestemmelser i internasjonal humanitærrett og menneskerettigheter loven, som krever menneskelig forståelse og dømmekraft samt medfølelse.
Peker til 1997 forbud mot landminer, nå et av de mest aksepterte avtaler i internasjonal lov, og forbudet mot klasebomber, som har 120 undertegnet, Wareham sier: “Historien viser hvordan ansvarlige myndigheter ikke har funnet det nødvendig i det siste til å supplere de grenser som allerede er fastsatt i den internasjonale juridiske rammeverket på grunn av den betydelige trusselen mot sivile.”
Det antas at weaponisation av kunstig intelligens kan bringe verden nærmere apocalypse enn noen gang før. “Tenk deg svermer av selvstendige tanker og jet jagerfly møte på en ramme og en av dem branner i feil, eller fordi det har blitt hacket, sier Noel Sharkey, professor i kunstig intelligens og roboter ved Universitetet i Sheffield, som først skrev om virkeligheten av robot krigen i 2007.
“Dette kan automatisk aktivere en kamp som ingen menneske kan forstå eller gre. Det er ikke mulig for oss å vite hvordan systemene vil samhandle i konflikt. Kan det være over i løpet av minutter med masse ødeleggelser og tap av liv.”