Lande, der bruger milliarder om “den tredje revolution i krigsførelse, som FN’ s forhandlinger regulering af AI-drevne våben
@matthabusby
Mon 9 Apr 2018 11.35 BST
Sidst opdateret om Mon 9 Apr 2018 11.51 BST
Ruslands Armata T-14 battle tank kan selvstændigt brand på mål og forventes at være fuldt autonome i den nærmeste fremtid.
Foto: Grigory Dukor/Reuters
De vil være “weapons of terror, der anvendes af terrorister og slyngelstater mod civilbefolkningen. I modsætning til menneskelige soldater, vil de følge alle ordrer, men det onde,” siger Toby Walsh, professor i kunstig intelligens på University of New South Wales, Australien.
“Disse vil være af masseødelæggelsesvåben. En programmør og en 3D-printer kan gøre, hvad der tidligere tog en hær af mennesker. De vil industrialisere krig, ændre hastighed og varighed af hvordan vi kan bekæmpe. De vil være i stand til at dræbe 24-7, og de vil dræbe hurtigere end mennesker kan handle for at forsvare sig selv.”
Regeringer er møde i FN i Genève mandag for femte gang for at diskutere, hvorvidt og hvordan man kan regulere dødelige autonome våben systemer (Love). Også kendt som killer robotter, disse AI-drevne skibe, kampvogne, fly og kanoner kunne udkæmpe fremtidens krige uden nogen menneskelig indgriben.
Kampagnen for at Stoppe Killer Robotter, som bakkes op af Tesla ‘s Elon Musk og Alfabet’ s Mustafa Suleyman, der ringer til et forebyggende forbud mod Love, da den åbner mulighed for troværdig af den forebyggende indsats er hurtig lukning og et våbenkapløb er allerede i fuld gang.
Jeg er pacifist, så hvorfor kan jeg ikke støtte Kampagnen for at Stoppe Killer Robotter?
Læs mere
“I 2015, og vi advarede om, at der ville være et våbenkapløb til at udvikle dødelige autonome våben,” siger Walsh. “Vi kan se, at løbet er startet. I hvert theatre of war – i luften, på havet, i havet og på land – der er prototype autonome våben er under udvikling.”
Forud for mødet har gjort gældende, at snarere end at forsøge at “stigmatisere eller forbud” Love, innovation fremmes, og at brug af den teknologi, der faktisk kunne reducere risikoen for civile ofre i krig. Eksperter, men frygter systemer vil ikke være i stand til at skelne mellem kombattanter og civile og handle i forhold til den trussel.
Frankrig og Tyskland er blevet beskyldt for at vige væk fra skrappe regler af aktivister, der siger, at vi bør være i spidsen for et forbud. En gruppe af alliancefri stater, ledet af Venezuela, er der opfordrer til forhandlinger om en ny international lovgivning til at regulere eller forbyde killer robotter. Koncernen søger generelt aftalen fra, at “alle våben, herunder dem med autonome funktioner, skal forblive under direkte kontrol og overvågning af mennesker på alle tider”.
Den nye globale våbenkapløb
USA lanceret en selvstændig skib, Sea Hunter, den 7. April 2016. Foto: Steve Dipaola/Reuters
Fuldt autonome våben, som endnu ikke eksisterer, men højtstående militære embedsmænd har sagt, brug af robotter vil være udbredt i krigsførelse i løbet af få år. Mindst 381 delvist autonome våben og militære robotteknologi-systemer har været udstationeret eller er under udvikling i 12 lande, herunder Kina, Frankrig, Israel, STORBRITANNIEN og USA.
Automatiske systemer, som Israel ‘ s Iron Dome og mekaniseret vagter i den koreanske demilitariseret zone, som allerede er indsat, men den kan ikke fungere fuldt ud selvstændigt. Forskning af International Data Corporation antyder globale udgifter på robotteknologi vil dobbeltværelse fra dkk 91.5 milliarder i 2016 til $188bn i 2020, hvilket bringer fuld selvstændighed tættere på en realisering.
Den AMERIKANSKE, den førende inden for forskning i og udvikling af Love, der er nævnt autonomi som en hjørnesten i sin plan om at modernisere sin hær og sikre den strategiske overlegenhed over hele kloden. Dette har medført, at andre store militære beføjelser til at øge deres investeringer i AI og robotteknologi, samt i selvstændighed, i henhold til Stockholm International Peace Research Institute.
“Vi er meget erkende, at vi er i en konkurrence med lande som Kina og Rusland,” siger Steven Walker, direktør for det AMERIKANSKE Defense Advanced Research Projects Agency, som udvikler nye teknologier, og hvis 2018 budget blev øget med 27% sidste år.
Den AMERIKANSKE X-47B ubemandede autonome fly. Foto: Rex Features
USA er i øjeblikket arbejder på prototypen til en hale-mindre ubemandede X-47B fly, som vil være i stand til at lande og tage ud i ekstreme vejrforhold og tanke op i luften. Landet har også afsluttet test af et selvstændigt anti-ubåds-fartøj, Sea Hunter, der kan opholde sig på havet i flere måneder, uden at en enkelt person om bord og er i stand til at synke andre ubåde og skibe. En 6.000 kg autonome tank, Knuser, er i stand til at navigere utroligt vanskeligt terræn og er annonceret som værende i stand til at “tackle næsten enhver opgave, man kan forestille sig”.
Det forenede KONGERIGE er ved at udvikle sine egne ubemandede køretøjer, som kan være weaponised i fremtiden. Taranis, en ubemandede kamp køretøj, drone, der er opkaldt efter den Keltiske gud for torden, kan undgå radar detektering og flyve i autonom tilstand.
Rusland, i mellemtiden, er at samle et arsenal af ubemandede køretøjer, både i luften og på jorden; kommentatorer siger, det land, der ser dette som en måde at kompensere for sine konventionelle militære underlegenhed i forhold til USA. “Hvem fører i AI vil regere verden,” sagde Vladimir Putin, den nyligt genvalgte russiske præsident sidste år. “Kunstig intelligens er fremtiden, ikke kun for Rusland, men for hele menneskeheden.”
Ruslands Armata T-14 battle tank. Foto: Mikhail Metzel/Tass/PA Billeder
Rusland har udviklet en robot tank, Nerehta, som kan være udstyret med et maskingevær eller en granatkaster, mens dens semi-autonome tank, T-14, vil snart være fuldt autonome. Kalashnikov, den russiske våben producent, har udviklet en fuldt automatiseret, høj-kaliber pistol, der bruger kunstige neurale netværk til at vælge mål.
Kina har forskellige lignende semi-autonome tanke og er ved at udvikle fly og søbårne sværme, men oplysninger om disse projekter, der er tæt bevogtet. “Som mennesker er stadig ved at forberede en high-tech krigen, det gamle og det nye bliver sammenflettet til at blive en ny form for skjult komplekse ‘hybrid krig’,” skrev Wang Weixing, en Kinesisk militær forskning, direktør, sidste år.
“Unmanned combat er gradvist ved at opstå. Mens folk har hovedet begravet i sandet forsøger at lukke hullet med verdens militære magter i form af traditionelle våben, teknologi-drevet ‘lys warfare’ er ved at indtage scenen.”
Pandora ‘ s box
Ifølge Kampagnen for at Stoppe Killer Robotter, disse systemer, der truer med at blive den “tredje revolution i krigsførelse”, efter opfindelsen af krudt og atombomber, og når Pandoras æske er åbnet, vil det være svært at lukke.
“Livløse maskiner ikke kan forstå eller respektere værdien af liv, og alligevel ville de have magt til at bestemme, hvornår de skal tage det derfra,” siger Mary Wareham, kampagne koordinator. “Vores kampagne mener, at maskiner aldrig burde være tilladt at tage menneskers liv på slagmarken eller i politi, grænsekontrol, eller nogen omstændigheder.”
‘Killer robotter”: AI eksperter opfordrer til boykot over lab på Syd Korea universitet
Læs mere
Tilhængere af et forbud, siger fuldt ud autonome våben er usandsynligt, at være i stand til fuldt ud i overensstemmelse med de komplekse og subjektive regler i den humanitære folkeret og international menneskerettighedslovgivning, som kræver menneskelig forståelse og dømmekraft samt medfølelse.
Peger til 1997 om forbud mod landminer, nu en af de mest udbredte traktater i international ret, og forbud mod klyngebomber, som har 120 medlemmer, Wareham siger: “Historien viser, hvordan de ansvarlige regeringer har fundet det nødvendigt i fortiden for at supplere de grænser, der allerede er fastsat i de internationale juridiske rammer på grund af den betydelig trussel mod civile.”
Det menes, at bevæbning af kunstig intelligens kunne bringe verden tættere på dommedag end nogensinde før. “Forestil dig, sværme af autonome kampvogne og jagerfly møde på en kant og en af dem brande i fejl, eller fordi det er blevet hacket,” siger Noel Sharkey, professor i kunstig intelligens og robotter ved University of Sheffield, der først skrev om virkeligheden af robot krig i 2007.
“Dette automatisk kunne påberåbe sig en kamp, som ingen mennesker kan forstå, eller at rede ud. Det er ikke engang muligt for os at vide, hvordan systemerne vil interagere i konflikt. Kan det hele være overstået på få minutter med massive ødelæggelser og tab af menneskeliv.”