Weaponised AI är på väg. Är algoritmisk för evigt krig för vår framtid? | Ben Tarnoff

20

Den AMERIKANSKA militären är att skapa en mer automatiserad form av krigföring – som kommer att kraftigt öka sin kapacitet att föra krig överallt för evigt.

Kontakta författaren

@bentarnoff

To 11 Okt till 2018 10.00 BST

Senast ändrad Tors 11 Okt 2018 10.36 BST

The US has been in Afghanistan for so long that someone born after the attacks is now old enough to go fight there.

USA har varit i Afghanistan så länge som någon född efter attackerna är nu tillräckligt gammal för att gå bekämpa det.
Foto: Getty Images

Förra månaden markerade den 17: e årsdagen av 9/11. Med den kom en ny milstolpe: vi har varit i Afghanistan så länge som någon född efter attackerna är nu tillräckligt gammal för att gå bekämpa det. De kan också tjäna i sex andra ställen där vi är officiellt i krig, för att inte nämna de 133 länder där särskilda styrkor har genomfört uppdrag i den första hälften av 2018.

Krig 9/11 fortsätta med något slut i sikte. Nu, Pentagon satsar mycket på teknik som kommer att intensifiera dem. Genom att anamma de senaste verktygen som tech-industrin har att erbjuda, den AMERIKANSKA militären är att skapa en mer automatiserad form av krigföring – som kommer att kraftigt öka sin kapacitet att föra krig överallt för evigt.

På fredag, försvarsdepartementet stänger anbudstiden för en av de största teknik kontrakt i sin historia: det Gemensamma Företaget Försvar Infrastruktur (Jedi). Jedi är ett ambitiöst projekt för att bygga ett cloud computing-system som serverar OSS krafter över hela världen, från analytiker bakom ett skrivbord i Virginia till soldater på patrull i Niger. Kontraktet är värt så mycket som $10 miljarder under 10 år, vilket är anledningen till att stora företag kämpar hårt för att vinna den. (Inte Google, dock, där ett tryck kampanj genom att arbetstagare tvingas ledningen för att släppa ut och kör.)

Vid en första anblick, Jedi kan se ut precis som en annan DET moderniseringsprojekt. Regeringen tenderar att köra en bra bit bakom Silicon Valley, även på en plats som frikostigt finansierade som Pentagon. Med några 3,4 miljoner användare och 4 miljoner enheter, försvarsdepartementet digitala fotavtryck är enorm. Flytta ännu en del av sin arbetsbelastning till en molnleverantör som Amazon kommer utan tvekan att förbättra effektiviteten.

Men den verkliga drivkraft Jedi är viljan att weaponize AI – vad försvarsdepartementet har börjat ringa “algoritmiska krigföring”. Genom att slå samman de militära uppgifter till en modern plattform, och med hjälp av maskin-learning tjänster som sådana plattformar ge för att analysera data, Jedi kommer att hjälpa Pentagon inse dess AI ambitioner.

Varför lär drone piloter om etik när det är robotar som kommer att döda oss? | Andrew Brown

Läs mer

Omfattningen av dessa ambitioner har blivit alltmer tydligt de senaste månaderna. I juni, Pentagon etablerade Gemensamma Artificial Intelligence Center (JAIC), som kommer att övervaka de omkring 600 AI-projekt som just nu pågår i hela organisationen på en planerad kostnad av 1,7 miljarder usd. Och i September, Defense Advanced Research Projects Agency (Darpa), Pentagon våningar R&D-huset, meddelade att det skulle vara att investera upp till $2 miljarder under de kommande fem åren i AI vapen forskning.

Hittills har rapporteringen om Pentagons AI utgifterna spree har till stor del fokuserat på möjligheten av autonoma vapen – Terminator-stil killer robotar som klipper folk ner utan någon insats från en mänsklig operatör. Detta är verkligen en skrämmande nära framtida scenario, och ett globalt förbud mot autonoma vapen av den typ som söks av Kampanjen för att Stoppa Robotar Mördare är absolut nödvändigt.

Men AI har redan börjat ledningsdragning krigföring, även om det inte (ännu) inte tagit formen av bokstavlig Terminators. Det är mindre filmisk men lika skrämmande sätt att weaponize AI. Du behöver inte algoritmer dra igång för algoritmer för att spela en extremt farlig roll.

För att förstå denna roll, det hjälper till att förstå de särskilda svårigheter som är förknippade med den för evigt krig. Dödandet i sig är inte särskilt svårt. Med militära budget är större än i Kina, Ryssland, Saudiarabien, Indien, Frankrike, Storbritannien och Japan tillsammans, och vissa 800 baser runt om i världen, USA har ett överflöd av eldkraft och en makalös förmåga att distribuera denna eldkraft var som helst på planeten.

Den AMERIKANSKA militären vet hur man dödar. Den svårare delen är att lista ut vem man ska döda. I en mer traditionell krig, du helt enkelt döda fienden. Men vem är fienden i en konflikt med några nationella gränser, inga fasta slagfält, och ingen konventionell motståndare?

Detta är den eviga frågan för evigt krig. Det är också en viktig del av dess design. Den vaga definitionen av fienden är det som har gjort konflikten att fortsätta under nästan två decennier och att expandera till fler än 70 länder – en välsignelse för entreprenörer, byråkrater och politiker som gör sitt levebröd från OSS militarism. Om kriget är en racket, i ord marina legend Smedley Butler, för evigt krig är en av de längsta nackdelar ännu.

Men den vaga definitionen av fienden skapar också vissa utmaningar. Det är en sak att titta på en karta över Norra Vietnam och plocka platser att bomba. Det är en helt annan att sålla bland stora mängder information från hela världen för att identifiera en bra kandidat för en drone strike. När fienden är överallt, target identification blir betydligt mer arbetskrävande. Det är där AI – eller, mer exakt, maskininlärning – kommer in. Machine learning kan hjälpa till att automatisera en av de mer tråkiga och tidskrävande aspekter av den för evigt krig: att hitta folk att döda.

Vi håller människor med makt till konto. Varför inte algoritmer? | Hannah Stek

Läs mer

Pentagon är Maven-Projekt är redan på att denna idé i praktiken. Maven, även känd som den Algoritmiska Krigföring tvärfunktionella Team, har gjort rubriker nyligen för gnistor en anställd revolt på Google över företagets engagemang. Maven är den militära “pathfinder” AI-projekt. Dess inledande fas innebär att man med hjälp av maskininlärning för att skanna drone videofilmer för att hjälpa till att identifiera personer, fordon och byggnader som kan vara värt att bomba.

“Vi har analytiker tittar på full-motion video, stirrar på skärmar 6, 7, 8, 9, 10, 11 timmar på en gång, säger projektledaren, generallöjtnant Jack Shanahan. Mavens programvara automatiserar att arbeta, då reläer sina upptäckter till en människa. Så långt, det har varit en stor framgång: den programvara som har använts för att så många som sex bekämpa platser i Mellanöstern och Afrika. Målet är att så småningom läsa in programvaran på till drönare sig själva, så att de kan hitta mål i realtid.

Kommer inte denna teknik för att förbättra precision, och därmed minska civila förluster? Detta är ett vanligt argument som högre-ups i både Pentagon och Silicon Valley för att försvara sitt samarbete kring projekt som Maven. Kod för Usa: s Jen Pahlka uttrycker det i termer av “skarpa knivar” kontra “slöa knivar”: vassare knivar kan hjälpa militären att rädda liv.

I fall av weaponized AI, dock knivar i fråga inte är särskilt skarp. Det finns ingen brist på skräck historier om vad som händer när mänskliga tillsyn är utlagd på felaktiga eller fördomsfull algoritmer – algoritmer som inte kan erkänna svarta ansikten, eller att förstärka rasistiska fördomar i polisiära och straffrättsliga domar. Vill vi verkligen Pentagon som använder samma teknik för att hjälpa till att avgöra vem som blir en bomb föll på sitt huvud?

Men den djupare problem med humanitära argument för algoritmisk krigföring är antagandet att den AMERIKANSKA militären är en i grunden välvillig kraft. Många miljoner människor runt om i världen skulle hålla med. I 2017 ensam, USA och allierade strejker i Irak och Syrien dödade så många som 6 000 civila. Siffror som dessa inte föreslå några ärliga misstag här och där, men en systemisk likgiltighet till “collateral damage”. Sannerligen, den AMERIKANSKA regeringen har upprepade gånger bombat civila tillställningar såsom bröllop i hopp om att döda ett mål med högt värde.

Vidare är gränsen mellan civila och stridande är mycket poröst i en tid präglad av evigt krig. En rapport från Avlyssna tyder på att den AMERIKANSKA militären etiketter någon dödar i “riktade” strejker som “enemy killed in action”, även om de inte var ett av målen. Den så kallade “signatur strejker” som genomförts av den AMERIKANSKA militären och CIA spela liknande trick med begreppet stridande. Dessa är drone-attacker på enskilda personer vars identitet är okänd, men som misstänks vara militanta baserat på visa vissa “signaturer” – som kan vara lika vag som en militär medelålders män i ett visst område.

Problemet är inte kvaliteten av de verktyg, med andra ord, men den institution som bär dem. Och AI kommer bara att göra att institutionen mer brutal. Den för evigt krig kräver att USA ser fiender överallt. AI lovar att hitta dessa fiender snabbare – även om de alla tar det att betraktas som en fiende som uppvisar ett mönster av beteende som en (klassificeras) machine-learning model medarbetare med fientlig aktivitet. Kallar det döden av big data.

AI har också potential att göra det för evigt krig mer permanent, genom att ge några av landets största företag en insats för att vidmakthålla det. Silicon Valley har alltid haft en nära koppling till den AMERIKANSKA militären. Men algoritmisk krigföring kommer att medföra stora tech djupare in i det militär-industriella komplexet, och ge miljardärer som Jeff Bezos ett kraftfullt incitament för att säkerställa de för evigt krig varar för evigt. Fiender kommer att bli hittade. Pengar kommer att göras.