Det AMERIKANSKE militæret er å skape en mer automatisert form for krigføring – en som vil øke sin kapasitet til å føre krig overalt alltid.
@bentarnoff
Thu 11 Oct 2018 10.00 BST
Sist endret på Thu 11 Oct 2018 10.01 BST
USA har vært i Afghanistan så lenge at en som er født etter angrepene er nå gammel nok til å gå kjempe for det.
Foto: Getty Images
Siste måned markerte 17. årsdagen for 9/11. Med det kom en ny milepæl: vi har vært i Afghanistan så lenge at en som er født etter angrepene er nå gammel nok til å gå kjempe for det. De kan også tjene i seks andre steder der vi er offisielt i krig, for ikke å nevne 133 land der spesialstyrker har gjennomført oppdrag i løpet av første halvdel av 2018.
Krigene om 9/11 fortsette, med ingen ende i sikte. Nå, Pentagon investerer tungt i teknologi som vil forsterke dem. Ved å omfavne den nyeste verktøy som tech industrien har å tilby, de AMERIKANSKE militære er å skape en mer automatisert form for krigføring – en som vil øke sin kapasitet til å føre krig overalt alltid.
På fredag, forsvarsdepartementet lukker budgivning periode for en av de største teknologi-kontrakter i sin historie: Felles mål, Forsvar Infrastruktur (Jedi). Jedi er et ambisiøst prosjekt for å bygge en cloud computing system som serverer AMERIKANSKE styrker over hele verden, fra analytikere bak et skrivebord i Virginia til soldater på patrulje i Niger. Kontrakten er verdt så mye som $10 milliarder som ble over 10 år, noe som er grunnen til stor tech selskaper kjemper hardt for å vinne den. (Ikke Google, men der det er et press kampanje av ansatte tvunget management for å slippe ut av drift.)
Ved første øyekast, Jedi kan se ut som bare en annen IT-modernisering prosjektet. Regjeringen er DET en tendens til å kjøre en avstand bak Silicon Valley, selv på et sted så overdådig finansiert som Pentagon. Med noen 3,4 millioner brukere og 4 millioner enheter, forsvarsdepartementet er digitale fotavtrykk er enorm. Beveger seg selv en del av arbeidsbelastning til en nettsky-leverandør, for eksempel Amazon vil uten tvil øke effektiviteten.
Men den virkelige kraften kjøring Jedi er ønsket om å weaponize AI – hva forsvarsdepartementet har begynt å kalle “algoritmisk krigføring”. Ved å samle de militære data inn i en moderne cloud-plattform, og ved å bruke maskin-læring tjenester som slike plattformer gir til å analysere data, Jedi vil hjelpe Pentagon realisere sitt AI ambisjoner.
Hvorfor undervise drone piloter om etikk når det er roboter som vil drepe oss? | Andrew Brown
Les mer
Omfanget av de ambisjonene som har vokst stadig mer tydelig i de siste månedene. I juni, Pentagon etablert Felles Artificial Intelligence Center (JAIC), noe som vil føre tilsyn med om lag 600 AI prosjekter som for tiden er under måte på tvers av avdeling i en planlagt kostnad på $1.7 mrd. Og i September, Defense Advanced Research Projects Agency (Darpa), Pentagons etasjer R&D-fløyen, annonsert det ville være å investere opp til $2bn i løpet av de neste fem årene i AI våpen forskning.
Så langt, rapportering på Pentagons AI utgifter spree har i stor grad fokusert på prospektet av autonome våpen – Terminator-stil killer roboter som klippe folk ned uten noen innspill fra en menneskelig operatør. Dette er faktisk en skremmende nær fremtid, og et globalt forbud mot autonome våpen av den typen som etterspørres av Kampanjen for å Stoppe Killer Roboter er helt avgjørende.
Men AI har allerede begynt ledningsoppsett krigføring, selv om det ikke har (ennå) tatt form av ordrette Terminators. Det er mindre filmatisk, men like skremmende måter å weaponize AI. Du trenger ikke algoritmer for å trekke på avtrekkeren for algoritmer for å spille en ekstremt farlig rolle.
For å forstå den rollen, det hjelper til å forstå de spesielle problemer som utgjøres av den evig krig. Drapet i seg selv er ikke spesielt vanskelig. Med en militær økonomiske større enn Kina, Russland, Saudi-Arabia, India, Frankrike, Storbritannia og Japan kombinert, og noen 800 baser rundt om i verden, USA har en overflod av våpen og en enestående evne til å deployere at ildkraft hvor som helst på kloden.
Den AMERIKANSKE militære vet hvordan å drepe. Den hardere delen er å finne ut hvem de skal drepe. I en mer tradisjonell krig, du bare drepe fienden. Men hvem er fienden i en konflikt med ingen nasjonale grenser, ingen fast slagmarker, og ingen konvensjonell motstandere?
Dette er den evige spørsmålet om evig krig. Det er også en viktig funksjon i sin design. Den vaghet av fienden er hva som har aktivert konflikten til å fortsette i nesten to tiår, og for å utvide til mer enn 70 land – en velsignelse for den entreprenører, byråkrater og politikere som livnærer seg fra OSS militarisme. Hvis krigen er en racket, i ord av marine legend Smedley Butler, den evig krig er en av de lengste ulemper ennå.
Men vaghet av fienden også skaper visse utfordringer. Det er en ting å se på et kart over Nord-Vietnam og plukke steder å bombe. Det er noe helt annet å sile gjennom enorme mengder informasjon fra hele verden for å identifisere en god kandidat for en drone streik. Når fienden er overalt, mål identifikasjon blir langt mer arbeidskrevende. Dette er hvor AI – eller, mer presist, maskin-læring – kommer inn. Maskinlæring kan hjelpe automatisere en av de mer kjedelige og tidkrevende aspekter av evig krig: å finne mennesker å drepe.
Holder vi folk med makt til kontoen din. Hvorfor ikke algoritmer? | Hannah Yngel
Les mer
Pentagons Prosjektet Maven er allerede å sette denne ideen ut i praksis. Maven, også kjent som Algoritmisk Krigføring samarbeidsteam, skapte overskrifter nylig for sparking en ansatt opprør på Google over selskapets engasjement. Maven er den militære “pathfinder” AI-prosjektet. Den første fasen innebærer bruk av maskinlæring å skanne drone video-opptakene for å bidra til å identifisere enkeltpersoner, biler og bygninger som kan være verdt bombingen.
“Vi har analytikere ser på full-motion video, stirrer på skjermer 6, 7, 8, 9, 10, 11 timer av gangen, sier prosjektdirektør, Lt Gen Jack Shanahan. Maven er programvare som automatiserer arbeidet, så formidler sine funn til et menneske. Så langt, det har vært en stor suksess: programvaren har blitt deployert til så mange som seks kamper steder i Midt-Østen og Afrika. Målet er å til slutt laste programvaren på droner seg, slik at de kan finne mål i sanntid.
Vil ikke denne teknologien til å forbedre presisjon, og dermed redusere sivile tap? Dette er et vanlig argument laget av sjefene i både Pentagon og Silicon Valley for å forsvare deres samarbeid på prosjekter som Maven. Code for America ‘ s Jen Pahlka setter det i form av “skarpe kniver” versus “sløve kniver”: skarpere kniver kan hjelpe militære redde liv.
I tilfelle av militær versjon av AI, imidlertid, kniver i spørsmålet er ikke spesielt skarp. Det er ingen mangel på horror historier om hva som skjer når menneskelige tilsyn er outsourcet til feil eller prejudiced algoritmer – algoritmer som ikke kan gjenkjenne svarte ansikter, eller som forsterker rasefordommer i politi-og strafferettslige straffeutmålingen. Ønsker vi virkelig Pentagon bruker samme teknologi som bidrar til å avgjøre hvem som får en bombe falt på hodet?
Men det mer grunnleggende problemet med den humanitære argument for algoritmisk krigføring er forutsetningen at den AMERIKANSKE militære, er en vesentlig kjærlige kraft. Mange millioner av mennesker rundt om i verden vil være uenig. I 2017 alene, den AMERIKANSKE og allierte angrep i Irak og Syria har drept så mange som 6000 sivile. Tall som dette ikke foreslå noen ærlige feil her og der, men en systemisk likegyldighet til “collateral damage”. Faktisk, den AMERIKANSKE regjeringen har gjentatte ganger bombet sivile sammenkomster som bryllup i håp om å drepe en høy verdi mål.
Videre, linje mellom sivile og stridende er meget porøst i den æra av evig krig. En rapport fra Skjæringspunktet tyder på at den AMERIKANSKE militære etiketter noen drap i “målrettet” streiker som “fiende drept i aksjon”, selv om de ikke var ett av målene. Den såkalte “signatur streik” utført av det AMERIKANSKE forsvaret og CIA spille lignende triks med konseptet av deltakerne. Disse er drone angrep på personer hvis identitet er ukjent, men som er mistenkt for å være militante basert på å vise visse “signaturer” – som kan være så vage som en militær-alderen mann i et bestemt område.
Problemet er ikke kvaliteten av verktøy, med andre ord, men institusjonen til å skyte dem. Og AI vil bare gjøre at institusjonen mer brutal. The forever war krever at USA ser fiender overalt. AI lover å finne de fiender raskere – selv om det er alt det tar for å bli betraktet som en fiende og viser et mønster av atferd som en (klassifisert) maskin-læring modell medarbeidere med fiendtlig aktivitet. Kaller det død av big data.
AI har også potensial til å gjøre den evig krig mer permanent, ved å gi noen av landets største selskaper en innsats i å videreføre det. Silicon Valley har alltid hatt nære forbindelser til AMERIKANSKE militære. Men algoritmisk krigføring vil bringe stor tech dypere inn i det militær-industrielle kompleks, og gi milliardærer som Jeff Bezos et kraftig insentiv til å sikre den evig krig varer evig. Fiender vil bli funnet. Pengene vil bli gjort.