Akademiker runt om i världen röst “stor oro” över KAIST samarbete med försvars-och säkerhetsföretaget på autonoma vapen
@haasbenjamin
Tors 5 Apr 2018 04.25 BST
Senast ändrad Tors 5 Apr 2018 04.36 BST
Mer än 20 länder har redan krävt ett totalförbud mot robotar mördare inför FN-mötet nästa vecka på autonoma vapen.
Foto: Stephen Curry för Guardian
Artificiell intelligens forskare från nästan 30 länder bojkottar ett sydkoreanska universitetet oro över en ny lab i samarbete med en ledande försvarsföretag kan leda till “killer robotar”.
Mer än 50 ledande akademiker som undertecknat brev där de uppmanade till bojkott av Korea Advanced Institute of Science and Technology (KAIST) och dess partner, försvar tillverkaren Hanwha System. Forskarna sade att de inte skulle samarbeta med universitet eller emot besökare från KAIST över rädslan att det syftade till att “påskynda kapprustning för att utveckla autonoma vapen.
“Det finns massor av bra saker som du kan göra med AI att rädda liv, bland annat i en militär kontext, men att öppet deklarera målet är att utveckla autonoma vapen och har en partner som gnistor stort bekymmer,” sade Toby Walsh, organisatören av bojkott och professor vid University of New South Wales. “Det här är ett mycket respekterat universitet samarbetar med ett mycket etiskt tvivelaktiga partner som fortsätter att bryta mot internationella normer.”
Bojkotten gäller inför ett Fn-möte i Genève nästa vecka på autonoma vapen, och mer än 20 länder har redan krävt ett totalförbud mot killer robotar. Användningen av AI i militärt runt om i världen har lett till farhågor om en Terminator-liknande situation och frågor har väckts om riktigheten av sådana vapen och deras förmåga att skilja vän från fiende.
Att utveckla autonoma vapen skulle göra den säkerhetspolitiska situationen på den koreanska halvön värre.
Toby Walsh, professor vid University of New South Wales
Hanwha är en av sydkoreas största vapen tillverkare, och gör klustervapen som är förbjudna i 120 länder enligt ett internationellt fördrag. Sydkorea tillsammans med USA, Ryssland och Kina, som inte har undertecknat konventionen.
Walsh var först orolig när en Korea Times artikel beskrivs KAIST som “deltar i den globala konkurrensen att utveckla autonoma vapen”, och snabbt skrev till universitetet för att ställa frågor, men inte fått ett svar.
KAIST vd, Sung-Chul Shin, sade att han var ledsen att höra av bojkotten. “Jag vill bekräfta att KAIST inte har någon avsikt att engagera sig i utvecklingen av dödligt autonoma vapen system och robotar mördare,” Shin sade i ett uttalande.
“Som en akademisk institution, vi värdesätter mänskliga rättigheter och etiska normer för att en mycket hög grad”, tillade han. “Jag upprepar än en gång att KAIST kommer inte att bedriva någon forskning motverka att den mänskliga värdigheten inklusive autonoma vapen som saknar meningsfull mänsklig kontroll.”
KAIST öppnade forskning centrum för samordning av det nationella försvaret och artificiell intelligens den 20 februari, med Shin säger samtidigt att det skulle “ge en stark grund för att utveckla det nationella försvaret teknik”.
Centret kommer att fokusera på “AI-baserat kommando och beslut system, sammansatt navigering algoritmer för mega-skala obemannade undersea fordon, AI-baserade smarta flygplan utbildning, och AI-baserade smarta objekt att spåra och erkännande teknik”, sedan raderade uttalande sade.
Sydkoreas Dodaam System som redan tillverkar ett helt självständigt “bekämpa robot”, en stationär torn, som kan upptäcka mål upp till 3 km bort. Kunder omfatta Förenade Arabemiraten och Qatar, och det har testats på starkt militariserade gränsen med Nordkorea, men befattningshavare i bolaget berättade för BBC 2015 det var “självpåtagna begränsningar” det krävs en människa för att leverera en dödlig attack.
Den Taranis militära drönare som byggdes av BRITTISKA BAE System kan tekniskt fungerar helt självständigt, enligt Walsh, som sade killer robotar gjorde alla mindre säker, även i ett farligt grannskap.
“Att utveckla autonoma vapen skulle göra den säkerhetspolitiska situationen på den koreanska halvön värre, inte bättre,” sade han. “Om dessa vapen får göras var som helst, så småningom skulle de säkerligen dyka upp i Nordkorea, och de skulle inte ha några betänkligheter om att använda dem mot Söder.”