Akademikere verden over stemme “for stor bekymring” over KAIST samarbeid med forsvaret selskapet på autonome våpen
@haasbenjamin
Tor 5 Apr 2018 04.25 BST
Sist endret på Tor 5 Apr 2018 06.08 BST
Mer enn 20 land har allerede kalt for et totalforbud mot killer roboter i forkant av et FN-møte neste uke på autonome våpen.
Foto: Stephen Karri i the Guardian
Kunstig intelligens forskere fra nesten 30 land boikotte en Sør-koreansk universitetet over gjelder en ny lab i samarbeid med en ledende forsvar selskapet kunne føre til “killer roboter”.
Mer enn 50 ledende akademikere signert brevet kaller for en boikott av Korea Advanced Institute of Science and Technology (KAIST) og sin partner, forsvar produsenten Hanwha Systemer. Forskerne sa at de ikke ville samarbeide med universitetet eller vert besøkende fra KAIST over frykter det søkt å “akselerere våpenkappløp å utvikle” autonome våpen.
“Det er nok av gode ting du kan gjøre med AI som redder liv, blant annet i en militær kontekst, men til å åpent erklære målet er å utvikle autonome våpen og har en partner som dette vekker stor bekymring,” sa Toby Walsh, som organiserer boikott og en professor ved University of New South Wales. “Dette er en svært respektert universitetet samarbeider med en svært etisk tvilsom partner som fortsetter å bryte med internasjonale normer.”
Å utvikle autonome våpen ville gjøre security situasjonen på den koreanske halvøya verre.
Toby Walsh, professor ved University of New South Wales
Boikotten kommer i forkant av et fn-møte i Genève neste uke på autonome våpen, og mer enn 20 land har allerede kalt for et totalforbud mot killer roboter. Bruk av AI i militære styrker over hele verden har utløst frykt for en Terminator-lignende situasjon og spørsmål har vært reist om nøyaktigheten av slike våpen, og deres evne til å skille venn fra fiende.
Hanwha er en av Sør-Koreas største våpen produsenter, og gjør klasebomber som er forbudt i 120 land under en internasjonal traktat. Sør-Korea, sammen med USA, Russland og Kina, er ikke undertegnet konvensjonen.
Spill Av Video
0:59
Sør-Korea university, viser folk-bærer robot – video
Walsh var i utgangspunktet bekymret når et Korea Times artikkel beskrevet KAIST som “det å være med i den globale konkurransen om å utvikle autonome våpen” og straks skrev til universitetet å stille spørsmål, men mottok ikke svar.
KAIST president, Sung-Chul Shin, sa at han var lei for å høre om boikott. “Jeg ønsker å bekrefte at KAIST ikke har noen intensjon om å engasjere seg i utvikling av dødelige autonome våpen-systemer og morder roboter,” Shin sa i en uttalelse.
“Som en akademisk institusjon er vi opptatt av menneskerettigheter og etiske standarder til en svært høy grad,” la han til. “Jeg bekrefter igjen at KAIST vil ikke gjennomføre noen forskningsaktiviteter mot menneskelig verdighet inkludert autonome våpen mangler meningsfylt menneskelig kontroll.”
Profil Hva er Hanwha Systemer?
Vis
Skjul
Hva er Hanwha Systemer?
Hanwha Systemer er en del av et stort globalt Sør-koreanske konglomerat som strekker seg over økonomi, bygg og anlegg, kjemikalier og hotell, og er en av de 10 største selskapene i landet. Det ble grunnlagt i 1952, under korea-Krigen, som Korea Eksplosiver Selskapet.
Selskapet ble ekskludert fra Norges nasjonale olje-fondet, designet for å investere overskuddet for fremtidige generasjoner, over etiske spørsmål knyttet til produksjon av klasebomber. Våpen har vært forbudt under en traktat undertegnet av 120 land, selv om Sør-Korea er ikke en fest.
Hanwha ansatte ble satt til å “bygge opp et samarbeid systemet gjennom deling av utdanningsprogram og utveksle forskning arbeidskraft” på en kunstig intelligens research centre ved en ledende koreansk university, sparking kontrovers.
I de siste årene, Hanwha har blinket ut midtøsten som “en førsteklasses og strategiske markedet”, og søkte å utvide med oppkjøp av rivaliserende selskaper. Selskapet samarbeider med Indiske firmaet Larsen & Toubro for å sikre en rapportert $660m våpen kontrakt som en del av begynnelsen på en plan for å overhale den Indiske militære.
Gruppens leder, Kim Seung-youn, ble dømt for underslag i 2012, som er en del av en streng av høy-profil koreansk forretningsmenn siktet for økonomisk kriminalitet.
Var dette nyttig?
Takk for din tilbakemelding.
KAIST åpnet forskningssenter for konvergens av nasjonale forsvar, og kunstig intelligens 20. februar, med Shin å si på den tiden det ville “gi et sterkt fundament for utvikling av nasjonale forsvars-teknologi”.
Senteret vil fokusere på “AI-basert kommando og vedtak systemer, kompositt navigasjon algoritmer for mega-skala ubemannede undersjøiske kjøretøy, AI-baserte smart fly opplæring i systemer, og AI-baserte smart objekt sporing og anerkjennelse teknologi”, siden slettet kunngjøring sa.
Sør-Korea er Dodaam Systemer allerede produserer et fullt autonome “kamp robot”, en stasjonær turret, i stand til å oppdage mål opp til 3 km unna. Kunder omfatter de Forente Arabiske Emirater og Qatar, og det har blitt testet på svært militarisert grensen med Nord-Korea, men selskapet ansatte fortalte BBC i 2015 var det “selvpålagte restriksjoner”, som krevde et menneske til å levere et dødelig angrep.
Den Taranis militære drone bygget av BRITISKE BAE Systems kan teknisk operere helt selvstendig, ifølge Walsh, som sa killer roboter laget alle mindre trygg, selv i en farlig nabolag.
“Å utvikle autonome våpen ville gjøre security situasjonen på den koreanske halvøya verre, ikke bedre,” sa han. “Hvis disse våpnene få laget hvor som helst, til slutt ville de sikkert slå opp i Nord-Korea, og de ville ikke ha noen betenkeligheter med å bruke dem mot Sør.”