Foto: AP
Tesla CEO Elon Musk og Google AI ekspert Mustafa Suleyman er blant 116 eksperter fra 26 land som har signert et brev til fn ber det til å stenge ute autonome våpen over hele verden, advarsel killer roboter kan innvarsle en enestående ny æra av dødelige krigføring.
Gruppen advarte FN-Konvensjonen om Konvensjonelle Våpen gjennomgang konferanse om at “en Gang utviklet, dødelige autonome våpen vil tillate væpnede konflikten til å bli utkjempet på en skala større enn noensinne, og på tidsperioder raskere enn mennesker kan forstå,” the Guardian rapportert.
“Disse kan være våpen av terror, våpen som despots og terrorister bruker mot uskyldige bestander, og våpen hacket til å oppføre seg på uønskede måter,” brev fortsatte. “… Vi har ikke lang tid på å handle. Når denne Pandoras eske er åpnet, vil det være vanskelig å lukke.”
“I motsetning til andre potensielle manifestasjoner av AI som fortsatt i riket av science fiction, autonome våpen-systemer er på cusp av utvikling akkurat nå, og ha en svært reell potensial for å forårsake betydelig skade på uskyldige mennesker sammen med en global ustabilitet,” Clearpath Robotics grunnlegger Ryan Gariepy fortalte the Guardian.
Underskriverne sa de ønsker dødelig autonome systemer som kan gjøre sine egne selvstendige valg å drepe for å bli lagt til 1983 Convention på Visse Konvensjonelle Våpen, som forbudt eller begrenset av landminer, kjemiske incendiaries og blindende lasere, blant annet våpen. Deres brev vil bli lansert på den Internasjonale Felles Konferanse om Kunstig Intelligens, som sparkes i gang i Melbourne on August 21st.
Moskus har vært særdeles frittalende om emnet, selv om hans fiksering har generelt vært ideen om at kunstig intelligente roboter utgjør en eksistensiell risiko for fremtiden av den menneskelige arter.
Dette brevet er litt mer ned til jorden, se fjernstyrte våpen som Predator-droner er allerede i utstrakt bruk, og noen fullt autonome våpen som hangarskipet missile defense systems har allerede blitt utviklet. På Sør-koreas side av DMZ, festninger inkluderer Samsungs SGR-A1 sentry gun, som trolig omfatter selvstendig evne. Maskiner allerede styre mye av beslutningsprosessen i krigføring (for eksempel å hjelpe tropper til å identifisere mål), og er klar til å overta enda mer av det.
Så med andre ord, frykten for en potensiell Skynet scenario er ikke en forutsetning for bekymringer om hvorvidt nådeløs roboter kan gjøre verden av fremtidige en styggere og mindre stabilt sted. Ta for eksempel opptrapping av drone wars under Barack Obama-administrasjonen. Mens det Hvite Hus kunne ha beordret militæret til å drepe tusenvis av mennesker i Midt-Østen, Afghanistan og Nord-Afrika med konvensjonelle jets, er det liten tvil om at fysisk og følelsesmessig avstand av å ha eksternt styrt Predator-droner utføre drap var en viktig faktor til at programmet er slutt skala.
Politi bruk av dødelige roboter er potensielt like om; siste året, Dallas politiet tok ut en barrikaderte masse skytespill med en bombe på en robot.
Som the Guardian nevnt, mange fullt autonome systemer som kan gjøre å drepe enda mer praktisk enn RC biler blir jobbet på nå. De inkluderer STORBRITANNIAS Taranis Drone og USA’ Sea Hunter krigsskip, samt selvstendige versjoner av Russlands Uran-9 pansrede kjøretøy. Ingen av dem har skremmende stål hodeskaller med glødende røde øyne som roboter fra Terminator, men de alle bærer mye mer våpen enn en av disse tingene også.
[Guardian]