Mer än 1 000 experter och ledande robotics forskare logga öppet brev varning av militära artificiell intelligens kapprustning
Mån 27 Jul 2015 11.18 BST
Senast ändrad: Ons 29 Nov 2017 13.58 GMT
Denna artikel är över 2 år gamla
Över 1 000 ledande experter inom området artificiell intelligens har undertecknat ett öppet brev kräver ett förbud mot militära AI utveckling och autonoma vapen, som skildras i Terminator sci-fi franchise.
Foto: Moviestore/REX Shutterstock
Över 1.000 hög profil artificiell intelligens experter och ledande forskare har undertecknat ett öppet brev som varnar för en “militär artificiell intelligens arms race” och vill förbjuda “kränkande autonoma vapen”.
Brevet, som presenterades vid den Internationella Konferens om Artificiell Intelligens i Buenos Aires, Argentina, var undertecknat av Tesla s Elon Musk, Apples medgrundare Steve Wozniak, Google DeepMind verkställande Demis Hassabis och professor Stephen Hawking tillsammans med 1000 AI och robotik forskare.
Brevet lyder: “AI-tekniken har nått en punkt där utbyggnaden av [autonoma vapen] – praktiskt om inte juridiskt möjligt i år, inte decennier, och insatserna är höga: autonoma vapen har beskrivits som” den tredje revolutionen i krig, efter krut och kärnvapen.”
Författarna menar att AI kan användas för att göra slagfältet till en säkrare plats för militär personal, men det offensiva vapen att verka på sina egna skulle sänka tröskeln för att gå till strid och leda till en större förlust av människoliv.
Bör en militär makt börja utveckla system som klarar av att välja mål och drift autonomt, utan direkt mänsklig kontroll, att det skulle börja en kapprustning som liknar den för atom bomb, hävdar författarna.Till skillnad från kärnvapen, men AI kräver inga särskilda svårt-att-skapa material och kommer att vara svåra att övervaka.
“Slutpunkten för denna tekniska banan är uppenbara: de autonoma vapen kommer att bli Kalasjnikovs i morgon. Den viktigaste frågan för mänskligheten idag är om att starta en global AI kapprustning eller för att förhindra den från början”, säger författarna.
Toby Walsh, professor i AI vid University of New South Wales sade: “Vi måste göra ett beslut i dag som kommer att forma vår framtid och bestämma om vi ska följa en bana av det goda. Vi stöder samtal med ett antal olika humanitära organisationer för ett FN-förbud mot kränkande autonoma vapen, liknande den som nyligen förbud mot maskering lasrar.”
Mysk och Hawking har varnat för att AI är “vårt största existentiella hot” och att utvecklingen av full AI kan “innebära slutet för den mänskliga rasen”. Men andra, inklusive Wozniak har nyligen ändrat sin åsikt om AI, med Apples medgrundare säga att robotar skulle vara bra för människan, att göra dem som “husdjur och tas om hand hela tiden”.
Vid en FN-konferens i Genève i April för att diskutera framtiden för vapen, inklusive så kallade “killer robotar”, STORBRITANNIEN motsatte sig ett förbud mot utveckling av autonoma vapen, trots uppmaningar från olika intressegrupper, inklusive Kampanjen för att Stoppa Robotar Mördare.
• The Guardian syn på robotar som vapen: den mänskliga faktorn
• DeepMind: “Artificiell intelligens är ett verktyg som människan kan kontrollera och styra’