Een onbemande VS Predator drone vliegt over Kandahar Air Field, het zuiden van Afghanistan, op een maan verlichte nacht. (Foto: AP)
Als we het hoofd dieper in de 21e eeuw, in het vooruitzicht van het verkrijgen van robots doen het vuile zaken van het doden dichter bij met elke dag die voorbijgaat. In Max Tegmark ‘s nieuwe boek, het Leven 3.0: Mens in het Tijdperk van Kunstmatige Intelligentie, de MIT-natuurkundige en oprichter van de Toekomst van het Leven Instituut overweegt dit schijnbaar scifi mogelijkheid, het afwegen van de mogelijke voordelen van autonome machines in de oorlog met de enorme risico’ s. De ultieme uitdaging, zegt hij, zal overtuigende wereld bevoegdheden te geven op dit spel-veranderende technologie.
AI heeft de potentie om transform vrijwel elk aspect van ons bestaan, maar het is niet onmiddellijk duidelijk wanneer we in staat zijn om volledig de controle over deze ontzagwekkende kracht. Radicale ontwikkelingen in de AI is denkbaar resulteren in een utopische paradijs, of een techno-hel waardig van een James Cameron film script. Onder Tegmark de vele betreft is het vooruitzicht van de autonome moordmachines, waar mensen worden gehouden, ‘uit de loop’ wanneer de tijd rijp is voor een robot om te doden van een vijand af. Zoals met zo veel dingen, de duivel zit in de details, en deze technologie zou kunnen leiden tot een tal van onverwachte complicaties en risico ‘ s—een aantal van hen van een existentiële aard.
Gizmodo is opgewonden om te delen een exclusief fragment uit het Leven 3.0, waarin Tegmark bespreekt de voor-en nadelen van het uitbesteden van leven-en-dood besluitvorming aan een machine, een recent initiatief om een instituut een internationaal verbod op autonome moordmachines, en waarom het zo moeilijk voor de Verenigde Staten om afstand te doen van deze toekomstige technologie.
Van Hoofdstuk 3: De Nabije Toekomst: Doorbraken, Bugs, Wetten, Wapens en Werkgelegenheid
Sinds onheuglijke tijden heeft de mensheid leed onder de hongersnood, ziekte en oorlog. In de toekomst, AI kan helpen bij het verminderen van honger en ziekte, maar hoe zit het dan met oorlog?
Sommigen beweren dat nucleaire wapens af te schrikken oorlog tussen de landen dat ze bezitten, want ze zijn zo gruwelijk, dus hoe over het laten van alle volkeren het bouwen van nog meer gruwelijke AI-gebaseerde wapens in de hoop van het einde van de oorlog eeuwig is? Als je unpersuaded door dat argument geloven dat toekomstige oorlogen zijn onvermijdelijk, hoe zit het met de AI te maken van deze oorlogen meer humane? Als er oorlogen bestaan slechts van machines vechtmachines, dan is er geen menselijke soldaten of burgers nodig hebben gedood. Bovendien toekomst AI-aangedreven drones en andere autonome wapensystemen (AWS; ook bekend door hun tegenstanders als “killer robots”) kan hopelijk meer eerlijke en rationele menselijke soldaten: uitgerust met bovenmenselijke sensoren en niet bang van gedood te worden, ze kunnen blijven koele, berekenende en nuchter, zelfs in het heetst van de strijd, en zal minder waarschijnlijk per ongeluk doden van burgers.