Bør autonome køretøjer, være programmeret til at vælge, hvem de dræber, når de går ned? Og hvem der får adgang til den kode, der bestemmer disse beslutninger?
Google ‘ s prototype, der selv kører bil på Google campus i Mountain View, Californien.
Foto: Tony Avelar/AP
Onsdag den 23 December 2015 12.00 GMT
Sidst opdateret onsdag den 23 December 2015 12.02 GMT
Vognen Problem er en etisk brainteaser, der har været underholdende filosoffer, da det blev stillet af Philippa Foot i 1967:
Et løbsk tog, vil slagtning fem uskyldige bundet til sin bane, medmindre du trække en løftestang til at skifte det til et sidespor, hvor en mand, også uskyldig og overrumplende, er stående. Træk i håndtaget, skal du gemme fem, men dræbe den ene: hvad er den etiske handling?
Problemet har kørt i mange varianter over tid, herunder dem, hvor du er nødt til at vælge mellem en vogn dræbte fem uskyldige eller personligt skubbede en mand, der er tyk nok til at stoppe toget (men ikke til at overleve konsekvenserne) i sin vej; en variant, som den fede mand, der er skurken, der bandt uskyldige til sporet i første omgang, og så videre.
Nu er det fundet et nyt liv i debatten om, autonome køretøjer. Den nye variant, som lyder sådan her: din selvkørende bil indser, at det enten kan omstille sig på en måde, der vil dræbe dig og spare, siger en busload af børn, eller det kan pløje på og gemme dig, men børnene dør alle. Hvad skal den være programmeret til at gøre?
Jeg kan ikke tælle antallet af gange, jeg har hørt dette spørgsmål, der er stillet som chin-strøg, far-se futurisme, og den undlader aldrig at hidse mig. Det er slemt nok, at denne formulering er en lavvandet problem maskeret som dybt, men værre endnu er den måde, hvorpå denne formulering dækker over en dybere, mere betydeligt.
Her er en anden måde at tænke om dette problem: hvis du ønskede at designe en bil, der forsætligt myrdet sin føreren under visse omstændigheder, hvordan vil du sørge for, at føreren aldrig ændret sin programmering, så de kunne være sikre på, at deres ejendom vil aldrig bevidst myrde dem?
Der er et indlysende svar, som er den iPhone-model. Design bilen, så den accepterer kun software, der er blevet underskrevet af Ministeriet for Transport (eller producenten), og gøre det til en forbrydelse at lære folk, hvordan at tilsidesætte lås. Dette er den nuværende lovpligtige landskab til iPhones, spil-konsoller og mange andre enheder, der er spækkede med digitale låse, ofte kendt under handelsnavnet “DRM”. Love som den AMERIKANSKE Digital Millenium Copyright Act (1998) og direktiver, som EUCD (2001) forbyder fjernelse af digitale låse, der begrænser adgangen til
ophavsretligt beskyttede værker, og også straffe folk, der videregiver oplysninger, der kan hjælpe med at fjerne låse, som sårbarheder i enheden.
Der er et stærkt argument for dette. Programmering i autonome køretøjer vil være ansvarlig for en høj hastighed, bevægeligt objekt, der lever af offentlige veje, midt i blød og skrøbelige mennesker. Rode med din bil ‘ s hjerner? Hvorfor ikke udføre amatør operation i hjernen på dig selv først?
Men det indlysende svar er et klart problem: det virker ikke. Hver låst enhed kan let jailbroken, godt, godt-forstået, af tekniske årsager. Den primære effekt af digitale låse-reglerne er ikke til at holde folk fra at omkonfigurere deres enheder – det er bare at sikre, at de er nødt til at gøre det uden hjælp fra en virksomhed eller et produkt. Husker de år, før den BRITISKE telemyndighed Ofcom afklaret lovligheden af oplåsning af mobiltelefoner i 2002, og det var ikke svært at låse din telefon. Du kan hente softwaren fra nettet til at gøre det, eller spørge nogen, der drives af en ulovlig jailbreaking virksomhed. Men nu, at det er helt lovligt, kan du få din telefon låst op ved kiosk eller endda tør-støvsuger.
Hvis selvkørende biler kan kun være sikker, hvis vi er sikre på, at ingen kan ændre dem uden godkendelse fra producenten, så vil de aldrig være sikker.
Men selv hvis vi kunne låse biler ” konfigurationer, vi ikke burde. En digital lås skaber en zone i en edb-programmør, at selv dens ejer ikke kan komme ind. For det at arbejde, låsen er forbundet filer skal være usynlig til ejeren. Når de spørger operativsystemet for en liste af filer i låsen mappe, det skal ligge og udelade disse filer (fordi ellers brugeren kan slette eller erstatte dem). Når de spørger operativsystemet til at liste alle de programmer, der kører, lock-programmet skal udelades (fordi ellers brugeren kunne opsige det).
Alle computere har mangler. Selv software, som er blevet brugt i flere år, hvis kildekode er blevet set af tusindvis af programmører, der vil have subtile fejl, der lurer i det. Sikkerhed er en proces, ikke et produkt. Specielt, det er processen med at identificere fejl og lappe dem, før din modstander identificerer dem og udnytter dem. Da du ikke kan være sikker på, at dette vil ske, er det også processen med at opdage, når din modstander har fundet en sårbarhed, før du og udnyttes det, at rode modstanderen ud af dit system og reparere de skader, de gjorde.
Når Sony-BMG skjulte inficeret hundredtusindvis af computere med en digital lås designet til at forhindre, at CD-ripping, det havde til at skjule sin lås fra anti-virus software, som korrekt identificeret det som et program, der var installeret uden ejerens viden og det kørte mod ejerens ønsker. Det gjorde dette ved at ændre sine ofre’ – operativsystemer til at gøre dem blinde for enhver fil, der startede med en speciel, hemmelig streng af bogstaver: “$sys$.” Så snart det blev opdaget, at andre malware-forfattere tog fordel af det: når deres programmer landede på computere, at Sony havde kompromitteret, at programmet kunne skjule under Sony ‘ s kappe, afskærmet fra anti-virus programmer.
En bil er en high-speed, tung genstand med magt til at dræbe sine brugere, og de mennesker omkring det. Et kompromis i den software, der er tilladt for en hacker at overtage bremser, speeder og rat (som sidste sommer udnytte mod Chrysler ‘ s Jeeps, hvilket udløste en 1,4 m køretøj husker) er et mareridt. Det eneste, der er værre ville være sådan en exploit mod en bil, der er designet til at have ingen bruger-override – designet, i virkeligheden, at behandle ethvert forsøg fra køretøjets bruger at omdirigere sin programmering som et egoistisk forsøg på at undgå at Vognen Problem er kolde ligninger.
Uanset hvilke problemer vi har med selvkørende biler, vil de blive forværret ved at designe dem til at behandle deres passagerer som modstandere.
Der har dybtgående konsekvenser ud over den hypotetiske dumhed af Vognen Problem. En verden af netværks udstyr, der allerede er omfattet af et kludetæppe af “lovlig aflytning” regler kræver, at de har en slags bagdør til at tillade politiet at overvåge dem. Disse har været kilde til alvorlige problemer i edb-sikkerhed, såsom 2011 angreb af den Kinesiske regering på Gmail-konti af mistanke om dissident-aktivister blev henrettet ved at udnytte lovlig aflytning; så var NSA ‘ s aflytning af den græske regering har i løbet af 2004 Olympic udbudsprocessen.
På trods af disse problemer, retshåndhævelse ønsker mere tilbage døre. Den nye crypto krige, der udkæmpes i det forenede KONGERIGE gennem Theresa May “Snooper’ s Charter”, vil tvinge virksomheder til at svække sikkerheden af deres produkter for at gøre det muligt at overvåge deres brugere.
Det er sandsynligt, at vi vil få opfordrer til en lovlig aflytning kapacitet i selvkørende biler: beføjelse for politiet at sende et signal til din bil for at tvinge den til at trække over. Dette vil have alle de problemer af Vognen Problem, og mere: en indbygget evne til at køre bil på en sådan måde, at dets passagerer objekt er en gave til enhver skurk, morder eller voldtægtsforbryder, der med succes kan udgive en lov håndhævelse officer, at køretøjet – for ikke at nævne brugen af et sådant anlæg af politiet i regeringer, vi opfatter som uægte – sige, Bashar al-Assad ‘ s hemmelige politi, eller de selvbestaltede politibetjente i Isis-kontrollerede områder.
Det er den vanskelige Vogn Problem, og det bliver thornier: den største attraktion af autonome køretøjer, for byplanlæggere er mulighed for, at de vil reducere antallet af biler på vejene, ved at ændre normen fra den private ejendomsret til en slags førerløse Uber. Uber kan endda ses som en dry-run for selvstændige, der stadig kredser, punkt-til-punkt-flåde køretøjer, hvor mennesker står i til robotterne kommer – lige som globalisme og konkurrence banet vejen for udnyttelse som arbejdskraft i udlandet ordninger, som igen har ført til større automatisering og afskaffelse af arbejdere fra mange industrielle processer.
Hvis Uber er en moralsk tvetydige proposition nu, at det er i business for at udnytte sine medarbejdere, at flertydighed ikke vil forsvinde, når arbejdere går. Dit forhold til den bil du kører i, men ikke ejer, gør alle de problemer, der er nævnt endnu sværere. Du vil ikke have ret til at ændre (eller endda overvåge, eller certificere) softwaren i en Autonom-uber. Det vil være designet til at lade tredjemand (fleet ‘ s ejer) tilsidesætter det. Det kan have en bruger, tilsidesætter (Tube-tog har passager, der drives nødbremser), eventuelt mandat af forsikringsselskabet, men du kan lige så let se, hvordan en forsikringsgiver, der ville forbyde sådan en ting helt.
Glem vogne: den skæbne af selvkørende biler vil slå på arbejdsforholdene, overvågning kapaciteter, og fordelingen af kapital rigdom.