Du rör dig längs motorvägen, när plötsligt på en trafikerad väg går. Runt omkring dig att flytta bilar, och du har en bråkdels sekund att fatta ett beslut: försök att undvika person-och att detta skapar risk för en olycka? För att fortsätta i hopp om att han kommer att ha tid? Långsam? Hur skulle du bedöma chanserna är, om du är i baksätet spänne i ett barn? På många sätt, detta är en klassisk “moraliskt dilemma,” vagnen problem. Hon har en miljon olika alternativ som kan identifiera en människa påverkar, men kärnan är densamma.
Du är i en situation där det handlar om liv och död, enkla val och ditt beslut, i själva verket, kommer att avgöra vem som lever och vem som dör.
Dilemmat med vagn och artificiell intelligens
Den nya MIT arbete som publicerades förra veckan i tidskriften Nature, försöker komma upp med en fungerande lösning till vagnen problem, som omfattar miljontals frivilliga. Experimentet började 2014 och var ganska framgångsrika, får mer än 40 miljoner svar från 233 länder, vilket gör den till en av de största som genomförts etisk forskning.
Människor kan fatta dessa beslut omedvetet. Det är svårt att väga etiska och moraliska bakgrunden när din bil är racing på vägen. Men i vår värld, beslut tenderar att göras med hjälp av algoritmer, datorer kan reagera snabbare än vad vi är.
Hypotetisk situation med självstyrande bilar är inte den enda moraliska beslut som kommer att fattas av algoritmer. Medicinsk algoritmer att välja någon för att få behandling med begränsade resurser. Automatiserade drönare kommer att bli att välja hur mycket “collateral damage” som är acceptabelt i vissa militära konflikter.
Inte alla moraliska principer som är lika
För att “lösa” problemet med vagnar är så olika som problemen själva. Hur maskiner kommer att ta moraliska beslut när grunden för moral är inte universellt accepterad och kanske inte har lösningar? Vem skall avgöra rätt eller fel algoritm?
Det crowdsourcing-strategi som antogs av forskarna i den Moraliska Maskinen, ganska pragmatisk. I slutet, för att få allmänheten att acceptera självstyrande bilar, det måste man acceptera att den moraliska Grunden bakom deras beslut. Skulle inte vara mycket bra, om etiker eller advokater som kommer att komma till beslut som inte skulle vara acceptabelt eller oacceptabelt för ordinarie förare.
Resultaten leder till den märkliga slutsatsen att den moraliska prioriteringar (och därför algoritmisk beslut som kan tas av människor), beroende på vilken del av världen du befinner dig.
Först av allt, forskare inser att det är omöjligt att veta frekvensen eller arten av dessa situationer i det verkliga livet. Olyckan människor ofta inte kan tala om exakt vad som hände, och olika tänkbara situationer utesluter lätt klassificering. Därför att problemet blev möjligt att spåra, det måste brytas i förenklad scenarier, för att söka efter universella moraliska regler och principer.
När du passerar undersökningen ombeds du tretton frågor som kräver ett enkelt val: Ja eller nej, att försöka begränsa svaren till nio faktorer.
Ska bilen rulla i andra körfält eller att gå vidare? Vill du spara de unga, inte gamla? Kvinnor eller män? Djur eller människor? Bör du försöka att spara så många liv eller ett barn är “värt” att två av de äldre? För att rädda passagerare i bilen och inte fotgängare? De som ska korsa vägen, om de inte följer reglerna, eller dessa regler? Om du behöver spara det människor som är mer fysiskt starka? Vad sägs om att människor med högre social status, såsom läkare eller affärsmän?
I denna hårda hypotetiska världen, någon måste dö, och du kommer att svara på alla dessa frågor — med varierande grad av entusiasm. Antagandet av dessa lösningar visar också djupt rotade kulturella normer och fördomar.
Bearbetning av ett stort dataset som erhållits av forskare under undersökningen, ger universella regler, och också ett märkligt undantag. De tre mest rådande faktorn, som genomsnitt för hela befolkningen, var som uttrycks i det faktum att alla föredrog att rädda fler liv, snarare än mindre människor, inte djur, och unga, inte gamla.
Regionala skillnader
Du kan komma överens med dessa punkter, men ju mer du tänker på dem, desto mer oroande är de moraliska insikter. Fler svarande väljer kriminella i stället för en katt, men i Allmänhet valde att rädda hunden, inte de kriminella. Genomsnittet i världen är beräknad att vara gammal högre än att vara hemlös, men hemlösa folk sparar mindre än fett.
Och dessa regler var inte universella: de svarande från Frankrike, STORBRITANNIEN och USA gav företräde till de unga, medan respondenterna från Kina och Taiwan mer räddade äldre. De svarande från Japan föredrog att spara fotgängare, inte passagerare, och i Kina föredrar passagerare för fotgängare.
Forskarna fann att du kan gruppera svaren av landet i tre kategorier: “West”, i första hand Nordamerika och Europa, där moral är huvudsakligen baserad på den Kristna läran, “the East” — Japan, Taiwan, mellanöstern, som domineras av Konfucianism och Islam. “Södra” länder, inklusive Central-och Sydamerika, tillsammans med starka franska kulturella inflytande. I södra segment en starkare preferens för att skänka pengar till kvinnor än någon annanstans. I Östra segmentet för större tendens till frälsning för unga människor.
Filtrering på olika attribut för de Svarande ger oändliga intressant alternativ. “Mycket religiös” respondenter med lite sannolikt att föredra att rädda djur, men både religiösa och icke-religiösa respondenterna uttryckte en ungefär lika stor förkärlek till frälsning för män med hög social status (även om du kan säga att det är i motsats till vissa religiösa läror). Män och kvinnor föredrar att spara kvinnor, men män är fortfarande mindre benägna till detta.
Obesvarade frågor
Ingen hävdar att den här studien på något sätt “löser” alla dessa tunga moraliska frågor. Forskarna noterade att crowdsourcing online-all information är partisk. Men även med ett stort urval storlek antalet frågor var begränsade. Vad skulle hända om de risker som kommer att variera beroende på ditt beslut? Vad händer om den algoritm som kan räkna ut att du bara hade en 50% chans att döda fotgängare, med tanke på den hastighet som du skulle flytta?
Edmond Awad, en av studiens författare uttryckt försiktighet mot över-tolkning av resultaten. Debatten, i sitt yttrande, som bör flöda genom riskanalys, som är mer eller mindre i riskzonen — istället för att bestämma vem dör och vem som inte gör det.
Men det viktigaste resultatet av studien var den diskussion som härjar på jorden. Algoritmer börja ta fler viktiga beslut som påverkar människors liv, är det viktigt att ha en ständig diskussion om etik och AI. Utformningen av “artificiell samvete”, bör innehålla allas åsikter. Även om svaren är inte alltid lätt att hitta, det är bättre att försöka bilda en moralisk ram för algoritmer, vilket gör att de algoritmer för att självständigt skapa en värld utan mänsklig kontroll.
Håller? Berätta för oss i vår chatt i Telegram.