Nästan så snart nyheten bröt av en dödlig krasch där Tesla s Autopilot förra året, fans och belackare electric-car tillverkaren har varit tydliga på den tragedi orsakar. Tesla ‘s anhängare och investerare aldrig tvivlat på att det system som förbättrar säkerhet, så måste föraren ha misslyckats med att lyssna Tesla’ s varningar och vara uppmärksam. Belackare och kort investerare är allt annat än säker på att Autopiloten på något sätt misslyckats med att skydda föraren, som tillåter honom att köra direkt till semi på 74 km / h.
Efter mer än ett år av debatt ett slutgiltigt svar är äntligen på sidan, artighet av en National Transportation Safety Board utredning vars slutliga resultaten presenteras denna vecka. Men styrelsen är resultaten sannolikt inte kommer att lämna någon sida lycklig: Snarare än att skylla på människan eller maskinen ensam, det verkar som om både mänskliga förare och Autopilot system – särskilt de komplexa relationerna mellan de två — bidragit till den dödliga händelsen.
I hjärtat av ärendet är en farlig dynamisk: Med miljarder på spel i frantic race för att utveckla en självgående bil teknik, det finns ett mycket stort incitament för biltillverkare att skapa intryck av att fordon som är till salu idag är “fristående.” Men som NTSB klart, ingen bil nu på marknaden kan säkert autonom körning. När konsumenterna ta high-tech hype till nominellt värde, en dödlig klyftan mellan uppfattning och verklighet kan öppna.
OSS Uppdateringar som Själv Kör Bil Riktlinjer som Mer Hit the Road
Tesla skördat månader av berömmande täckning och värt miljarder i börsvärde genom att presentera sin Autopilot system som är mer självständig än någon annan advanced driver assist system, även som det varnas för ägarna att de måste vara uppmärksam och i kontroll hela tiden. Om Autopiloten gjorde att erbjuda bättre prestanda än andra avancerade förarassistanssystem, nyckeln till dess framgång var avsaknaden av begränsningar Tesla sätta på dess användning. Eftersom Autopilot gör att ägarna att köra med fria händer överallt, även på vägar där Tesla har varnat för att en sådan användning inte skulle vara säkra, de har företaget kunnat resultat av uppfattningen att dess system var mer självständiga än andra.
Men Autopilot faktiskt var utformad för användning på väl markerade, skyddade vägar med ingen chans att gränsöverskridande trafik. Så när traktor-trailer vände över Florida Highway 27 Maj förra året och Tesla smällde rakt in utan att utlösa någon säkerhetssystem, Autopilot fungerar exakt som de ska. Problemet var att det kommer att användas på en väg med villkor som den inte är konstruerad för att klara, och föraren hade tydligen varit vaggas till ro. Långt från att gå omkull, Autopilot var faktiskt så bra att det ledde föraren att tro att det var mer kompetent än det egentligen var.
Denna komplicerade fel, som både människa och maskin bidragit till, låter en viktig varning om autonoma-drive-teknik: tills dess att systemen är så bra att de inte behöver någon mänsklig input, den mänskliga föraren måste vara i centrum av “semi-autonoma” drive system design. Ingenjörer måste anta att om det finns ett sätt för människor att missbruka dessa system, de kommer. Lika viktigt, att företag måste förstå att om de över-främja en semi-autonoma bil systemets kapacitet i hopp om att dra framåt i loppet till självständighet, de riskerar att göra tekniken mindre säker än en utan mänskliga förare.
Det finns en läxa att lära här från luftfarten. Datorer och sensorer förbättrats under 1980-talet, flygplanstillverkare började att automatisera mer och mer av kontroller bara för att de kunde. Först senare fick industrin att inse att lägga automation för den skull automation faktiskt gjort flygplan mindre säkra, så att de re-orienterade autopilot utveckling kring principen om “mänskliga-centric automation. Endast vid automatisering är utplacerade på ett sätt som är utformade för att förbättra pilot prestanda ger säkerhet faktiskt förbättra.
Om något, denna dynamiska kommer att vara mer uttalad med bilar, som används i mycket högre siffror än flygplan av människor med mycket mindre träning. Men till skillnad från flygplan företag som går samman för att förbättra säkerheten i hela branschen, biltillverkare och tech startups är i hård konkurrens för den verkliga eller upplevda ledningen i loppet för att uppnå självständighet.
Så länge som konsumenterna bryr sig mer om den futuristiska coola faktorn för handsfree-användning än att använda teknik för att bli en säkrare förare, risken för en farlig klyfta mellan uppfattning och verklighet av autonoma-drive tekniken är. Och vad synd det skulle vara om denna teknik, som har potential för att en dag kan rädda tiotusentals liv varje år, faktiskt gjort mindre säkra bilar på kort sikt.
© 2017 Bloomberg L. P.