Tech titans Mark Zuckerberg och Elon Musk nyligen slugged ut det på nätet över de möjliga hot artificiell intelligens kan en dag pose för att den mänskliga rasen, även om du kan bli förlåten om du inte ser varför det verkar vara en akut fråga.
Tack till AI, datorer är att lära sig att göra en mängd olika uppgifter som länge gäckat dem – allt från att köra bil för att upptäcka cancer på huden för att skriva nyheter . Men Mysk, grundare av Tesla Motors och SpaceX, oroar sig för att AI-system kan snart överträffa människor, vilket kan leda till vår avsiktligt (eller oavsiktlig) utrotning.
För två veckor sedan, Mysk, varnade OSS för cheferna för att få en utbildning och börja fundera på olika sätt att reglera AI för att avvärja hotet. “När det finns medvetenhet, människor kommer att vara mycket rädd”, sade han på den tiden.
Zuckerberg, grundare och VD för Facebook, tog undantag. I en Facebook Levande foder inspelade lördag framför hans grill rökare, Zuckerberg slå tillbaka på Musk, säger folk som “trumma upp dessa domedagsscenarier” är “ganska oansvarigt.” På tisdag, Mysk smällde tillbaka på Twitter , skriver att “jag har pratat med Markus om det här. Hans förståelse av ämnet är begränsat.”
Här är en titt på vad som finns bakom denna high-tech-blossar-upp – och vad du bör och inte bör vara orolig för.
Vad är AI, ändå?
Tillbaka i 1956, forskare vid Dartmouth College till att börja med tanke på hur att bygga datorer som skulle kunna förbättra sig själva och ta på problem som bara människor kan hantera . Det är fortfarande en fungerande definition av artificiell intelligens.
Ett första utbrott av entusiasm vid den tidpunkten, dock, att urarta till en “AI vinter” under många decennier som tidiga insatser till stor del misslyckats med att skapa maskiner som kan tänka och lära sig – eller ens lyssna, se och tala.
Det började ändra fem år sedan. Under 2012 kommer ett team lett av Geoffrey Hinton vid Universitetet i Toronto visade att ett system med en hjärna som neurala nätverk kan “lära sig” att känna igen bilder. Samma år, ett team på Google ledd av Andrew Ng lärde en dator för att erkänna katter på YouTube-videor – utan att någonsin att lära sig vad en katt var.
Sedan dess datorer har gjort enorma framsteg i en syn, tal och komplexa spelet analys. Ett AI-system som nyligen slog världens bästa spelare av den gamla brädspelet Go.
Här kommer terminator skynet… kanske
För en dator att bli en “allmän” AI-system, det skulle behöva göra mer än bara en enkel uppgift som disk, plocka upp föremål, eller förutsäga skördar. Dessa är de typer av uppgifter som AI-system är i stort sett begränsad idag.
Men de kanske inte linkade för länge. Enligt Stuart Russell, en dator forskare vid University of California i Berkeley, AI-system kan nå en vändpunkt när de får förmågan att förstå språket i nivå med en college student. Att, sade han, är “ganska troligt att hända inom de närmaste tio åren.”
Medan att på egen hand inte kommer att producera en robot overlord, det betyder att AI-system kunde läsa “allt som mänskligheten någonsin har skrivit i varje språk”, Russell sa. Att ensam skulle ge dem betydligt mer kunskap än någon enskild människa.
Frågan är då vad som händer härnäst. En uppsättning av futuristerna tror att sådana maskiner kan fortsätta lära sig och utöka sin makt i en exponentiell takt, långt snabbare än mänskligheten inom kort. Vissa dub som potentiella händelse av en “singularitet”, en term connoting ändra långt utöver möjligheten för människor att förstå.
På kort sikt gäller
Ingen vet om singulariteten är helt enkelt science fiction eller inte. Under tiden, men ökningen av AI erbjuder massor av andra frågor att ta itu med.
AI-driven automatisering leder till ett uppsving för tillverkningsindustrin i USA – men inte tillverkning av jobb . Själv kör fordon testas nu i slutändan skulle kunna ersätta många av de nästan 4 miljoner professionella lastbil, buss och cab förare som nu arbetar i OSS.
Mänskliga fel kan också krypa in AI-system. En chatbot släpptes av Microsoft som heter Tay började twittra kränkande och rasistiska kommentarer efter online troll agnade med vad företaget heter “olämpliga kommentarer.
Harvard Universitetet professor Latanya Sweeney hittat det du söker i Google för namn som förknippas med svarta människor mer ofta tas upp annonser tyder på en kriminella gripande. Exempel på bild-erkännande bias i överflöd.
“AI skapas av en mycket elite några, och de har ett visst sätt att tänka som inte nödvändigtvis avspeglar samhället som helhet”, säger Mariya Yao, chief technology officer på AI-konsult TopBots.
Begränsa skada från AI
I sitt tal till de styrande, Mysk guvernörer uppmanas att vara proaktiv snarare än reaktiv, i regleringen av AI, även om han inte har många detaljerna. Och när en konservativ guvernör har utmanat honom på värdet av förordningen, Mysk drog sig tillbaka och sa att han var mest fråga för regeringen att få mer “insikt” i eventuella problem som presenteras av AI.
Naturligtvis, den prosaiska användning av AI kommer nästan säkert att utmana befintliga rättsliga normer och regler. När en självgående bil orsakar en olycka med dödlig utgång, eller en AI-driven medicinska system ger en felaktig diagnos, samhället kommer behovet av regler för fastställande av rättsligt ansvar.
Med sådana omedelbara utmaningar, oroande om superintelligenta datorer “skulle vara ett tragiskt slöseri med tid,” sade Andrew Moore, dekanus för datavetenskap skolan vid Carnegie Mellon University.
Det beror på att maskiner inte nu klarar av att tänka utanför lådan på ett sätt som de inte var programmerad för, sade han. “Det är något som ingen i området AI har någon aning om.”