Bemærkede killer robot-fearer Elon Musk har en plan for at frelse menneskeheden fra den truende robopocalypse: udvikling af avanceret kunstig intelligens-systemer. Du ved, præcis teknologier, der kan føre til robopocalypse.
Lad os pak, at en lille smule.
I går, Tesla ‘ s chef, sammen med et band af fremtrædende tech ledere, herunder sammen i co-stifteren Reid Hoffman og PayPal medstifter Peter Thiel, annoncerede oprettelsen af OpenAI, en nonprofit afsat til “[fremrykkende] digital intelligens på den måde, der er mest tilbøjelige til gavn for menneskeheden som en helhed, der ikke hindres af et behov for at generere økonomisk afkast.”
Selskabets stiftere er allerede bakker op om det initiativ, med $1 milliard i finansiering af forskning i løbet af de kommende år. Musk vil co-chair OpenAI med venturekapitalister Sam Altman.
Som Altman forklarede i et interview, den forudsætning af OpenAI er væsentligt, at kunstig intelligens-systemer er på vej, og vi vil gerne dele med udviklingen af denne teknologi blandt alle, ikke kun Google ‘ s aktionærer. Det lyder fint—godt, endda.
Sponsoreret
Den underlige del er denne begrundelse for at gøre det: i bund, Moskus og Altman synes at sætte gang open-AI revolution er den eneste vej til at redde os fra SkyNet. Her er Altman ‘ s svar på et spørgsmål om, hvorvidt hurtigere AI teknologi kan give folk, der søger at opnå magt eller undertrykke andre:
“Ligesom mennesker beskytte mod Dr. Ondt af den kendsgerning, at de fleste mennesker er gode, og den kollektive kraft af menneskeheden kan indeholde de dårlige elementer, vi tror, det er langt mere sandsynligt, at mange, mange AIs, vil arbejde for at stoppe den lejlighedsvis dårlig aktører, end tanken om, at der er en enkelt AI en milliard gange mere kraftfuld end noget andet,” Altman sagde. “Hvis der er én ting går af sporet, eller hvis Dr. Evil bliver der én ting, og der er intet at modvirke det, så er vi virkelig i et dårligt sted.”
Så, når killer robotter komme—og tag ikke fejl, de ER på VEJ—Moskus, Altman og deres band af Avengers, at i alle vil være i stand til at kæmpe tilbage….med deres egne killer robotter? Hvis dette lyder uhyggeligt, der minder om “en god fyr med en pistol, ville have stoppet med at skidt fyr med en pistol” – argument, det er fordi det er præcis den samme logik. Bortset fra, anvendes til en verden, hvor våben ikke findes endnu.
En anden idé? Vi kunne holde op med at forsøge at bygge superintelligent AI. Det ville formentlig være den sikreste fremgangsmåde, hvis vi virkelig, virkelig troede, at de maskiner, der var på vej til at forsøge at tørre os ud.
[BackChannel-h/t Vogter]
Følg forfatteren @themadstone
Øverste billede: Francois Mori/AP