Syftet med
OpenAI, som lanserades förra veckan, är att använda artificiell intelligens för att gynna samhället. Den nystartade projektet har dragit $1 miljarder i finansiering från några av high tech mest kända namn för att hjälpa den att uppnå detta mål.
Den ideella organisationen syftar till att “främja digital intelligens på det sätt som är mest sannolikt att gynna mänskligheten som helhet, ganska oberoende av ett behov av att generera ekonomisk avkastning,” CTO Greg Brockman och forskningschef Ilya Sutskever skrev i ett blogginlägg.
Investerare har SpaceX VD Elon Musk, Linkedins grundare Reid Hoffman, PayPal grundarna Peter Thiel, Y Combinator founding partner Jessica Livingston och Ordförande Sam Altman, Amazon Web Services, och Infosys.
Altman och Mysk kommer co-chair OpenAI.
Investerare tror AI “bör vara en förlängning av individuella mänskliga viljor och, i den anda av frihet, ett så brett och jämnt fördelade som möjligt,” Brockman och Sutskever skrev.
Vad OpenAI Kommer Att Göra
OpenAI: s forskare uppmanas att publicera sitt arbete, och alla patent som delas ut kommer att delas med alla. De kommer att samarbeta fritt med både institutioner och företag.
Dagens AI-system är enastående när det kommer till mönster erkännande problem, men de är begränsade till dem. OpenAI planer på att arbeta för att ta bort dessa begränsningar tills datorer så småningom kan nå mänskliga prestationer på praktiskt taget varje intellektuell uppgift, Brockman och Sutskever skrev.
Gör så korrekt kunde vara till stor nytta — eller det kan leda till oöverskådliga skador. OpenAI investerare anser att det är viktigt att ha en ledande forskningsinstitution som “kan prioritera ett bra resultat för alla över sitt eget intresse”, sade de.
Vem Beslutar?
OpenAI syften väcker frågan om vem som bestämmer vad som kommer att gagna mänskligheten.
“Hur många enheter behöver vi för att berätta vad som är bra för oss?” frågade Jim McGregor, chefsanalytiker på
Tirias Forskning.
Ingen är kvalificerad att göra detta, sade han till LinuxInsider.
“Många av framstegen inom vetenskap och teknik har varit ett resultat av tillfälligheter,” McGregor har påpekat. “Så, hur planerar du för innovation som uppfyller vissa moraliska krav? Detta är en oro över Hollywood scenarier om vad som skulle kunna hända.”
Å andra sidan, “även när fokuserade på att inte göra det onda, ofta spänning om tekniken kan blinda forskarna om vad som är klokt,” påpekade Rob Enderle, förste analytiker på Enderle Group.
Kan Bias Undvikas?
Trycket från företag, tekniker och regeringar, i fråga om
kryptering, inflytande high-tech standarder skapande process, så vad är oddsen för OpenAI undvika ett sådant tryck?
“Det är en öppen forskning, vilket i stort sett innebär att det kommer att finnas gränser för vem som ska kunna innehålla vad som resultat,” Enderle berättade LinuxInsider.
“Att tro att du kan skapa en öppen plattform och sedan kontrollera resultatet är som Google att tro att de skulle kunna skapa Android och inte har Amazon stjäla från dem för Kindle,” sade han.
Det Etiska Dilemma
Machine learning har att vara öppen, och AI kan inte vara likriktade om det är för att uppnå sin fulla potential, hävdade Mukul Krishna, en global forskningschef på Frost & Sullivan.
När AI har utvecklats till den punkt där det faktiskt kan stå på sina egna två ben och börjar att fatta beslut baserat på sina beräkningar och extrapoleringar, “som kommer att höja den etiska och filosofiska frågan “vad gör du”, sa han till LinuxInsider.
“Antingen du begränsa algoritmer för att de uppgifter som AI har och vad det kommer att spotta ut så det är bara en analytisk motor för ren data och rensa ut allt i data eller algoritm som gör det möjligt att se på immateriella tillgångar av data och abstrakta begrepp, eller du kan vara på väg mot att skapa en ny intelligens, en medveten intelligens,” Krishna föreslås.
“Då måste du ta reda på, är du redo att acceptera frågan om lösgående AI?” Krishna frågade.
Den spöke av en
untethered AI har sjukt Mysk i några år nu, och han har uttalat sig offentligt om sin fara, som har flera framstående experter.
Men “den enda påverkan [OpenAI] kommer att ha är att påverka den allmänna opinionen och, möjligen, se förordning i vissa länder,” McGregor sade. “Det kommer inte att ändra historiens gång eller väg för innovation”
Richard Adhikari har skrivit om high-tech för ledande publikationer i industrin sedan 1990-talet och undrar om det hela leder till. Kommer inopererade RFID-chip i människor vara Vilddjurets Märke? Kommer nanotekniken att lösa våra kommande livsmedelskris? Gör Sturgeons Lag håller fortfarande sant? Du kan ansluta med Richard på
Google+.