När spel-spela system AlphaGo besegrade en mästare på det Kinesiska spelet gå fem spel till noll, dess skapare kunde inte förklara varför. Är detta ett tecken på intuitiv AI?
En stormästare spelar AlphaGo på den urgamla Kinesiska spelet gå.
Foto: Google DeepMind
Söndag 31 januari 2016 09.00 GMT
Förra veckan, forskare vid artificiell intelligens företaget DeepMind, som nu ägs av Google, meddelade en extra genombrott: i oktober förra, en DeepMind computing system som kallas AlphaGo hade besegrat den regerande mästaren spelare av antika Kinesiska spelet gå av fem spel till noll. Segern var meddelade i förra veckan i en artikel publicerad i den vetenskapliga tidskriften Nature.
Så vad? Datorer har varit att få bättre och bättre på brädspel för yonks. Sätt tillbaka i den mörka medeltiden 1997, till exempel IBM: s Deep Blue machine slog den dåvarande världsmästaren i schack, Garry Kasparov, på schack. Så säkert att gå, som spelas inte med sex olika bitar, men svart och vitt token – skulle vara en smal? Inte så: antalet möjliga positioner i går fler än antalet atomer i universum och långt överstiger antalet möjligheter i schack.
Illustration Matt Murphy.
Spelprogram såsom Djup Blå arbete genom att bygga “sök träd” över alla möjliga positioner. Om du har försökt att göra detta med går du skulle vara ute på design gånger i miljontals, om inte miljarder, år. Den DeepMind strategi inblandade att kombinera träd sök (aktiveras av Googles massiva cloud computing power) med djupa neurala nätverk, program som anslutningar mellan lager av simulerade nervceller stärks genom exempel och erfarenheter (som i den mänskliga hjärnan).
AlphaGo studerade först 30m positioner från expert spel i går, tillgodogöra sig information om läget från styrelsen data, och sedan spelade mot sig själv över 50 datorer, ökar för varje iteration, med hjälp av en teknik som kallas inlärning. Det är en utveckling av ett experiment DeepMind används för ett tag sedan, där en av dess neurala nätverk lärt sig själv att spela retro spel via datorn till en skicklig nivå bara genom att titta på repriser av riktiga spel på en skärm. Ingen programmering inblandade.
De riktigt stora sak om AlphaGo är att det (och dess skapare) inte kan förklara sitt drag. Och ändå spelar ett mycket svårt spel sakkunnigt. Så det visar en kapacitet som är kusligt likt det vi kallar intuition – “kunskap som erhållits utan att vi är medvetna resonemang”. Upp till nu har vi ansåg att det inte enbart som ett mänskligt privilegium. Det är vad Newton var den om när han skrev “Hypotheses non fingo” i den andra upplagan av hans Principia: “jag behöver inte göra hypoteser,” han säger, “jag bara vet”.
Men om AlphaGo är verkligen ett bevis på att maskinerna skulle vara intuitivt, då har vi definitivt passerat en Rubicon av något slag. För intuition är en hal idé och fram till nu har vi tänkt om det uteslutande i mänskliga termer. Eftersom Newton var ett geni, vi är beredda att ta honom på hans ord, precis som vi är benägna att lita på intuitionen hos en mor som tycker att det är något fel med hennes barn eller misstanken om man har det en viss person som inte talar sanning.
Intuition kan vara fel, vilket är varför vi behöver bevis… och varför vi blivit misstänksam när detta inte är förestående
Problemet är att intuition kan vara – och ofta är – fel, vilket är anledningen till att vi kräver bevis och välgrundade argument till stöd för dem och varför vi blivit misstänksam när dessa är inte förestående. För närvarande, oro maskinen intuition är omtvistad: det spelar ingen roll att AlphaGo kan inte förklara grunden för sin intuitiva rörelser i går. Men det kommer inte att sista om Dr Demis Hassabis, en av grundarna av DeepMind, har sin väg. “Medan spel är den perfekta plattformen för att utveckla och testa AI-algoritmer snabbt och effektivt”, skrev han i ett blogginlägg förra veckan, “slutligen vill vi att tillämpa dessa tekniker för att viktiga problem i verkligheten. Eftersom de metoder som vi har använt är för allmänt ändamål, vår förhoppning är att de skulle kunna utvidgas till att hjälpa oss att lösa några av samhällets svåraste och mest akuta problem, från klimat-modellering av komplexa sjukdomar analys”.
Å ena sidan, Hassabis verkar uppskatta det ansvar som de som skapar intelligenta teknik kommer att få bära. Han är efterlyst “en ansvarsfull debatt om betydelsen av etik i utvecklingen av artificiell intelligens”. Å andra sidan, när den trycks om detta vid ett evenemang i Cambridge i September förra året, han försökte fob av frågeställaren med nyheten om att Google höll på att ställa upp en etisk kommitté för att titta på det arbete som hans företag gör, ett svar som väckte en viss munterhet i vissa delar av publiken.
Som de flesta människor i hans område, Hassabis tycker att AI kraftfull nog att utgöra allvarliga etiska och existentiella hot är en lång väg. De anmärkningsvärda framsteg som hans företag att göra, men antyder något annat.