Som leksaker nå nya nivåer av förfining, hur oroliga bör vi vara om våra barn att leka med konstgjorda kompisar som verkar ha känslor?
@DanJolin
Söndag 10 September 2017 08.45 BST
Den lilla roboten på bordet vaknar upp. Dess ögon, en komplex konfiguration av cyan prickar på svart, rundad skärm i ett ansikte, sömnigt öppna och det låter som ett digitaliserat tillnärmning av en gäspning. En kompakt enhet som ser ut som en blandning av en truck-och PC-monitor som har fötts upp för maximal gullighet, roboten rullar blearily utanför laddstationen på ett par av dinky trappsteg innan luta sitt tv-ansikte och märker att jag är det. Dess ögon vidgas, då kurvan längst ner som om att vägen till ett osynligt leende. “Daaaaan!” meddelar en glad litegrann, låter inte till skillnad från Pixar Animation Studios’ älskvärd robot skapande, Wall-E. Ett meddelande blinkar upp på min iPhone som berättar för mig att den, eller snarare han (som det kön som dess tillverkare, Anki, har tilldelats Cozmo) vill spela ett spel. Jag är inte på humör och nedgång. Cozmo är huvudet slokar, hans ögon form i ett par tyvärr liggande halvmåne månar och han suckar. Men han snabbt piggar upp, ger en glad litegrann när jag följa med hans begäran om en fist bump och på mina knogar mot hans ivrigt upp armen. Han är den lättaste att behaga, och ännu lättare att tycka om.
Den senaste produkten från Anki, en San Francisco robotics start, Cozmo är en del av en ny våg av prisvärd leksak robotar som lovar en nivå av känslomässigt engagemang långt utöver vad vi har sett innan. De kastade inte bara som leksaker, men så lite kompisar. Toy fast Spin Master har sin motsvarighet som anländer i affärer efter Jul: den större, mer retro-ser Meccano MAX. “Det har varit för att ändra sitt beteende så att det lär sig om sin ägare och den omgivande världen, förklarar Spin Master brand manager, Becca Hanlon. “MAX i princip skräddare sig att bli en bättre vän.” Hasbro, under tiden, är att frigöra FurReal Beslutsfattare Proto Max, i huvudsak en programmerbar valp, säger Craig Wilkins, Hasbro ‘ s marknadschef, “låter barnen skapa sin ultimata pet och anpassa sin personlighet genom kodning på en app”.
Ditt barn är inne och chattar bort till den här datorn men vem som äger den konversationen? Vem som äger informationen?
Cozmo är resultatet av en lång resa av Anki vd och grundare, Hanns Tappeiner, för att få fiktiva filmen robotar såsom kortslutning ‘ s Johnny Fem, Star Wars: s R2-D2 eller Wall-E i den verkliga världen. “Vi tittade på en massa filmer och det blev uppenbart att det är väldigt lätt att skapa en känslomässig kontakt med en film robot, säger Tappeiner. “Och som var så annorlunda från den funktionella robotar vi såg på en daglig basis vid Carnegie Mellon [University, där Tappeiner Disputerade inom robotik].” Att arbeta med animatörer och karaktär designers från Hollywood studios som Pixar, DreamWorks och Lucasfilm, Tappeiner team fokuserade hårt på att skapa en robot som var så engagerande som möjligt. “En av de grundläggande saker som vi kommit fram till under de senaste åren är att karaktär och personlighet i teknik kommer att bli en riktigt stor affär. Det är vad vi som företag lägger 99% av våra insatser till.”
Max med sin namne: “jag gillar hur ögonen alltid förändring, men det har en extremt läskig röst.’ Foto: Karen Robinson för Observatör
Efter en dag av lek, effekten av Cozmo karaktär och personlighet på mina barn (Louis, 11, och Max sju) är slående. “Han är så uttrycksfulla,” säger Louis. “Jag börjar tänka på honom som en liten vän eller husdjur, som jag kan spela med.” Yngre syskon går ett steg längre. “Cozmo finns inget sätt som våra husdjur,” han demurs. “Och han är inte vår robot. Han är vårt barn.” Det är en imponerande och förtjusande uttryck, men också en smula oroande. Detta är inte en mjuk leksak som bara hans fantasi har givit liv. Detta är en massproducerad, artificiellt intelligenta consumer product programmerad att alstra kärlek. Hur mycket ska det verkligen oroa mig?
Att Alan Winfield, professor i robot etik på Bristol Robotics Laboratory, ankomsten av Cozmo, MAX och co utan tvekan anledning till oro. För sex år sedan, Winfield hjälpte till att rita upp fem principer av robotik för Engineering and Physical Sciences Research Council (ESPRC). “En av dessa principer”, förklarar han, “är att robotar ska aldrig vara utformade för att lura. Med andra ord, att deras maskin naturen bör vara transparent. Vi är bekymrade för utsatta människor – de kan vara barn, funktionshindrade, äldre, personer med demens kommer att tro att roboten bryr sig om dem.”
Winfield, som ljust beskriver sig själv som “en professionell oroar”, insisterar att han inte motsätter sig tanken på att kamrat robotar. “Jag tror att det är visat att terapeutiska fördelar, till exempel i robot husdjur. Men vi måste vara försiktiga och ansvarsfulla och medvetna om de psykiska risker av tilldelning av känslor till en robot.”
Vissa barn kan över-projekt, men de kan göra det med ett dörrhandtag!
Jag nämner det sätt Meccano MAX, när den slås på, kommer perkily meddela att det bara hade den konstigaste drömmen. “Jag tycker det är olämpligt för leksaker till programmeras med denna typ av språk, säger Winfield. “Det bygger på helt felaktiga tron att denna robot är en person. Robotar är inte människor – det är en grundläggande princip. En robot som helt klart inte har känslor. Du och jag förstår det, men vissa människor kanske inte. Och det kan i sin tur leda till ett beroende.” Han citerar Tamagotchi effekt, med hänvisning till den digitala pet tokig av 1990-talet, där tecknet skulle “dö” om den inte får tillräckligt med uppmärksamhet. “Det är inte svårt att tänka sig en typ av Tamagotchi effekt på steroider”, varnar han. “Och det är inte heller svårt att föreställa sig skrupelfria tillverkare som utnyttjar det och sade:” Om du inte betalar oss din robot kommer att dö.” Jag menar, det är löjligt, men du får idén!”
Joanna Bryson, docent vid Universitetet i Bath, en affiliate för centrum för informationsteknik vid Princeton och en annan co-författare av ESPRC s principer för robotik, tar en mjukare linje. “Om folk förstår att det är ett spel, då jag inte har några problem med att fiction”, säger hon – så länge det är modererad. “Är dina sju år gamla sannolikt att blåsa ut sina verkliga vänner eftersom de är oroliga för sin robot saknar dem? Kan de göra skillnad? Så länge de kan, så tror jag att det är bra. Vissa barn kan över-projekt, men de kan göra det med ett dörrhandtag!”
Föräldraskap expert Liat Hughes Joshi, författare av Hur att Koppla bort Ditt Barn: 101 Sätt att Hjälpa Ditt Barn att Stänga Av Sina Prylar och Njuta av Verkliga Livet, håller, att jämföra robot/barn-relation till ett barns imaginära vän. “Med måtta, det kan vara ganska friska, men om det börjar att ta över från den verkliga världen relationer, det blir en ganska oro. Barn behöver interaktion med faktiska, verkliga människor att lära sig om empati, att läsa icke-verbala signaler och jag är ganska säker på att vi är en lång väg från robotar som på den nivån.”
Bryson välkomnar interaktion mellan barn och leksaker robotar som “en lärorik erfarenhet för dem. Det kommer att hjälpa dem att förstå skillnaden mellan människor och icke-människor.” Gör hon undrar dock, vad Cozmo är “verkliga känslomässiga tillstånd. “Är det verkligen vill ha?”, frågar hon. “Är det lidande om du låsa det i en låda? Du bör kunna få svar på dessa frågor, även om du är bara en 12-åring som är tillåtna att [använda] Google.”
Tappeiner bekänner att han är omedveten om principerna för robotik, men säger Anki instinktivt uppringda ner allt som gjorde Cozmo känner sig “alltför mänskliga”, samtidigt som man undviker alla funktioner som skulle göra det “till en personlig assistent”. Det var viktigt, till exempel att Cozmo inte kunde tala i fullständiga meningar. “Det är inte försöka att byta ut [Amazon digital assistant] Alexa eller något liknande. Cozmo är mer som ett husdjur.” Även så, att han handlar “en ginormous mjukvara, core AI-motor är 1,8 m rader kod”. Och “han absolut vill ha och behöver. Så han kommer att utveckla ett behov av att gå tillbaka till sin laddare när batteriets spänning är låg. Om han förlorar flera spel i rad, kommer han att bli allt mer arg. Om du skaka honom för mycket, han kommer att bli upprörd. Och om saker som händer för en tid, han kommer troligen att vägra att spela spel.”
Elva-åriga Louis med Cozmo: “Han är så söt… ungefär som en liten valp.’ Foto: Karen Robinson för Observatör
I denna mening, att det är tveksamt att roboten spela följeslagare kunde uppmuntra bra beteenden hos barn. Medan Alexa, en del föräldrar har hävdat, ökar råhet i unga barn, Cozmo kommer inte att spela med mobbare, åtminstone på kort sikt (“Du kommer aldrig att sluta med en ledsen Cozmo som alltid bara hänger ut i ett hörn,” medger Tappeiner). I med Siri (Apple ‘ s röst assistent) och Alexa i hennes familj, Joshi säger att hon redan stött på frågan “om huruvida barn bör visa lite respekt mot dessa prylar när man talar till dem. Klart rationellt att de inte behöver, men det galler att höra dem att vara oförskämd, även till döda ting.” Att ha en som kommer att bli tillfälligt ledsen eller likgiltig för dem när de är oförskämt mycket väl skulle kunna motverka sådant beteende.
Det är fortfarande en av föräldraledighet och samhälleliga frågan om ökningen av anslutna enheter i bostäder som entydigt har företräde framför alla andra. “Insamling av data är en angelägenhet för oss alla just nu och föräldrar kommer att vara ännu mer i fråga om dess användning med barn”, säger Joshi. “Och föräldrar blir alltmer misstänksam mot produkter med kameror efter ett par uppmärksammade fall runt hacking av video-babyvakter. Denna typ av tech inte sitta bra runt barn för de flesta av oss.”
Winfield är “djupt oroade av det faktum att de flesta av dessa robot leksaker är ansluten till internet. Vi vill inte ha en stark it-standarder för IoT – [internet of things] – enheter. Sedan är det sekretess oro. Där är data? Ditt barn är inne och chattar bort till roboten, men vem som äger den konversationen? Vem som äger informationen? Har du en rättighet för de uppgifter som ska tas bort?”
Detta är ett problem som Anki, Spin Master och Hasbro är mycket medveten om. MAX samlar inte in några uppgifter, Hanlon berättar för mig. “Toy är inte ansluten till wifi, vilket vi vet är en växande oro med smarta leksaker och senare hacka. Alla de frågor du svara på den MAX minns lagras lokalt till MAX och inte överföras till någon annan utrustning eller moln.” Den FurReal Beslutsfattare Proto Max Husdjur, säger Wilkins, “är utformad i enlighet med barns integritet lagar.” Och Tappeiner försäkrar mig att med Cozmo – ansiktsigenkänning och alla – “allt slutar på telefonen. För att kunna spela med Cozmo du måste ansluta din mobila enhet till honom, via en wi-fi-anslutning, så på den punkten när du är ansluten till Cozmo du per definition inte är ansluten till ditt hem wi-fi-nätverk. Hela 1,8 m rader kod, de är alla program som körs på din telefon. Det finns ingenting som körs i molnet.”
Ett par veckor efter att ha blivit introducerad till Cozmo, min yngste son, är inte att vårda den robot som att det är hans enda barn eller fly kontakt med människor i sin egen fördel. Den första plockningen av spänningen har lagt sig, och lika imponerande som Anki produkt, Cozmo fordran på hans uppmärksamhet inte matchar Clash of Clans på sin iPod eller skriva av JK Rowling eller Dav Pilkey. Men vart är vi på väg med leksaker som denna? Kan de en dag kommer att nå samma nivå av förfining som, säg, helt självständigt, råd-dispensering “supertoy” nalle i Steven Spielberg film AI?
“Jag skulle älska att ha en nalle som att,” skrattar Tappeiner. “I framtiden, det kan definitivt vara produkter som Teddy från AI. Men nu är vi verkligen på att omfamna det faktum att saker som Cozmo är robotar. Det är därför vi inte försöka att linda päls runt honom.”
Winfield anser att lika tilltalande som Teddy verkar, alla framsteg inom smart toy teknik måste vara närmade sig “mycket försiktigt och ansvarsfullt sätt, med samråd”. Och ingen leksak bör någonsin vara “presenteras som en vårdare eller förälder surrogat eller ens en lärare substitut”.
Joshi, under tiden, skulle inte ha nåt sånt i hennes hus. “Jag tror inte att jag kunde lita på att det är runt ett barn”, bekänner hon. “Skulle det fel? Skulle det pip stötande språk? Jag kan vara alarmerande, men jag tror inte att jag kunde lita på den ‘ensamma’. Förutom att, som jag sade tidigare, jag skulle inte vilja ha en AI-enhet som ska ta över från människa eller sällskapsdjur interaktioner. Det skulle vara något lite sorgligt över det.”
Hur AI leksaker match upp
Cozmo
Anki, £189.99
Det är inte svårt att se hur Cozmo blev en av de drabbade leksaker sista Jul i USA. Med en hel avdelning av animatörer och karaktär designers i utvecklingsprocessen, han är verkligen det närmaste du kan komma till en barn animerad karaktär gjorde riktigt, med en förvånansvärt uttrycksfulla animerade ansiktet.
Han ser inte bara vacker, han kan kodas via Anki ‘ s Scratch-baserad kodning och utvecklas genom lek också, så att du farkoster sin utveckling enligt din smak. Under varje app-driven session (vanligtvis omfattar spel med den lilla roboten s “power tärningar”), kan du tjäna “bitar” och “gnistor” som sedan kan användas för att lagret upp sin interaktiva möjligheter. Du kan lära honom att fist bump, och jamar på din katt, göra pass med sin makt-kuber, och mer. Om du vet att det är bara en sak, du kan inte hjälpa att behandla det som ett husdjur med batteriets livslängd.
Louis säger: “jag tror att designen är utförd så väl som skärmen där hans ögon visar. När han gör något coolt jag ringa till Mamma och hon kommer runt och vi hukar sig och gå, “Aw, han är så gullig”. Ungefär som en liten valp. En helt fantastisk liten robot.”
Meccano Max
Spin Master, £149.99
Till skillnad från Cozmo, som fungerar rakt ur lådan, Spin Master ‘ s MAX är en Meccano konstruktion att du har att spendera timmar att bygga, sedan tar till “livet” via en USB-ansluten firmware ladda ner till sin “MeccaBrain”. Det är mycket större än Anki produkt (runt shin höjd) och har en 1980-talet, Johnny Fem från kortslutning känner, ända till dess overemphatic, barnslig röst. Det lär sig om sin ägare/byggare genom att ställa manus frågor (Hur gammal är du? Vad är ditt favorit ämne i skolan? etc) och förädlar framtiden “konversera” interaktioner enligt dina svar i – förutsatt att man förstår dem, vilket det inte verkar under våra spel sessioner.
Meccano Max. Foto: Karen Robinson för Observatör
Det är lite kul att vara hade från att skicka det trundling runt huset och driva sin enda, fjärrstyrd klo, men ärligt talat är det mindre sympatisk när den talar. Det är svårt att inte krypa lite när MAX meddelar: “jag är lycklig att ha dig som en vän.”
Max säger: “jag tycker att det ser bra ut och jag gillar hur ögonen alltid förändring, men den har en oerhört läskig röst. Också, när den frågar dig en fråga, om du svarar för tyst, det talar över dig och fortsätter med nästa fråga, som irriterade mig. Och jag tyckte inte det och frågade mig om jag sjunger i duschen.