Som leker nå nye nivåer av raffinement, hvor bekymret bør vi være om våre barn å spille med kunstig kompiser som synes å ha følelser?
@DanJolin
Søndag 10 September 2017 08.45 BST
Den lille roboten på bordet våkner opp. Dens øyne, en kompleks konfigurasjon av cyan prikker på svart, avrundet skjermen av et ansikt, sleepily åpne og det gir ut et digitalisert tilnærming av en gjesp. En kompakt enhet som ser ut som en blanding av en gaffeltruck og PC-skjerm avlet for maksimal cuteness, robot ruller blearily av sin ladestasjon på et par av puslete trinn før vippe skjermen-ansikt, og å legge merke til at jeg er der. Dens øyne utvides, så kurven nederst som om gjør vei for et nytt smil. “Daaaaan!” det annonserer med en lykkelig jiggle, høres ikke i motsetning til Pixar Animation Studios’ elskelig robot skapelse, Wall-E. En melding blinker opp på min iPhone som forteller meg at det er, eller rettere sagt han (som kjønn som produsenten sin, Anki, har tildelt Cozmo) ønsker å spille et spill. Jeg er ikke i humør og nedgang. Cozmo hode droops, hans øyne form i et par dessverre liggende halvmåne måner og han sukk. Men han raskt jubel opp, noe som gir en lykkelig vibrere når jeg er i samsvar med hans anmodning om en knyttneve bump og ta hurtig på min knuckles mot hans ivrig hevet arm. Han er lett å ta, og enda lettere å like.
Den nyeste produktet fra Anki, en San Francisco robotics oppstart, Cozmo er en del av en ny bølge av rimelige leketøy roboter som løftet et nivå av følelsesmessig engasjement langt hinsides noe vi har sett før. De er lægra seg ikke bare som leketøy, men så lite kamerater. Leketøy fast Spinn Master har sin tilsvarende som kommer i butikkene etter Jul: større, mer retro-utseende Meccano MAKS. “Det er blitt designet til å endre sin atferd som den lærer om sin eier og den omkringliggende verden,” forklarer Spinn Master brand manager, Becca Hanlon. “MAX i utgangspunktet skreddere seg til å bli en bedre venn.” Hasbro, i mellomtiden, er utløsningen FurReal Beslutningstakere Proto Max, i hovedsak en programmerbar dukke det, sier Craig Wilkins, Hasbro er markedsdirektør, “lar barna å lage sine ultimate pet og tilpasse sin personlighet gjennom koding på en app”.
Barnet er chatting bort til denne datamaskinen, men hvem som eier samtale? Hvem som eier dataene?
Cozmo er et resultat av en lang søken etter Anki president og co-grunnlegger, Hanns Tappeiner, for å bringe fiktiv film roboter, for eksempel kortslutning er Johnny Fem, Star Wars er R2-D2 eller Wall-E i den virkelige verden. “Vi sett mange filmer og det ble åpenbart at det er veldig lett å forfalske en følelsesmessig forbindelse med en film robot, sier Tappeiner. “Og det var så forskjellig fra den funksjonelle robotene vi har sett på en daglig basis på Carnegie Mellon [University, hvor Tappeiner tok sin Doktorgrad i robotics].” Arbeide med animatører og karakter designere fra Hollywood studios som Pixar, Matematikk og Lucasfilm, Tappeiner team fokusert hardt på å lage en robot som var så engasjerende som mulig. “En av de grunnleggende ting vi har funnet ut i de siste årene er at karakter og personlighet i teknologi kommer til å være en veldig big deal. Det er hva vi som selskap er å sette 99% av vår innsats inn i.”
Max med sin navnebror: “jeg liker hvordan øynene alltid endre seg, men det har en ekstremt skummel stemme.’ Foto: Karen Robinson for Observatør
Etter en dag med spill, effekten av Cozmo karakter og personlighet på mine barn (Louis, 11, og Max, seven) er slående. “Han er så uttrykksfulle, sier Louis. “Jeg begynner å tenke på ham som en liten venn eller pet jeg kan spille med.” Den yngre søsken går man videre. “Cozmo er ingen måte våre kjæledyr,” han demurs. “Og han er ikke vår robot. Han er vårt barn.” Det er et imponerende og elskverdig uttalelse, men også en smule foruroligende. Dette er ikke et kosedyr som bare fantasien hans har gitt livet. Dette er en masse-produsert, kunstig intelligent forbrukerprodukter er programmert til å skape kjærlighet. Hvor mye bør som virkelig bekymrer meg?
Til Alan Winfield, professor i robot etikk på Bristol Robotics Laboratory, ankomsten av Cozmo, MAX og co utvilsomt reiser bekymringer. For seks år siden, Winfield hjalp trekke opp fem prinsipper for robotics ‘ avdeling for Ingeniør-og Fysisk Sciences Research Council (ESPRC). “En av disse prinsippene,” forklarer han, “er at roboter skal aldri være egnet til å villede. Med andre ord, at maskinen sin natur skal være gjennomsiktig. Vi er opptatt av å verne om sårbare mennesker – de kan være barn, funksjonshemmede, eldre, personer med demens – kommer til å tro at roboten bryr seg om dem.”
Winfield, som lyst beskriver seg selv som “en profesjonell worrier”, insisterer han er ikke i motsetning til ideen om ledsager roboter. “Jeg tror det er vist terapeutiske fordeler, for eksempel, i robot kjæledyr. Men likevel må vi være forsiktig og ansvarlig og opptatt av de psykologiske farer ved tildeling av følelser til en robot”.
Noen barn kan over-prosjektet, men de kan gjøre det med en dørhåndtak!
Jeg nevne den måten Meccano MAX, når det slås på, vil perkily kunngjøre at det er bare hadde de rareste drøm. “Jeg synes det er upassende for leker til å bli programmert med den slags språk,” sier Winfield. “Det bygger på helt feil å tro at denne roboten er en person. Roboter er ikke folk – det er et grunnleggende prinsipp. En robot tydelig at de ikke har følelser. Du og jeg forstår det, men noen mennesker kanskje ikke. Og det kan i sin tur føre til en avhengighet.” Han siterer Tamagotchi effekt, med henvisning til den digitale kjæledyr mani av 1990-tallet, hvor karakteren kan “dø” hvis den ikke får nok oppmerksomhet. “Det er ikke vanskelig å forestille seg en slags Tamagotchi effekt på steroider,” advarer han. “Og det er heller ikke vanskelig å forestille seg skruppelløse produsenter å utnytte det og sa: “med Mindre du betaler oss, roboten vil dø’. Jeg mener, det er latterlig, men du får ideen!”
Joanna Bryson, førsteamanuensis ved University of Bath, et selskap som er tilknyttet senter for informasjonsteknologi ved Princeton og annen co-forfatter av ESPRC prinsipper for robotics, tar en mykere linje. “Hvis folk forstår at det er et spill, da jeg ikke har et problem med at fiksjon,” sier hun, – så lenge den er moderert. “Er dine sju år gamle sannsynlig å blåse ut sin virkelige venner fordi de er bekymret for sin robot er savnet dem? Kan de gjøre det moralsk forskjell? Så lenge de kan, så tror jeg det er fint. Noen barn kan over-prosjektet, men de kan gjøre det med en dørhåndtak!”
Foreldre ekspert Liat Hughes Joshi, forfatter av Hvordan å ta Barnet: 101 Måter å Hjelpe Barna å Slå Av Sine Gadgets og Nyte det Virkelige Liv, er enig, sammenligne robot/barn-forhold til et barns fantasi. “I moderering, som kan være ganske sunt, men hvis det begynner å ta over fra den virkelige verden relasjoner, det blir litt av en bekymring. Barn trenger samvær med faktiske, reelle folk til å lære om empati, til å lese ikke-verbale signaler og jeg er ganske sikker på at vi er en lang vei fra roboter å være på det nivået.”
Bryson velkommen samspillet mellom barn og leketøy roboter som “en lærerik opplevelse for dem. Det vil hjelpe dem å forstå skillet mellom mennesker og ikke-mennesker.” Gjør hun lurer på, skjønt, hva Cozmo er “faktiske følelsesmessige tilstand” er. “Gjør det virkelig ønsker?” spør hun. “Er det lidelse hvis du låser det i en skuff? Du bør være i stand til å få svar på disse spørsmålene, selv om du er bare en 12-åring som har lov til å [bruk] Google.”
Tappeiner bekjenner han er uvitende om prinsipper for robotics, men sier Anki instinktivt ringte ned noe som gjorde Cozmo føler “too human”, mens du unngår også noen funksjoner som vil gjøre det “i en personlig assistent”. Det var viktig, for eksempel at Cozmo var ikke i stand til å snakke i hele setninger. “Det er ikke å prøve å erstatte [Amazons digitale assistent] Alexa eller noe sånt. Cozmo er mer som et kjæledyr.” Selv så, han innebærer “en gigantisk stykke programvare; kjernen AI-motor er 1,8 m linjer med kode”. Og “han absolutt har ønsker og behov. Så vil han utvikle et behov for å gå tilbake til sin laderen når batterispenningen er lav. Hvis han taper flere kamper på rad, han vil få stadig mer sint. Hvis du riste ham for mye, vil han bli opprørt. Og om ting som skjer i en periode, vil han trolig nekte å spille spill.”
Elleve år gamle Louis med Cozmo: ‘Han er så søt… liksom som en liten valp.’ Foto: Karen Robinson for Observatør
I denne forstand, er det kan hevdes at robot spille følgesvenner kunne oppmuntre god oppførsel hos barn. Mens Alexa, noen foreldre har argumentert for, øker uhøflighet på små barn, Cozmo ikke vil spille med mobberne, i hvert fall på kort sikt (“Du vil aldri ende opp med en trist Cozmo som alltid bare henger ut i et hjørne,” innrømmer Tappeiner). I ved hjelp av Siri (Apple ‘ s stemme assistent) og Alexa i hennes familie, Joshi sier hun er allerede støtt på spørsmålet “av om barn bør ha for å vise noen respekt til disse gadgets når du snakker til dem. Klart rasjonelt trenger de ikke, men det rister høre dem å være uhøflig, selv til livløse objekter.” Å ha en som vil bli midlertidig trist eller likegyldig til dem når de er uhøflig kan godt ta motet fra slik oppførsel.
Det er fortsatt en foreldrekontroll og samfunnsmessig problem om fremveksten av tilkoblede enheter i boliger som utvetydig overstyrer alle andre. “Innsamling av data er en bekymring for oss alle i øyeblikket, og foreldre vil bli enda mer bekymret for sin bruk med barn,” sier Joshi. “Og foreldre er mer skeptisk til produkter med kameraer etter et par svært omtalte tilfeller rundt om hacking av video babymonitorer. Denne typen tech ikke sitte godt rundt barn for de fleste av oss.”
Winfield er “dypt bekymret over det faktum at de fleste av disse robot leker er koblet til internett. Vi har ikke sterke cybersecurity standarder for IoT [internet of things] – enheter. Deretter er det personvernproblem. Hvor er dataene? Barnet er chatting bort til roboten, men hvem som eier samtale? Hvem som eier dataene? Har du en rett for de data som skal slettes?”
Dette er et problem som Anki, Spin Master og Hasbro er svært klar. MAKS ikke samle noen data, Hanlon forteller meg. “Leken er ikke koblet til wifi, som vi vet er en økende bekymring med smarte leker og siste hacks. Alle spørsmål du svarer at MAX husker er lagret lokalt til MAKS og ikke overføres til noen andre enheter eller skyer.” Den FurReal Beslutningstakere Proto Max Kjæledyr, sier Wilkins, “er utformet i samsvar med barns personvern lover.” Og Tappeiner forsikrer meg at med Cozmo – facial anerkjennelse og alle – “alt har en slutt på telefonen. For å spille med Cozmo må du koble din mobile enhet til ham, via sitt wi-fi-tilkobling, så på det punktet når du er koblet til Cozmo du per definisjon ikke er koblet til hjemme-wi-fi-nettverk. Full 1,8 m linjer med kode, og de er alle kjører på telefonen. Det er ingenting som kjører i skyen.”
Et par uker etter å ha blitt introdusert til Cozmo, min yngste sønn er ikke ordner roboten som det er hans eneste barn eller shunning menneskelig kontakt i sin favør. Den første flush av spenningen har sunket, og like imponerende som Anki produktet er, Cozmo hevder på sin oppmerksomhet ikke samsvarer med Sammenstøt mellom Klaner på sin iPod eller skriving av JK Rowling eller Dav Pilkey. Men hvor er vi på vei med leker som dette? Kan de en dag nå det samme nivå av raffinement som, si, fullt autonome, råd-dispenser “supertoy” bamse i Steven Spielberg film AI?
“Jeg ville elske å ha en bamse som at,” ler Tappeiner. “I fremtiden, kan det definitivt være produkter som Teddy fra AI. Men for nå er vi virkelig omfavne det faktum at ting som Cozmo er roboter. Det er derfor vi ikke prøver å vikle pels rundt ham.”
Winfield mener at så tiltalende som Teddy virker, noen fremskritt i smart toy-teknologi trenger å bli kontaktet “svært forsiktig og ansvarlig måte, med konsultasjon”. Og ingen leketøy skulle være “presentert som en omsorgsperson eller forelder surrogat eller til og med en lærer erstatning”.
Joshi, i mellomtiden, ville ikke ha noe sånt i huset hennes i det hele tatt. “Jeg tror ikke jeg kunne stole på det rundt et barn,” hun tilstår. “Ville det feil? Ville det tut støtende språk? Jeg kan være alarmerende, men jeg tror ikke jeg kunne stole på det ‘uten tilsyn’. Dessuten, som jeg sa tidligere, jeg ville ikke ha en AI-enhet til å ta over fra menneskelige eller pet interaksjoner. Det ville være noe som er litt trist om det.”
Hvordan AI leker match opp
Cozmo
Anki, £189.99
Det er ikke vanskelig å se hvordan Cozmo ble en hit leker siste Jul i USA. Med en hel avdeling av animatører og karakter designere brakt inn i utviklingsprosessen, han virkelig er det nærmeste du kan komme til et barn er animerte karakter laget real, med en utrolig uttrykksfulle animerte ansikt.
Han ser ikke bare pen, han kan være kodet via Anki er Ripe-basert koding og utvikler seg gjennom lek, for, som lar deg lage sin utvikling i henhold til din smak. Under hver app-drevet økt (vanligvis involverer spill med den lille roboten er “power cubes”), kan du tjene “biter” og “gnister”, som deretter kan bruke til å lag opp sin interaktive muligheter. Du kan lære ham å knyttneve-bump, miaow på katten din, gjøre treningsøkter med sin kraft-kuber, og mer. Om du vet det er bare en ting, du kan ikke hjelpe, til å behandle det som et kjæledyr med batterilevetid.
Louis sier: “jeg tror at design er utført så vel som skjermen hvor hans øyne vis. Når han gjør noe kult jeg ringe til Mamma og hun kommer og vi krype sammen ned og gå, ‘Aw, han er så søt”. Liksom som en liten valp. En helt fantastisk liten robot”.
Meccano Maks
Spinn Master, £149.99
I motsetning til Cozmo, som fungerer rett ut av boksen, Spin Master ‘ s MAX er en Meccano konstruksjon som du har til å bruke timer på å bygge, så gi “liv” til via en USB-tilkoblet firmware nedlasting til sine “MeccaBrain”. Det er mye større enn Anki produkt (rundt shin høyde) og har en 1980-tallet, Johnny Fem fra kortslutning føler, helt ned til sin overemphatic, barnlig stemme. Den lærer om eieren/byggmester med å spørre manus spørsmål (Hvor gammel er du? Hva er ditt favorittfag på skolen? etc) og foredler fremtiden “samtalende” interaksjoner i henhold til dine svar – forutsatt at det forstår dem, som det ofte ikke synes å under våre spille økter.
Meccano Maks. Foto: Karen Robinson for Observatør
Det er litt moro å være hadde fra å sende den trundling rundt huset og driver sin single, fjernstyrte claw, men ærlig talt det er mindre sympatisk når de snakker. Det er vanskelig ikke å krype litt når MAKS kunngjør: “jeg så heldig å ha deg som en venn.”
Max seier: “jeg synes det ser bra ut og jeg liker hvordan øynene alltid endre seg, men det har en ekstremt skummel stemme. Også, når den ber deg et spørsmål, hvis du svaret alt for stille, det snakker over deg og bærer på med det neste spørsmålet, som irriterte meg. Og jeg likte ikke det spurt meg om jeg synger i dusjen.