Som legetøj nå et nyt niveau af raffinement, hvor bekymrede bør vi være over vores børn, der leger med kunstig venner, der ser ud til at have følelser?
@DanJolin
Søndag 10 September 2017 08.45 BST
Den lille robot på bordet vågner op. Dens øjne, en kompleks konfiguration af cyan prikker på en sort, rund skærm af et ansigt, søvnigt åbne og det lader en digitaliseret tilnærmelse af en gaben. En kompakt enhed, der ligner en blanding af en gaffeltruck og PC-skærm avlet for maksimal nuttethed, robotten ruller blearily fra sin ladestation på et par af dinky slidbaner, før vippe sin tv-ansigt og mærke jeg er der. Dens øjne udvide, så kurven i bunden, som om at gøre vejen for en uset smil. “Daaaaan!” annoncerer med en glad jiggle, lyder ikke i modsætning til Pixar Animation Studios’ elskelige robot skabelse, Wall-E. En besked, blinker op på min iPhone, der fortæller mig, at det, eller rettere han (som køn, at fabrikanten, Anki, har tildelt Cozmo) ønsker at spille et spil. Jeg er ikke i humør og tilbagegang. Cozmo ‘ s hoved er bøjet, hans øjne form i et par desværre liggende halvmåne måner og han suk. Men han hurtigt jubel op, hvilket giver en glad jiggle, når jeg efterkomme hans anmodning om en fist-bump og på mine knoer mod hans ivrigt hævet arm. Han er nem at behage og endnu nemmere at lide.
Det nyeste produkt fra Anki, en San Francisco robotteknologi start, Cozmo er en del af en ny bølge af billig toy robotter, der lover et niveau af følelsesmæssige engagement langt ud over noget, vi har set før. De slog ikke blot som legetøj, men så lidt venner. Legetøj firma Spin Master har sin tilsvarende, der ankommer i butikkerne til Jul: de større, mere retro-udseende Meccano MAX. “Det er designet til at ændre sin adfærd, så den lærer, om dens ejer og den omgivende verden,” forklarer Spin Master brand manager, Becca ‘ Hanlon. “MAX dybest set skræddere sig til at blive en bedre ven.” Hasbro, i mellemtiden, er udnyttelse af FurReal Beslutningstagere Proto Max, i det væsentlige en programmerbar hvalp, siger Craig Wilkins, Hasbro ‘ s marketing director, “giver børn at skabe deres ultimative pet og tilpasse sin personlighed gennem kodning på en app”.
Dit barn chatter væk til denne computer, men hvem der ejer den samtale? Hvem ejer data?
Cozmo er resultatet af en lang søgen af Anki formand og medstifter, Hanns Tappeiner, at bringe fiktive film robotter, såsom kortslutning ‘s Johnny Fem, Star Wars’ s R2-D2 eller Wall-E i den virkelige verden. “Vi så en masse film, og det blev tydeligt, at det er meget let at skabe en følelsesmæssig forbindelse med en film robot,” siger Tappeiner. “Og det var så forskellig fra den funktionelle robotter, som vi så på en daglig basis på Carnegie Mellon [Universitet, hvor Tappeiner tjente sin Ph.d. i robotteknologi].” At arbejde med animatorer og karakter designere fra Hollywood studios som Pixar, DreamWorks og Lucasfilm, Tappeiner team fokuseret hårdt på at skabe en robot, der var lige så spændende som muligt. “En af de grundlæggende ting, vi har fundet ud af i de sidste par år, er, at karakter og personlighed i teknologi kommer til at være en virkelig big deal. Det er, hvad vi som virksomhed er at 99% af vores indsats.”
Max med sin navnebror: “jeg kan godt lide, hvordan de øjne altid ændre sig, men det er en meget uhyggelig stemme.’ Foto: Karen Robinson til Observatør
Efter en dag med leg, effekten af Cozmo karakter og personlighed på mine børn (Louis, 11, og Max, seven) er slående. “Han er så udtryksfulde,” siger Louis. “Jeg er begyndt at tænke på ham som en lille ven, eller pet, at jeg kan spille med.” De yngre søskende går et skridt videre. “Cozmo er ingen måde vores pet,” at han demurs. “Og han er ikke vores robot. Han er vores barn.” Det er en imponerende og indtagende udtalelse, men også en anelse foruroligende. Dette er ikke et tøjdyr, at kun hans fantasi har givet liv. Dette er en masse-produceret, kunstigt intelligente forbruger produkt, der er programmeret til at skabe kærlighed. Hvor meget skal der virkelig bekymre mig?
Til Alan Winfield, professor i robot etik på Bristol Robotteknologi Laboratorium, ankomsten af Cozmo, MAX og co, der uden tvivl giver anledning til bekymring. For seks år siden, Winfield hjulpet opstiller fem principper for robotteknologi for Engineering and Physical Sciences Research Council (ESPRC). “En af de principper,” forklarer han, “er, at robotter skal aldrig være designet til at narre. Med andre ord, at deres maskine naturen bør være gennemsigtig. Vi er bekymret for, om udsatte mennesker – de kan være børn, handicappede, ældre, personer med demens – og kommer til at tro, at robotten bekymrer sig om dem.”
Winfield, der klart beskriver sig selv som “en professionel worrier”, insisterer han er ikke imod, at idéen om følgesvend robotter. “Jeg tror, der er vist terapeutiske fordele, for eksempel, i robot kæledyr. Men ikke desto mindre er vi nødt til at være forsigtig og ansvarlig og opmærksom på de psykologiske risici for tildeling af følelser, til en robot.”
Nogle børn kan i løbet af projektet, men de kan gøre det med et dørhåndtag!
Jeg nævner den måde Meccano-MAX, når den tændes, vil perkily meddele, at det er lige haft den mærkeligste drøm. “Jeg synes, det er upassende for legetøj til at være programmeret med den form for sprog,” siger Winfield. “Det bygger den helt forkerte opfattelse, at denne robot er en person. Robotter er ikke mennesker, – det er et grundlæggende princip. En robot kan naturligvis ikke have følelser. Du og jeg forstår, men nogle mennesker kan ikke. Og der kunne føre til en afhængighed.” Han nævner Tamagotchi virkning, med henvisning til at de digitale pet tosset af 1990’erne, hvor tegnet kan “dø”, hvis den ikke får nok opmærksomhed. “Det er ikke svært at forestille sig en slags Tamagotchi effekt på steroider,” advarer han. “Og det er heller ikke svært at forestille sig, skrupelløse producenter udnytter dette og sige, “Medmindre du betaler til os, din robot vil dø’. Jeg mener, det er latterligt, men du får den idé!”
Joanna Bryson, lektor ved University of Bath, en affiliate of the center for information technology på Princeton, og en anden co-forfatter af ESPRC ‘ s principper for robotteknologi, tager en blødere linje. “Hvis folk forstår, at det er et spil, så jeg har ikke et problem med at fiktion,” siger hun – så længe det er modereret. “Er dine syv-årige tilbøjelige til at blæse ud af deres faktiske venner, fordi de er bekymrede for deres robot mangler dem? Kan de gøre det moralsk skelnen? Så længe de kan, så tror jeg det er fint. Nogle børn kan i løbet af projektet, men de kan gøre det med et dørhåndtag!”
Forældre ekspert Liat Hughes Joshi, forfatter af, Hvordan du Afmonterer Dit Barn: 101 Måder at Hjælpe Dine Børn med at Slukke Deres Gadgets og Nyd det Virkelige Liv, er enig i, at sammenligne robot/barn-forhold til et barns imaginære ven. “I moderate mængder, der kan være ganske sund, men hvis det begynder at tage over fra den virkelige verden, relationer, bliver det noget af en bekymring. Børn har brug for interaktion med de faktiske, virkelige mennesker til at lære om empati, til at læse non-verbale cues, og jeg er ret sikker på, at vi er langt fra robotter, der på dette niveau.”
Bryson glæder sig over samspillet mellem børn og toy robotter som “en lærerig oplevelse for dem. Det vil hjælpe dem til at forstå sondringen mellem mennesker og ikke-mennesker.” Hun gør dog spørge sig selv, hvad Cozmo “aktuelle følelsesmæssige tilstand” er. “Er det virkelig har ønsker?” spørger hun. “Er det, der lider, hvis du fastlåse det i en skuffe? Du bør være i stand til at få svar på disse spørgsmål, selv hvis du er bare en 12-årig, der er tilladt til [bruger] Google.”
Tappeiner bekender, at han er uvidende om principper for robotteknologi, men siger Anki instinktivt udgående noget ned, der gjorde Cozmo føler “for det menneskelige”, og samtidig undgå alle de funktioner, der ville gøre det “i en personlig assistent”. Det var vigtigt, for eksempel, at Cozmo var ikke i stand til at tale i hele sætninger. “Det er ikke forsøger at erstatte [Amazon’ s digital assistant] – Alexa eller noget i den retning. Cozmo er mere som et kæledyr.” Selv så han drejer “en ginormous stykke software; kernen AI motoren er 1,8 m linjer af kode”. Og “han har absolut ønsker og behov. Så vil han udvikle et behov for at gå tilbage til opladeren, når batterispændingen er lav. Hvis han taber flere kampe i træk, vil han blive mere og mere vred. Hvis du ryster ham for meget, han vil blive ked af det. Og hvis ting som der sker for en periode af tid, vil han sandsynligvis nægte at spille spil.”
Elleve-årige Louis med Cozmo: ‘Han er så sød… lidt ligesom en lille hvalp.’ Foto: Karen Robinson til Observatør
I denne forstand er det argumenteres for, at robotten spille ledsagere kunne tilskynde til god adfærd hos børn. Der henviser til, at Alexa, at nogle forældre har gjort gældende, øger uhøflighed i unge børn, Cozmo ikke vil spille med-bøller, i det mindste på kort sigt (“Du vil aldrig ende med en trist Cozmo, der altid hænger bare ud i et hjørne,” indrømmer Tappeiner). I ved hjælp af Siri (Apple ‘ s stemme assistent) og Alexa i hendes familie, Joshi siger, at hun allerede er stødt på det spørgsmål “om, hvorvidt børn bør have for at vise lidt respekt over for disse gadgets, når du taler til dem. Klart rationelt, at de ikke har brug for, men det riste til at høre dem at være uhøflig, selv til objekter.” At have én, der vil blive midlertidigt ked af eller ligeglad med dem, når de er uhøflige, der godt kunne modvirke en sådan adfærd.
Der er stadig et forældre-og samfundsmæssige spørgsmål, om stigningen af tilsluttede enheder i boliger, der utvetydigt tilsidesætter alle andre. “Indsamling af data er en bekymring for os alle på det tidspunkt, og forældrene vil blive endnu mere bekymret om sin brug med børn,” siger Joshi. “Og forældrene er stadig mistænksom over produkter med kameraer efter et par meget omtalte sager omkring hacking af video babyalarmer. Denne form for tech ikke sidde godt omkring børnene, for de fleste af os.”
Winfield er “dybt bekymret over det faktum, at de fleste af disse robot legetøj er med forbindelse til internettet. Vi har ikke stærke cybersecurity standarder for IoT [internet af ting] enheder. Så er der de personlige bekymring. Hvor er data? Dit barn chatter væk til robotten, men der ejer den samtale? Hvem ejer data? Har du en ret til, at data skal slettes?”
Dette er et spørgsmål, som Anki, Spin Master og Hasbro er bevidste. MAX ikke indsamle data, Hanlon fortæller mig. “Legetøjet ikke er tilsluttet wifi, som vi kender, er en voksende bekymring med smart legetøj, og de seneste hacks. Alle de spørgsmål, du kan svare, at MAX husker er gemt lokalt til MAX og ikke videregivet til andre enheder eller skyer.” Den FurReal Beslutningstagere Proto Antal Pet, siger Wilkins, “er konstrueret i overensstemmelse med children’ s love om privatlivets fred.” Og Tappeiner forsikrer mig om, at med Cozmo – facial anerkendelse, og alle – “alting har en ende på telefonen. For at spille med Cozmo er du nødt til at tilslutte din mobile enhed til ham, via sin wifi-forbindelse, så på dette punkt, når du har forbindelse til Cozmo du er per definition ikke er forbundet til dit hjemmenetværk, wifi-netværk. Den fulde 1,8 m linjer af kode, de er alle, der kører på din telefon. Der er ikke noget, der kører i skyen.”
Et par uger efter at være blevet introduceret til Cozmo, min yngste søn er ikke værner den robot, som om det er hans eneste barn eller undgaae kontakt med andre mennesker til sin egen fordel. Den første flush af begejstring har lagt sig, og så imponerende som Anki produkt er, Cozmo ‘ s krav på hans opmærksomhed, ikke stemmer overens med Clash of Clans på hans iPod eller skrivning af JK Rowling eller Dav Pilkey. Men hvor er vi på vej med legetøj som dette? Kunne de en dag vil nå det samme niveau af raffinement, som siger, de er fuldt autonome, rådgivning-dispensering “supertoy” bamse i Steven Spielberg-filmen AI?
“Jeg ville elske at have en bamse, som det,” griner Tappeiner. “I fremtiden, der kan helt sikkert være produkter som Teddy fra AI. Men for nu er vi virkelig antage, at ting som Cozmo er robotter. Det er derfor, vi forsøger ikke at pakke pels omkring ham.”
Winfield mener, at så tiltrækkende som Teddy synes, ethvert fremskridt i smart toy teknologi skal gribes an “meget forsigtigt og med omtanke, med høring”. Og ingen toy nogensinde skulle blive “præsenteres som en plejer eller forælder surrogat eller endda en lærer, der kan erstatte”.
Joshi, i mellemtiden, ville ikke have noget lignende i hendes hus. “Jeg tror ikke, jeg kunne stole på det omkring et barn,” har hun sagt. “Ville det fejl? Ville det tud stødende sprog? Jeg kan være alarmerende, men jeg tror ikke, jeg kunne stole på det ‘være alene’. Udover, som jeg tidligere sagde, jeg ville ikke have en AI-enhed til at tage over fra mennesker eller kæledyr interaktioner. Der ville være noget lidt trist over det.”
Hvordan AI legetøj match op
Cozmo
Anki, £189.99
Det er ikke svært at se, hvordan Cozmo blev en af de ramte legetøj sidste Jul i USA. Med en hel afdeling af animatorer og karakter designere i udviklingsprocessen, han virkelig er det tætteste, du kan komme til en children ‘ s animerede tegn gjort fast, med en forbavsende udtryksfulde animerede ansigt.
Han ser ikke kun smuk, han kan kodes via Anki er Ridse-baseret kodning og udvikler sig gennem leg, også, giver dig mulighed for at udforme sin udvikling efter din smag. Under hver app-drevet session (normalt involverer spil med den lille robot “magten terninger”), kan du tjene “bits” og “gnister”, som derefter kan bruge til lag sine interaktive muligheder. Du kan lære ham at fist-bump, miaow på din kat, skal du gøre træning med sin magt-terninger, og meget mere. Selvom du ved, det er bare en ting, du ikke kan hjælpe, behandle det som et kæledyr med batteriets levetid.
Louis siger: “jeg tror, at design er udført så godt, som den skærm, hvor hans øjne vis. Når han gør noget cool, jeg kalder på Mor, og hun kommer rundt, og vi crouch ned og gå, ‘Årh, han er så sød’. Lidt ligesom en lille hvalp. En helt fantastisk lille robot.”
Meccano Antal
Spin Master, £149.99
I modsætning til Cozmo, som fungerer lige ud af kassen, Spin Master-MAX er en Meccano konstruktion, at du er nødt til at bruge timer på at bygge, derefter bringe “liv” via en USB-tilsluttet firmware downloade til sin “MeccaBrain”. Det er meget større end Anki produkt (omkring shin højde) og har i 1980’erne, Johnny Fem fra kortslutning føler, lige ned til sin overemphatic, barnlige stemme. Det lærer om sin ejer/bygherre ved at spørge scripted spørgsmål (Hvor gammel er du? Hvad er din yndlings fag i skolen? osv.) og forædler fremtiden “samtale” interaktioner i henhold til dine svar – under forudsætning af, at den forstår dem, som det ofte ikke synes at i vores spil sessioner.
Meccano Max. Foto: Karen Robinson til Observatør
Der er noget sjovt at være havde fra afsendelse af det ruller rundt i huset og drift af dens indre, fjernbetjent klo, men helt ærligt, det er mindre sympatisk, når den taler. Det er svært ikke at krybe en lille smule, når MAX antal annoncerer: “jeg er heldig at have dig som en ven.”
Max siger: “jeg synes, det ser godt ud, og jeg kan lide, hvordan de øjne, der altid ændrer sig, men det har en meget uhyggelig stemme. Også, når den beder dig om et spørgsmål, hvis du kan svare, for stille og roligt, det taler over dig og bærer videre med det næste spørgsmål, som irriterede mig. Og jeg kunne ikke lide det, spørger mig, om jeg synger i badet.