Aristoteles var utformet for å ” berolige babyer, forsterke god oppførsel, hjelpe deg å lære et språk før aksjonister hevdet det ville erstatte omsorg med falske pleie
@alexhern
Fredag 6. oktober 2017 15.33 BST
Barn er toymaker Mattel har blitt tvunget til å kansellere planer om å produsere en AI-drevet barnevakt, etter en rekke klager på at produktet ville påføre psykologiske skader på små barn.
Først annonsert i januar, enheten var å bli kalt Aristoteles og var en høy, sylinder, som minner om Amazon ‘ s Echo smart høyttaler. Det ville ha gitt mange lignende funksjoner for smart-høyttalere, slik at eiere til å kjøpe bleier online eller verbalt søk etter barneoppdragelse hjelp på internett.
Men Aristoteles var også ment å gå mye lenger enn de fleste smart-høyttalere gjøre, med en sammenkoblet bluetooth-kameraet til å overvåke små barn, og evne til å samhandle direkte med dem, “helping [å] roe et gråtende barn … forsterke god oppførsel i barn, og hjelper barna til å lære et fremmed språk”.
En kampanje som organiseres av OSS nonprofit Kampanje for en reklamefri Barndom krevde Mattel ikke slipp Aristoteles. Det høstet på 1500 underskrifter, og hevdet at produktet “forsøk på å erstatte omsorg, vurdering og veiledning av kjærlig familie medlemmer med faux pleie og samtale fra en robot som er designet for å selge produkter, og bygge merkevaren lojalitet”.
“Små barn bør ikke være forsøkskaniner for AI eksperimenter,” kampanjen brev inngått.
Ett barn psykolog, uttaler til Washington Post, sa hennes største bekymring “er ideen om at en bit av teknologi blir mest responsive husholdningenes medlem til et gråtende barn, et barn som ønsker å lære, eller et barns lek ideer.”
Kampanjen også tiltrakk seg oppmerksomheten til to AMERIKANSKE politikere, Demokratisk senator Edward Markey og Republikansk representant Joe Barton. De sendte Mattel et brev i slutten av September å uttrykke “alvorlige bekymringer for personvernet” om enhetene evne til å skape en “i-dybden-profilen til barn og deres familie”.
“Det ser ut til at du aldri før har en enhet som hadde evnen til å så nært innblikk i deres liv til et barn,” paret brev fortsatte, før du ber om en rekke skarpsindige spørsmål om funksjonene til enheten, inkludert: om det ville bruke ansiktsgjenkjenning teknologi; om svarene fra barna ville bli tatt opp og lagret; om enheten ville bli opptak selv om barn ikke var direkte engasjere seg med det; om Mattel ville selge informasjon til tredjepart, og om det ville slette personlig identifiserbar informasjon om kunder.
“Vi velkommen nyskapende og ansvarlig bruk av kunstig intelligens og talegjenkjenning,” brev sier, “men vi mener forbrukerne bør vite hvordan produktet fungerer, og hvilke tiltak Mattel vil ta for å beskytte familier personvern og sikre sine data.”
I respons Mattel sagt sitt nye chief technical officer Sven Gerjets “gjennomført en omfattende gjennomgang av Aristoteles produktet og bestemte seg for at det ikke fullt ut er i overensstemmelse med Mattels ny teknologi strategi.” Gerjets sluttet seg til selskapet i juli, seks måneder etter Aristoteles ble annonsert.
“Vedtaket ble deretter gjort for ikke å bringe Aristoteles til markedet som en del av en pågående innsats for å gi deg best mulig koblet produktet erfaring til forbruker,” selskapet sa.
Det er ikke første gang Mattels fikk i cyber-trøbbel. En wi-fi-aktivert Barbie utgitt i 2015 ble oppdaget å være lett å hacke seg inn, slik at en angriper tilgang til dukken system informasjon, kontoopplysninger, lagrede lydfiler og direkte tilgang til mikrofon.