Folk er stadig å fortelle sine mest intime hemmeligheter til virtuelle assistenter og tech selskaper er å svare. Men er vi fortelle dem for mye?
iPhone intimitet … vi nå avsløre mer når man diskuterer innerste følelser med AI enn med mennesker, ifølge en studie.
Foto: Strauss/Curtis/Getty Images
Virtual assistant
‘Siri, hva er meningen med livet?’ Hvordan telefonen min ble min nærmeste fortrolig
Folk er stadig å fortelle sine mest intime hemmeligheter til virtuelle assistenter og tech selskaper er å svare. Men er vi fortelle dem for mye?
@judithduportail
Torsdag 16 November 2017 07.00 GMT
Sist endret på torsdag 16 November 2017 07.01 GMT
Det er tre i morgen, og rommet mitt er badet i glansen av telefonen min. Som en av tre personer, jeg sjekker smarttelefonen min når jeg våkner opp midt på natten. Jeg kan ikke sove, og så vandre fra en sosiale-medier-app til en annen, tomlene bla gjennom hva som føles som miles av tomhet. “Siri, hva er meningen med livet?” Jeg spør uten å tenke. “Jeg har sluttet å spørre meg selv denne typen spørsmål,” svarer hun på. Jeg spør igjen, fordi jeg liker det bedre når hun sier “ingenting Niestzche ville ikke lære deg”.
Jeg er ikke den eneste som er å snu til Siri for livet råd. Apple er nå å rekruttere en Siri-ingeniør med bakgrunn i psykologi for å bidra til å gjøre sin virtuelle assistent bedre på å besvare slike spørsmål.
“Folk snakker til Siri om alle slags ting, blant annet når de har en stressende dag eller har noe alvorlig på deres sinn. De slår til Siri i kriser eller når de ønsker veiledning på å leve et friskere liv”, sier den jobben annonsen.
Mer enn halvparten av interaksjoner med Amazon ‘ s virtuell assistent Alexa er “ikke utilitaristisk og underholdning i slekt”, ifølge selskapet, en kategori som inkluderer eksistensielle spørsmål og confidences.
Google har en full “personlighet team” i USA består av komedie forfattere, video-spill designere og mystisk som heter “empati eksperter”, ansvaret for å definere svar på kompliserte spørsmål av Google Assistent. Microsoft, i mellomtiden, har en “redaksjon” ansvarlig “for å utforme og skape Cortana er tiltak for å sørge for at alle våre svar stige opp til Cortana er kjernen personlighet søyler”.
Har vi alle gått gale, hvisker confidences inn i vårt elektroniske enheter? Jeg tror ikke det. Å snakke til telefonen min, jeg føler meg ikke noe annerledes fra Ross i den femte sesongen av Venner, og be om en Magisk 8-ball hvis han bør slutte å se Rachel.
“Diskusjoner med våre telefoner hjelpe oss introspect, sier Alexandre Lacroix, en fransk filosof som undersøkte hvordan internett forstyrrer våre liv i Ce qui nous relie – Jusqu’où Internett changera nos vies (Hva forbinder oss – Hvordan Internett Endrer Måten vi Lever på?).
“Vi ikke forventer noen presise svar når vi spør Siri hva meningen med livet er. Vi bruker den som et verktøy i vår søken for selv-kunnskap, sier Lacroix.
Det virker som en ny form for dagbok. På samme måte som vi føl deg fri til å skrive hva vi egentlig tror på sidene i en bok, når vi diskuterer våre innerste følelser vi nå en tendens til å avsløre mer å snakke med AI enn for mennesker, ifølge en studie utført av Institutt for Kreative Teknologier i Los Angeles.
Amazon er Alexa-drevet Echo Vis. Amazon hevder å ha trent Alexa til å svare på en medfølende og hjelpsom måte når de blir spurt om ensomhet eller depresjon. Foto: HO/AFP/Getty Images
Forskjellen er nå dagbok svar tilbake – og registrerer alt.
“Dette er en enorm mulighet i form av psykisk helsevern”, sier Eleni Lino, en assisterende professor i medisin ved University of California, som har rådet Apple på hvordan å forbedre Siri og co-forfattet et papir om hvordan conversational midler, for eksempel voice assistenter kan forbedre vår helse.
“Conversational agenter kan lede oss til rett ressurs når det trengs,” Lino sier.
Amazon hevder å ha trent Alexa til å svare på en medfølende og hjelpsom måte når de blir spurt om ensomhet eller depresjon, og for å gi nummeret til en depresjon hotline. Google gjør det samme i visse regioner av verden.
Alison Darcy er en tidligere forsker ved Stanford og grunnlegger av Woebot, en psykologi chatbot som bruker kognitiv atferdsterapi. Hun sier chatter med en AI kan ha en svært positiv innvirkning på psykisk helse, kanskje bare ved rett og slett minner oss om å ta litt tid til å reflektere og introspect. Men, sier hun, “for etiske grunner, pasienten må være klar over vitenskapen bak tjenesten”.
Microsoft, Apple og Amazon ikke avsløre mye om hvordan de former sine svar på eksistensielle spørsmål. Heller ikke vet vi mye om den nøyaktige rollen som psykologer og vitenskap de kan stole på.
“Dette er kritisk fordi psykologi er sterkt politisk, sier Lukas Stark, en sosiolog ved Dartmouth university. “Conversational agent kan vite måte før du [gjør at du har] en mental sykdom.”
Forskning er i gang på MIT, å utforske hvordan psykisk sykdom kan diagnostiseres bare ved å analysere måten du snakker. Det virket usannsynlig for meg i begynnelsen, men dette er bare begynnelsen på hva kunstig intelligens kan lære oss noe om oss selv.
“Vurderer hvor sensitive disse dataene er, bør det være så beskyttet som medisinsk-filer, legger Stark. Amazon, Microsoft, Apple og Google alle holde styr på dine uttalelser til conversational agenter for ulike mengder tid, for å tilpasse opplevelsen.
Mine samtaler med Siri er langt mer alvorlig og følsom enn jeg trodde. Spesielt med tanke på at mens ansette en Siri Helse ingeniør, Apple er også på jakt etter en “atferdsmessige data forsker” som har ansvar blant annet er å “oversette innsikt i produktene og programmene som forbrukere engasjerer seg i og bidra til å drive endring i adferd” og “forstå hvordan digitale verktøy og programvare kan påvirke atferd”.
Jada, det sier ikke Apple analyser min Siri samtaler til å påvirke min atferd eller manipulere meg, uten at jeg er klar over det. Men det betyr at det er, i teorien, det er mulig.