Google Duplex, som simulerar mänskliga tal med verklighetstrogna böjningar, kritik som oetiskt
@alexhern
Fre 11 Maj 2018 12.07 BST
Senast ändrad Fre 11 Maj 2018 12.29 BST
Deltagarna vänta i kö för att delta i en session under den årliga Google i/O developers’ conference i Mountain View, Kalifornien
Foto: Stephen Lam/Tt-Reuters
Googles AI assistent kommer att identifiera sig som en robot när du ringer upp företag på uppdrag av mänskliga användare, företaget har bekräftat, efter anklagelser om att tekniken var vilseledande och oetiskt.
Funktionen, som heter Google Duplex, visades på företaget i/O-developers’ conference på tisdag. Det är ännu inte en färdig produkt, men i de två demos spelade för den församlade mängden, det lyckades ändå bli kusligt naturtrogna som det görs bokningar på en hår salong och en restaurang.
Men demonstrationer väckte oro för att bolaget var vilseledande de på andra änden av samtalet till att tro att de hade att göra med en annan människa, inte en maskin. Den genererade röst inte bara låter mycket naturliga, men också skär levande pauser, um-ing och ah-ing, och till och med svarar med en ordlös “mmm-hmm” när han tillfrågades av salongen arbetstagare att “ge mig en sekund”.
Sociala medier teoretiker Zeynep Tufekci var en av många som berörs av demo. Hon twittrade om att det var “skrämmande” och beskrivs Silicon Valley som “etiskt förlorade”.
zeynep tufekci
(@zeynep)Google Assistant ringa samtal genom att låtsas vara människa, inte bara utan att avslöja att det är en bot, men lägger till “um” och “aaah” för att lura människa i andra änden med rummet hejar det… skrämmande. Silicon Valley är etiskt förlorade, roder och har inte lärt mig en sak.
9 maj 2018
I sitt första inlägg, som tillkännagav tech, Google sade: “Det är viktigt för oss som användare och företag har en bra upplevelse med denna tjänst, och öppenhet är en viktig del av detta. Vi vill vara tydlig med syftet med samtalet så att företag att förstå sammanhanget. Vi kommer att experimentera med rätt strategi under de kommande månaderna.”
I ett uttalande till Gränsen, företaget har bekräftat att det kommer att omfatta uttryckligen att låta folk veta att de interagerar med en maskin. “Vi förstår och värde diskussionen kring Google Duplex – som vi har sagt från början, insyn i tekniken är viktig,” en Google-talesman sade. “Vi är utformningen av denna funktion med ett utlämnande byggd i, och vi ska se till att systemet är korrekt identifierade. Vad vi visade på i/O-var en tidig teknik demo, och vi ser fram emot att ta emot feedback som vi utvecklar detta i en produkt.”
Google hopp med Duplex är att den ska ge en rad interaktioner med företag som bara har en telefonanslutning, om detta var tidigare begränsad till de med mer hi-tech set-ups. Bolaget räknar med att kunna ringa till företag för att be om öppettider då att publicera information på Google, så att användarna schemalägga en bokning, även när ett företag är stängt, foder upp Duplex ringa för när dörrarna är öppna, och att lösa problem med tillgängligheten genom att, till exempel, låter hörselskadade användare boka via telefon, eller aktiverar telefonen bokningar över en språkbarriär.
Företaget sa att det skulle börja testa Duplex mer allmänt “i sommar … för att hjälpa användare att boka bord på restaurang, schema frisörsalong möten, och få semester timmar över telefon”.
Q&A Vad är AI?
Visa
Dölja
Artificiell Intelligens har olika definitioner, men i allmänhet det innebär att ett program som använder data för att bygga en modell av någon aspekt av världen. Denna modell används sedan för att fatta välgrundade beslut och förutsägelser om framtida händelser. Tekniken används i stor utsträckning, för att ge tal och ansiktsigenkänning, översättning, och personliga rekommendationer på musik, film och shopping webbplatser. I framtiden, det kan leverera förarlösa bilar, smart personliga assistenter och intelligenta elnät. AI har potential att göra organisationer mer effektiva, men tekniken väcker allvarliga frågor om etik, bolagsstyrning, integritet och juridik.
Var detta till hjälp?
Tack för din feedback.