Google Duplex, som simulerer menneskelig tale med naturtro bøjninger, kritiseret som uetisk
@alexhern
Fre 11 Maj 2018 12.07 BST
Sidst opdateret Fre 11 Maj 2018 12.29 BST
Deltagere vente i kø for at deltage i en session, under den årlige Google i/O-udviklere ” – konference i Mountain View, Californien
Foto: Stephen Lam/Reuters
Google ‘ s AI-assistent vil identificere sig selv som en robot, når du ringer op virksomhederne på vegne af de menneskelige brugere, selskabet har bekræftet, efter beskyldninger om, at teknologien var løgnagtig og uetisk.
Den funktion, der hedder Google Duplex, blev vist på the company ‘s i/O-developers’ konference på tirsdag. Det er endnu ikke et færdigt produkt, men i de to demoer spillede for den forsamlede menneskemængde, er det stadig lykkedes at blive uhyggeligt livagtig, som det gjorde bookinger på en frisørsalon og en restaurant.
Men demonstrationerne blev udløst bekymring for, at selskabet var vildledende dem i den anden ende af samtalen i den tro, at de beskæftiger sig med et andet menneske, ikke en maskine. Den genererede stemme, ikke kun lyder meget naturligt, men også indsætter naturtro pauser, um,-ing og ah-ing, og selv at reagere med en ordløs “mmm-hmm” når du bliver spurgt af salon arbejdstager til at “give mig en anden”.
De sociale medier teoretiker Zeynep Tufekci var en af mange, der er berørt af den demo. Hun tweeted, at det var “rystende” og beskrevet Silicon Valley som en “etisk tabt”.
zeynep tufekci
(@zeynep)Google Assistant at foretage opkald foregiver at være menneske, ikke kun uden at afsløre, at det er en bot, men tilføjer “ummm” og “aaah” for at narre det menneskelige i den anden ende med rummet jublende det… gruopvækkende. Silicon Valley er etisk tabt, ror, og som ikke har lært en ting.
9 maj 2018
I den indledende blog annoncerer tech, Google sagde: “Det er vigtigt for os, at brugerne og virksomhederne har en god erfaring med denne service, og åbenhed er en vigtig del af det. Vi vil være klar over hensigten med opkaldet, så virksomhederne forstår den sammenhæng. Vi vil eksperimentere med den rette tilgang i løbet af de kommende måneder.”
I en erklæring til Randen, selskabet har bekræftet, at der vil omfatte eksplicit at lade folk vide, at de interagerer med en maskine. “Vi forstår og værdsætter den diskussion omkring Google Duplex – som vi har sagt fra starten, gennemsigtighed i den teknologi, der er vigtigt,” en Google-talsmand sagde. “Vi er ved at designe denne funktion med offentliggørelse bygget i, og vi vil sørge for at systemet er korrekt identificeret. Det, vi viste på i/O var en tidlig teknologi demo, og vi ser frem til at inkorporere feedback som vi udvikle denne til et produkt.”
Google ‘ s hope med Duplex er, at det vil gøre det muligt for en række interaktioner med virksomheder, der kun har en telefon-forbindelse, hvor det tidligere var begrænset til dem med mere hi-tech set-ups. Selskabet påtænker at blive i stand til at ringe til virksomheder for at spørge om åbningstider, så udstationering oplysninger på Google, der giver brugerne mulighed for at planlægge en reservation selv, når en virksomhed er lukket, foring op Duplex ringe til, når dørene er åbne, og løse tilslutningsproblemerne ved for eksempel at lade hørehæmmede brugere bestille over telefonen, eller aktiverer telefonen bookinger på tværs af en sprog barriere.
Selskabet sagde, at det ville begynde at teste Duplex mere bredt “denne sommer … til at hjælpe brugere med at gøre restaurant reservationer, tidsplan frisørsalon aftaler, og få ferie timer over telefonen”.
Q&A Hvad er AI?
Vis
Skjul
Kunstig Intelligens har forskellige definitioner, men i almindelighed det betyder, at et program, der anvender data til at bygge en model af nogle aspekter af verden. Denne model er derefter brugt til at træffe informerede beslutninger og forudsigelser om fremtidige begivenheder. Den teknologi, der er udbredt, til at levere tale, og ansigtsgenkendelse, oversættelse, og personlige anbefalinger på musik -, film-og shopping steder. I fremtiden, det kunne levere førerløse biler, smart personlige assistenter, og intelligente energinet. AI har potentiale til at gøre organisationer mere effektive, men den teknologi, rejser alvorlige spørgsmål om etik, ledelse, privatlivets fred og ret.
Var dette en hjælp?
Tak for din feedback.