Hjælp hvad en ekspert kalder en ‘Troldmanden fra Oz’ – teknikken, nogle virksomheder holder deres afhængighed af mennesker en hemmelighed fra investorer
@oliviasolon
Fre 6 Jul 2018 08.01 BST
Sidst opdateret Fre 6 Jul 2018 08.48 BST
Nogle virksomheder bruger mennesker til at træne AI systemer; andre hemmelighed er afhængige af dem, mens de, der hævder at have skalerbar AI-tech.
Foto: Westend61/Getty Images/Westend61
Det er hårdt at opbygge en service, der drives af kunstig intelligens. Så hårdt, i virkeligheden, at nogle nystartede virksomheder har udarbejdet det er billigere og lettere at få mennesker til at opføre sig som robotter, end det er at få maskiner til at opføre sig som mennesker.
“Ved hjælp af et menneske til at gøre jobbet, kan du springe over en belastning af tekniske og forretningsmæssige udvikling udfordringer. Det betyder ikke skala, naturligvis, men det giver dig mulighed for at opbygge noget, og springe den hårde del tidligt,” sagde Gregory Koberger, administrerende DIREKTØR for ReadMe, der siger, at han er kommet på tværs af en masse “pseudo-AIs”.
“Det er i det væsentlige prototyping AI med mennesker,” sagde han.
Denne praksis blev bragt i forgrunden i denne uge i Wall Street Journal artiklen fremhæver de hundredvis af tredjeparts-app udviklere, at Google gør det muligt at få adgang til folks indbakker.
I tilfælde af San Jose-baserede selskab Edison Software, kunstig intelligens ingeniørerne gik gennem den personlige e-mail-beskeder til flere hundrede brugere, med deres identitet redacted – at forbedre en “smart-svar” – funktion. Selskabet har ikke nævne, at mennesker ville se brugernes e-mails i sin politik om privatlivets fred.
At være menneske: hvor realistisk er det, vi ønsker robotter til at være?
Læs mere
Den tredje parter, der er fremhævet i WSJ artikel er langt fra den første af dem til at gøre det. I 2008, Spinvox, en virksomhed, der omdannes voicemails til sms-beskeder, der blev anklaget for at bruge mennesker i udlandet call centre snarere end maskiner til at gøre sit arbejde.
I 2016, Bloomberg fremhævede situationen for de mennesker bruger 12 timer om dagen foregiver at være chatbots kalender for planlægning tjenester såsom X. ai og Clara. Jobbet var så sindet-bedøvende, at den menneskelige ansatte sagde, at de glædede sig til at blive erstattet af robotter.
I 2017, forretning expense management app Expensify indrømmede, at det havde været hjælp mennesker med at transskribere i det mindste nogle af de indtægter, der hævdede, at processen ved hjælp af sin “smartscan teknologi”. Scanninger af de indtægter, der blev sendt til Amazons Mechanical Turk oversættelse af arbejds-redskab, hvor lavtlønnede arbejdere blev læst og transskribere dem.
“Jeg spekulerer på, om Expensify SmartScan brugere ved MTurk arbejdere ind i deres kvitteringer,” sagde Rochelle LaPlante, en “Turker” og fortaler for koncert økonomi arbejdstagere på Twitter. “Jeg ser på en person, er Uber modtagelse med deres fulde navn, pick-up og drop-off-adresser”.
Selv Facebook, som har investeret kraftigt i AI, som er påberåbt mennesker til sin virtuelle assistent for Messenger, M.
I nogle tilfælde, mennesker er vant til at træne AI-system og forbedre sin nøjagtighed. Et firma, kaldet Skala tilbyder en bank af menneskelige arbejdstagere til at sørge for uddannelse af data for selvkørende biler og andre AI-baserede systemer. “Scalers” vil for eksempel se på kameraet, eller sensor-feeds og mærke biler, fodgængere og cyklister i rammen. Nok for denne menneskelige kalibrering AI vil lære at genkende disse objekter i sig selv.
I andre tilfælde, virksomheder fake det, indtil de gør det, fortæller, investorer og brugere, at de har udviklet en skalerbar AI teknologi, mens hemmeligt at stole på den menneskelige intelligens.
Gregory Koberger
(@gkoberger)Hvordan til at starte en AI start
1. Ansætte en flok af mindstelønnen mennesker til at foregive at være AI foregiver at være menneske
2. Vent til AI til at være opfundet
1 marts 2016
Alison Darcy, en psykolog og grundlægger af Woebot, en psykisk støtte chatbot, beskriver dette som “Wizard of Oz design, teknik”.
“Du simulere, hvad den ultimative oplevelse af noget, der kommer til at være. Og en masse tid, når det kommer til AI, der er en person bag forhænget snarere end en algoritme,” sagde hun, og tilføjer, at opbygge en god AI-system, der kræves et ton af data”, og at der nogle gange designerne ønskede at vide, hvis der var tilstrækkelig efterspørgsel for en tjeneste, før du foretager investeringer.
Denne fremgangsmåde var ikke hensigtsmæssigt i tilfælde af en psykologisk support service som Woebot, sagde hun.
“Som psykologer er vi styret af en kodeks for etik. Ikke at bedrage folk er meget klart et af de etiske principper.”
Forskning har vist, at mennesker har en tendens til at afsløre mere, når de tror, at de taler til en maskine, snarere end en person, på grund af den stigmatisering, der er forbundet med at søge hjælp for ens mentale sundhed.
Et team fra University of Southern California har testet dette med en virtuel terapeut kaldt Ellie. De fandt, at veteraner med post-traumatisk stress disorder, var mere tilbøjelige til at videregive deres symptomer, når de vidste, at Ellie var et AI-system versus da de fik at vide der var et menneske betjener maskinen.
Mand 1, maskine 1: vartegn debat mellem AI og mennesker ender uafgjort
Læs mere
Andre mener, at virksomheder bør altid være åbne om, hvordan deres service fungere.
“Jeg kan ikke lide det,” sagde LaPlante af virksomheder, der foregiver at tilbyde AI-baserede tjenester, men rent faktisk at ansætte mennesker. “Det føles uærligt og vildledende for mig, hverken som er noget, jeg gerne vil have fra en virksomhed, jeg bruger.
“Og på arbejdstagernes side, det føles som om vi er ved at blive skubbet bag et gardin. Jeg kan ikke lide min arbejdskraft, der anvendes af en virksomhed, der vil vende rundt og lyve for deres kunder om, hvad der virkelig sker.”
Dette etiske dilemma også rejser sit hoved med AI-system, der foregiver at være menneske. Et nyligt eksempel på dette er Google Duplex, en robot-assistent, der gør uhyggeligt livagtige telefonopkald komplet med ‘ums’ og ‘ers’ for at booke aftaler og foretage reservationer.
Efter en indledende modreaktion, Google sagde sin AI ville identificere sig selv til de mennesker, det talte til.
“I deres demo-version, det føles en anelse vildledende i en lav-effekt samtale,” sagde Darcy. Selv om reservation af bord på en restaurant, kan synes som en low-stakes interaktion, den samme teknologi kunne være meget mere manipulerende i de forkerte hænder.
Hvad ville der ske, hvis du kunne gøre livagtige opkald, der simulerer en røst af en berømthed eller politiker, for eksempel?
“Der er allerede stor frygt omkring AI, og det er ikke virkelig at hjælpe en samtale, når der er manglende gennemsigtighed,” Darcy sagde.
Kontakt forfatteren: olivia.solon@theguardian.com