Foto: Elaine Thompson (AP)
C’è stato un certo numero di incidenti in cui Amazon Alexa assistente digitale ha fatto le cose come interpretare qualcosa di sentito e ha iniziato l’invio di persone a caso, registrazioni di conversazioni private, o file audio, la società tiene finito in mani sbagliate. Ma nella vita reale straniero potrebbe potenzialmente essere in ascolto di qualsiasi cosa si dica Alexa progettazione, per un report di Bloomberg, il mercoledì.
Secondo un report di Bloomberg, Amazon si avvale di “migliaia” di persone in tutto il mondo il compito di migliorare La voce di funzionalità di riconoscimento. Questa squadra ha accesso a registrazioni vocali da veri clienti utilizzando Alexa dispositivi alimentati nelle loro case e nei luoghi di lavoro (solo Eco altoparlanti sono direttamente menzionato nella relazione, Alexa se funziona anche su telefoni cellulari e numerosi dispositivi di terze parti). Tali registrazioni sono “trascritti e annotati, e poi reinserito nel software,” Bloomberg ha scritto, come parte di uno sforzo per continuare a migliorare La capacità di riconoscere il discorso senza intervento umano.
Il processo è necessario perché Alexa ha dei limiti alla sua capacità di treno stesso, soprattutto quando si tratta di incomprensibile fraseggio, accenti, linguaggio gergale, slang, regionali parole, altre lingue, e simili. L’anno scorso, Wired ha riferito che “apprendimento attivo” tecniche in cui il sistema identifica le aree in cui si potrebbe migliorare attraverso l’intervento dell’uomo “aveva contribuito in modo sostanziale a ridurre Alexa tassi di errore.” Wired ha scritto che l’aggiunta di supporto per “trasferire l’apprendimento”, dove Alexa cerca di applicare le competenze apprese in precedenza a quelli nuovi, ha aiutato gli sviluppatori di “ ridurre il grugnito lavoro altrimenti la faccia.”
Più recente è “auto-apprendimento”, in cui Alexa cerca di cogliere indizi di contesto per capire i comandi che non sono rilasciati in una iper-specifici (cioè, “Alexa, giocare 102.5 FM, L’Osso” vs “Alexa, gioca L’Osso”). Secondo Wired, Amazon piani di avere finalmente Alexa riconoscere le emozioni degli utenti, che i critici hanno suggerito che potrebbe portare alla manipolazione di tattiche di marketing. In un articolo su Scientific American, il mese scorso, Amazon direttore di scienza applicata Ruhi Sarikaya ha sostenuto che tali enormi quantità di dati sarà presto bisogno di analisi che i sistemi di riconoscimento della voce dovrà passare da un “sorvegliato” modello di apprendimento “verso la semi-supervisionato, debolmente supervisionato e non di apprendimento. I nostri sistemi hanno bisogno di imparare a migliorare se stessi.”
Bloomberg intervistato sette diverse fonti sul programma, alcuni dei quali ha detto di Amazon lavoratori sono tenuti ad analizzare circa 1.000 clip audio a nove ore di turno. La maggior parte del tempo, il lavoro è “banale” Bloomberg ha scritto:
Un operaio di Boston, ha detto ha minato accumulati dati vocali per specifiche frasi come “Taylor Swift” e con annotazioni di indicare il ricercatore intende l’artista musicale. Occasionalmente gli ascoltatori prendere le cose Eco proprietari probabilmente avrebbe preferito rimanere privato: una donna che canta male tasto di spegnimento sotto la doccia, per esempio, o un bambino urlando per chiedere aiuto. Il team interno stanze di chat per condividere file, quando hanno bisogno di aiuto per l’analisi di un confuso parola—o venire attraverso un divertente la registrazione.
Tuttavia, in altre occasioni i lavoratori hanno sentito quello che pensava fossero reati, tra cui quella che credevano essere una violenza sessuale. Amazon ha detto di lavoratori in Romania, che non è il lavoro dell’azienda di intervenire, Bloomberg ha scritto. Altri detto l’agenzia di notizie che ogni sindaco può incontrare, come molti come 100 registrazioni di un giorno in cui Alexa non sembrano essere state volutamente attivato da un utente con un servizio di word o di comando (come la pressione di un pulsante).
Amazon ha caratterizzato il numero di registrazioni che in realtà sono analizzati dagli esseri umani come “un campione estremamente piccolo” in una dichiarazione a Bloomberg, aggiungendo che non era al solo scopo di “[miglioramento] l’esperienza del cliente.” E ‘ anche caratterizzato il processo come a basso rischio:
Abbiamo rigorose tecniche operative e le misure di salvaguardia e hanno una politica di tolleranza zero per gli abusi del sistema. I dipendenti non hanno accesso diretto alle informazioni che possono identificare la persona o parte di questo flusso di lavoro. Tutte le informazioni sono trattate con un elevato livello di riservatezza e noi utilizzare l’autenticazione multi-factor per limitare l’accesso, il servizio di crittografia e controlli del nostro ambiente di controllo per proteggerlo.
Tuttavia, Bloomberg notato che uno screenshot forniti da un revisore “indica che la registrazione inviate al Alexa conti non forniscono un utente di nome, cognome e indirizzo, ma sono associati con un numero di conto, così come il nome dell’utente e il numero di serie del dispositivo.”
Amazon privacy non dichiarano esplicitamente che gli esseri umani possono ascoltare le registrazioni, BuzzFeed News notato, e la sua spiegazione del “Alexa, Eco Dispositivi, e la Vostra Privacy” allo stesso modo lascia che le informazioni, invece, specificando che i suoi dispositivi solo acquisire o trasmettere le registrazioni quando Alexa crede di aver deliberatamente attivato.
Secondo Bloomberg, Apple libro bianco afferma che il suo Siri assistente vocale solo arruola gli esseri umani per analizzare le registrazioni che “la mancanza di informazioni personali sono conservati per sei mesi legato ad un identificatore casuale,” anche se le registrazioni possono poi essere spogliato di Id random per l’archiviazione a lungo termine. Google revisori possono accedere solo audio che è stata distorta.
[Bloomberg]
Condividi Questa Storia