Foto: Elaine Thompson (AP)
Es gab eine Reihe von Vorfällen, wo Amazon Alexa digital assistant hat Dinge getan, wie falsch, etwas, was es hörte, und begann, senden von Menschen zufällig Aufnahmen von privaten Gesprächen oder audio-Dateien gehalten, die von der Gesellschaft Wunde in die falschen Hände geraten. Aber ein real-life-stranger könnte hören, was Sie sagen, Alexa von design, je einem Bericht in Bloomberg am Mittwoch.
Laut Bloomberg-Bericht Amazon beschäftigt “Tausende” von Menschen auf der ganzen Welt beauftragt, mit der Verbesserung Alexa ‘ s Stimme-Anerkennung Eigenschaften. Dieses team hat Zugriff auf voice-Aufnahmen von echten Kunden, die mit Alexa-Geräte in Ihren Wohnungen und an die Arbeitsplätze (nur die Echo-Lautsprecher sind direkt in dem Bericht erwähnt, obwohl Alexa, läuft auch auf Handys und zahlreiche Drittanbieter-Geräte). Diese Aufnahmen sind “transkribiert, kommentiert und fliesst dann wieder in die software” Bloomberg schrieb, als Teil der Bemühungen zur weiteren Verbesserung der Alexa-die Fähigkeit zum erkennen der Sprache ohne menschliche intervention.
Der Prozess ist nötig, weil die Alexa hat Grenzen, seine Fähigkeit, selbst trainieren, vor allem, wenn es darum geht, verzerrt, Phrasierung, Akzente, slang, regionale Wörter, anderen Sprachen, und dergleichen. Im letzten Jahr, Wired berichtet, dass “aktives lernen” – Techniken, bei denen das system identifiziert Bereiche, in denen es verbessern könnte, über menschliche Hilfe hätten “dazu beigetragen, deutlich reduzieren Alexa Fehlerquoten.” Wired schrieb, dass das hinzufügen von Unterstützung für “transfer learning”, wo Alexa versucht, gelten die zuvor gelernten Fähigkeiten auf neue, hat dazu beigetragen, Entwickler der ” cut-down auf die Routinearbeit, Sie würden sonst ins Gesicht.”
Neuer ist das “selbst lernen”, in dem Alexa versucht zu Holen, auf den Kontext hinweisen zu verstehen, die Befehle, die nicht ausgestellt in einer hyper-spezifischen Art und Weise (D. H., “Alexa, Spiel-102.5 FM Die Knochen” vs. “Alexa, Spiel-Knochen”). Laut Wired, Amazon plant, schließlich haben Alexa erkennt Emotionen von Nutzern, die Kritiker haben vorgeschlagen, könnte dazu führen, manipulative marketing-Taktiken. In einem Artikel in Scientific American, im letzten Monat, Amazon, Direktor des applied science Ruhi Sarikaya argumentiert, dass eine solche massive Mengen von Daten müssen bald Analyse, voice-Anerkennung-Systemen wird das umsteigen von einer “Aufsicht” Lern-Modell “in Richtung semi-überwacht, schwach überwachtes und unüberwachtes lernen. Unsere Systeme müssen lernen, sich zu verbessern.”
Bloomberg interviewte sieben verschiedenen Quellen über das Programm, von denen einige, sagte die Amazon-Beschäftigten zu erwarten sind, zu analysieren, etwa 1.000 audio-clips pro neun-Stunden-Schicht. Die meiste Zeit der Arbeit ist der “weltliche” Bloomberg schrieb:
Ein Arbeiter in Boston, sagte er abgebaut angesammelt voice-Daten, die für bestimmte äußerungen wie “Taylor Swift” und kommentierte Sie geben die Suchenden gedacht, die musikalischen Künstler. Gelegentlich werden die Zuhörer abholen Dinge, Echo-Besitzer wahrscheinlich lieber privat bleiben: eine Frau, die singen schlecht aus-Taste in der Dusche, zu sagen, oder ein Kind Schreien um Hilfe. Die teams nutzen die interne chat-Räume, um Dateien zu teilen, wenn Sie Hilfe benötigen der Analyse einer verfahrenen word—oder kommen auf eine amüsante Aufnahme.
Aber bei anderen Gelegenheiten Arbeitnehmer gehört haben, was Sie dachten, waren Verbrechen, einschließlich, was Sie glaubten, zu einem sexuellen übergriff. Amazon sagte die Arbeiter in Rumänien, dass es nicht Aufgabe des Unternehmens, den zu intervenieren, Bloomberg schrieb. Andere sagten der Nachrichtenagentur, dass jeder Prüfer auftreten können, so viele wie 100 Aufnahmen am Tag, in denen Alexa nicht scheinen zu haben gewesen absichtlich von einem Benutzer aktiviert mit einem wake Wort oder einen Befehl (wie z.B. das drücken einer Taste).
Amazon zeichnet sich die Anzahl der Aufnahmen, die auch tatsächlich analysiert werden, indem Menschen als “eine sehr kleine Stichprobe” in einer Erklärung an Bloomberg und fügte hinzu, dass es einzig und allein für den Zweck, “[Verbesserung] der Kunde erleben.” Außerdem zeichnet sich der Prozess als niedrig-Risiko:
Wir haben strenge technische und betriebliche Sicherheitsvorkehrungen, und haben eine null-Toleranz-Politik bei Missbrauch unseres Systems. Mitarbeiter haben keinen direkten Zugang zu Informationen, die zur Identifizierung der person oder-Konto als Teil dieses Workflows. Alle Informationen werden streng vertraulich behandelt, und wir verwenden Sie multi-Faktor-Authentifizierung, um den Zugriff einzuschränken, service-Verschlüsselung und-audits unserer Kontrolle Umwelt zu schützen.
Jedoch, Bloomberg darauf hingewiesen, dass ein screenshot bereitgestellt, die von einem Anwender “zeigt, dass die Aufnahmen gesendet, um die Alexa Auditoren keine der vollständige name des Benutzers und die Adresse aber im Zusammenhang mit einer Kontonummer, sowie den Vornamen des Benutzers und die Seriennummer des Geräts.”
Amazon Datenschutzerklärung nicht ausdrücklich, daß der Mensch kann, hören Sie Aufnahmen, BuzzFeed News erwähnt, und seine Erklärung des “Alexa, Echo-Geräte und Ihre Privatsphäre” werden auch Blätter hin, dass die Informationen, anstatt die angeben, dass Ihre Geräte nur zu erfassen oder übertragen von Aufnahmen bei Alexa glaubt, es wurde absichtlich aktiviert.
Laut Bloomberg, Apple white paper sagt, dass seine Siri voice assistant nur trägt, die Menschen zu analysieren, zu Aufnahmen, die “mangelnde persönliche Informationen und gespeichert werden, für sechs Monate gebunden, um eine zufällig generierte Kennung ist,” wenn die Aufnahmen können später entfernt werden, sodass der zufällige IDs für die langfristige Lagerung. Google ‘ s Prüfer nur Zugriff auf audio -, wurde verzerrt.
[Bloomberg]
Teilen Sie Diese Geschichte