Die Schreckliche Wahrheit Über Alexa

Abbildung: Gizmodo / Amazon

Diese Woche Las ich über eine Geschichte von alles, was ich gesagt habe: Alexa, und es fühlte sich ein wenig wie das Lesen ein altes Tagebuch. Bis mir einfiel, dass die Dinge, die ich gesagt habe Alexa im privaten gespeichert sind auf einem Amazon-server und ggf. zu Lesen von einem Amazon Mitarbeiter. Das ist alles, um Alexa besser, hält das Unternehmen sagen. Jedoch, zu viele Menschen, es ist nicht sofort ersichtlich, wie Menschen interagieren mit Ihren scheinbar privaten voice-Kommandos ist alles andere als überwachung. Alexa, diese Leute sagen, ist ein Spion versteckt sich in ein Lauschangriff Gerät.

Die Debatte darüber, ob oder nicht, Alexa oder voice-Assistent ist Spionage auf uns ist Jahre alt zu diesem Zeitpunkt, und es ist nicht Weg. Datenschützer haben, reichte eine Beschwerde bei der Federal Trade Commission (FTC), der behauptet, diese Geräte gegen den Federal Wiretap Act. Journalisten haben untersucht, die Gefahren des immer-auf Mikrofone und künstlich intelligenten voice-Assistenten. Skeptisch tech-Blogger wie mich haben argumentiert, diese Dinge stärker waren als die Menschen bemerkten und überladen mit Verletzungen Ihrer Privatsphäre. Den letzten news Geschichten darüber, wie Mitarbeiter von Amazon abgeben, bestimmte Alexa-Befehle schlage vor, die situation ist schlimmer als wir dachten.

Es beginnt zu fühlen, wie Alexa und die anderen voice-Assistenten sind dazu bestimmt, spy auf uns, weil das ist, wie das system wurde entwickelt, um zu arbeiten. Diese Systeme stützen sich auf maschinelles lernen und künstliche Intelligenz, sich selbst zu verbessern im Laufe der Zeit. Die neue Technologie, die Ihnen zugrunde liegenden ist derzeit auch anfällig für Fehler, und selbst wenn Sie waren perfekt, die Daten-hungrige Unternehmen, die Sie gebaut sind, ständig zu denken, um neue Möglichkeiten zu nutzen Benutzer für profit. Und wo unvollkommene Technologie und leistungsstarken Unternehmen kollidieren, tendiert die Regierung dazu, den Kampf so viel mit dem Verständnis, was ist Los, dass Regelung scheint wie eine Unmögliche Lösung.

Die situation ist nicht völlig schrecklich. Diese Technologie könnte richtig geil werden, wenn wir zahlen mehr Aufmerksamkeit auf, was geschieht. Das wiederum ist verdammt kompliziert.

Never-ending-Fehler

Ein grundlegendes problem mit dem Alexa oder anderen Sprach-Assistenten ist, dass die Technik ist anfällig für Fehler. Geräte wie das Echo kommen ausgestattet mit always-on-Mikrofone, die sollen nur erfasst, wenn Sie wollen, um Sie zu hören. Während einige Geräte erfordern das drücken einer physischen Taste zu locken, Alexa, viele sind entworfen, um die Aufnahme zu starten, nachdem Sie gesagt haben, die die wake-Wort. Jemand, der eine Zeitlang mit Alexa weiß, dass es nicht immer so. Manchmal ist die software hört das Rauschen, denkt, es ist die wake Wort, und startet die Aufnahme.

Inwieweit die Fehlalarme sind ein problem geworden ist grell offensichtlich, der moment, den ich anfing zu Lesen, durch meine Geschichte von Alexa Befehle auf Amazon ‘ s website. Die meisten Einträge sind langweilig: “Hey, Alexa;” “Zeigen Sie mir ein Omelett-Rezept;” “What’ s up?” Aber bestreut unter den Weltlichen Dribbeln war auch eine gewaltige Reihe von Nachrichten, die sagte, “Text nicht verfügbar—audio war bestimmt nicht für Alexa.” Jedes mal, wenn ich sah es, ich sah es zweimal, wieder und Lesen Sie es laut in meinem Kopf: “Audio war bestimmt nicht für Alexa.” Dies sind die Dinge, die Alexa gehört das es nicht gehört haben, Befehlen, die gesendet wurden, um den Amazon-Server und zurück geschickt, weil die Maschine entschieden, die wake-Wort nicht gesagt worden, oder hatte Alexa audio aufgezeichnet, wenn der Benutzer nicht geben Sie einen Befehl. In anderen Worten, Sie sind Fehler.

Alexa hatte wirklich zu kämpfen, im letzten August.Screenshot: Gizmodo

Bei der Nennwert -, Sprach-Assistenten aufnehmen streunenden audio ist ein unvermeidlicher Mangel in der Technik. Die sehr anspruchsvolle computer-Programm, können verstehen, was Sie sagen, ist das verstecken hinter einem sehr einfachen eine, die ausgebildet wurde, zu hören, ein wake-word und senden Sie dann alle Befehle aus, die nach uns kommen, die intelligenter computer. Das problem ist, dass die einfache computer oft nicht richtig funktioniert, und die Leute nicht immer wissen, dass es ein Aufnahmegerät in das Zimmer. So bekommen wir Echo-Basis Albträume wie die Oregon-paar, das versehentlich geschickt, eine Aufzeichnung einer gesamten Konversation mit einem bekannten. Amazon selbst arbeitet bereits an Verbesserungen, um senken Sie die Fehlerquote mit wake Worte, aber es ist schwer vorstellbar, dass das system wird jemals fehlerfrei sein.

“Das ist das unheimliche: es ist ein Mikrofon in Ihrem Haus, und Sie haben keine Kontrolle über, wenn es aktiviert wird,” Dr. Jeremy Gillula, tech projects director bei der Electronic Frontier Foundation (EFF), hat es mir gesagt. “Aus meiner Sicht ist, dass die Problematik von Datenschutz-Sicht.”

Diese Art der Sache passiert ist Pech, obwohl es häufiger als die meisten Leute gerne hätten. Was ist wohl noch schlimmer als die Störungen ist das sehr bewusst hinter-den-kulissen-workflow, der zeigt Nutzer-Interaktionen mit Sprach-Assistenten zu fremden. Bloomberg berichtete kürzlich, dass ein team von Amazon-Mitarbeitern hat Zugang zu Alexa Benutzer’ geographische-Koordinaten und Sie, dass diese Daten gesammelt wurden, zur Verbesserung der Sprach-Assistent s Fähigkeiten. Diese Offenbarung kam nur ein paar Wochen, nachdem Bloomberg berichtete, dass Tausende von Menschen beschäftigt Amazon rund um die Welt zu analysieren, Nutzer Alexa Befehle zu trainieren, die software. Sie mithören können kompromittierender Situationen, und in einigen Fällen, die Amazon-Mitarbeiter lustig machen, was die Leute sagen.

Amazon schob hart gegen diese Berichte. Ein Unternehmenssprecher sagte mir, dass Amazon nur kommentiert “eine sehr kleine Anzahl von Interaktionen aus einer zufälligen Reihe von Kunden, um die Verbesserung der customer experience.” Diese Aufzeichnungen werden in einem geschützten system, nutzt multi-Faktor-Authentifizierung, so dass “eine begrenzte Anzahl” von sorgfältig überwachten Mitarbeiter zugreifen können. Bloomberg legt nahe, dass das team die zahlen in die Tausende.

Aber für Alexa und andere künstlich intelligente voice-Assistenten zu arbeiten, einige menschliche Prüfung ist notwendig. Diese Ausbildung könnte in Zukunft vermeiden Fehler und führen zu einem besseren features. Amazon ist nicht das einzige Unternehmen, das mit Menschen zu überprüfen, Sprachbefehle, entweder. Google und Apple beschäftigen auch teams von Menschen, um zu überprüfen, was die Nutzer sagen Ihre Stimme Assistenten zu trainieren, die software zu verstehen, die Menschen besser und entwickeln neue features. Sicher, das menschliche element dieser scheinbar computer-based-services ist gruselig, aber es ist auch ein wesentlicher Bestandteil, wie diese Technologien entwickelt werden.

“Am Ende, für die wirklich harten Fälle, Sie brauchen einen Menschen, Ihnen zu sagen, was Los war”, so Dr. Alex Rudnicky, ein Computerwissenschaftler an der Carnegie Mellon University, sagte in einem interview. Rudnicky wurde die Entwicklung von Spracherkennungs-software seit den 1980er Jahren hat dazu geführt Mannschaften, die in den Alexa-Preis, ein Amazon – Gewinnspiel für Konversation künstliche Intelligenz. Während er behauptet, dass Menschen sind notwendig für die Verbesserung der Verarbeitung natürlicher Sprache, Rudnicky, glaubt auch, dass es unglaublich unwahrscheinlich ist, denn eine Stimme Befehl aus, um Rückschlüsse auf eine Einzelperson.

“Wenn man einmal bei einem von 10 Millionen”, Rudnicky, sagte, “es ist ziemlich schwer zu argumentieren, dass jemand geht, um es zu finden und führen es zurück zu Ihnen und finden Sie heraus, was über Sie, dass Sie nicht möchten, dass Sie wissen.”

Diese Idee nicht die Idee von einem fremden Lesen Sie Ihre täglichen Gedanken oder wissen, dass Ihre Lage Geschichte fühlen sich alle weniger gruselig, aber. Es könnte sein, ungewöhnlich für einen Sprach-Assistenten aufnehmen mich versehentlich, aber die Systeme noch nicht scheinen klug genug, um aufzuwachen mit 100 Prozent Genauigkeit. Die Tatsache, dass Amazon-Kataloge und macht all die Alexa-Aufnahmen fängt die zufällige oder anders—macht mich schrecklich fühlen.

Das Problem mit dem Datenschutz Will Niemand Lösen

In den letzten Gesprächen, ein halbes Dutzend Technologie-und Datenschutz-Experten hat mir gesagt, wir brauchen eine stärkere Datenschutz-Gesetze, um gegen einige dieser Probleme mit Alexa. Die Höhe Ihrer persönlichen Daten, die ein Echo sammelt, ist gebunden durch die Bedingungen, die Amazon setzt, und den USA fehlen starke Datenschutz-Gesetzgebung wie in Europa General Data Protection Regulation (GDPR). In anderen Worten, die Unternehmen, die den Bau-voice-Assistenten sind mehr oder weniger machen die Regeln.

Also ich finde mich Kreisen zurück, um ein paar Fragen. Wer auf der Suche nach dem Benutzer? Warum kann ich nicht opt-in zu vermieten Amazonas aufnehmen, meinen Befehlen statt waten durch Privatsphäre-Einstellungen auf der Suche nach Möglichkeiten, um aufhören zu senden meine Daten an Amazon? Und warum sind meine Optionen für den Widerspruch begrenzt?

Im Alexa Privatsphäre-Einstellungen, können Sie opt-out, dass Amazon Ihre Aufzeichnungen verwenden, um die Entwicklung neuer Funktionen und Verbesserung Transkriptionen. Sie können opt-out zu erlauben Amazon behalten Sie Ihre Aufzeichnungen für andere Zwecke.

Trotz das Symbol wird deaktiviert, Amazon ist immer noch die Beibehaltung meiner Alexa-Aufnahmen.Screenshot: Gizmodo

Einstellungen wie diese stellen in der Pflicht, die Nutzer zum Schutz Ihrer eigenen Privatsphäre. Ob das schon der Fall zu sein, warum nicht auch diese Firmen machen meine Interaktionen mit Sprach-Assistenten komplett anonym?

Apple scheint zu versuchen, dies zu tun. Wann immer Sie sprechen Sie mit Siri, diese Kommandos werden verschlüsselt, bevor Sie gesendet sind, um das Unternehmen mit einem zufälligen Siri identifier angebracht. Ihre Siri-id ist nicht mit Ihrer Apple ID verknüpft, so es gibt keine Weise können Sie öffnen Sie Ihre Privatsphäre-Einstellungen auf iPhone und sehen Sie, was Sie habe sagen zu Siri. Nicht alle Siri-Funktionalität erfordert, dass Ihr Gerät zum senden von Informationen an den Apple-Servern, so dass die Schnitte nach unten auf die Belichtung. Apple hat Aufzeichnungen von Siri Befehle zu trainieren, die software, denn Sie muss trainieren, künstlich intelligente software, um es besser zu machen. Die Tatsache, dass Apple nicht zuordnen, insbesondere Befehle, die mit einem bestimmten Benutzer könnte erklären, warum so viele Leute denken, dass Siri ist schrecklich. Dann wieder, Siri könnte Ihre beste Wette für einen Anschein von Privatsphäre in einer Stimme Assistent.

Dies ist der Punkt in der Debatte, wenn Tim Cook möchte Sie daran erinnern, dass Apple keine Daten Unternehmen. Unternehmen wie Google und Amazon wiederum Ihre persönlichen Daten in Produkte, die Sie verkaufen können, an Werbetreibende oder verwenden, Sie zu verkaufen mehr Zeug, würde er sagen. Dies ist das gleiche argument, das wir sahen aus dem Apple-Chef, wenn er schrieb eine Zeit-Magazin-Kolumne früher in diesem Jahr und kündigte an, push für Bundes-Datenschutz-Gesetzgebung.

Die Idee fängt an, einige Traktion. Im Januar, dem Government Accountability Office einen Bericht veröffentlicht, den Aufruf für den Kongress-pass umfassende internet-Gesetzgebung zum Datenschutz. Diesem Bericht Schloss sich einem Chor der Datenschützer, die haben lange argumentiert, dass die Vereinigten Staaten braucht seine eigene version von GDPR. Im März hat der Senat Justiz Ausschuss hörte Zeugnis von mehreren Personen, drängte Datenschutz-Gesetzgebung. Es ist nicht klar, ob oder nicht, der Kongress handeln, die diese Idee jedoch.

“Sprachtechnologie ist mittlerweile so gut, es ist wichtig, die sorgen sich um die Privatsphäre”, sagte Dr. Mari Ostendorf, ein Elektrotechnik-professor und Rede-Technologie-Experte an der Universität von Washington. “Und ich denke, dass wahrscheinlich Unternehmen sind mehr besorgt als die US-Regierung ist.”

Würde man hoffen, dass Amazon zumindest überdenken Sie Ihren Ansatz zu Datenschutz und voice-Assistenten. Weil jetzt, wie es scheint, die Allgemeine öffentlichkeit ist nur gerade dabei die unzähligen Möglichkeiten, die Geräte wie das Echo aufzeichnen, die unser Leben ohne unsere Genehmigung oder die gemeinsame Nutzung unserer persönlichen Daten mit fremden. Die jüngste Kontroverse über Alexa-lediglich Kratzer an der Oberfläche, wie eine Welt voller always-on-Mikrofone ist eine völlige Privatsphäre Alptraum.

Das problem ist, dass Unternehmen, wie diese mit Daten-getriebenen Geschäftsmodellen haben jeden Anreiz, Sie zu sammeln Sie so viele Informationen über Ihre Nutzer wie möglich. Jedes mal, wenn Sie Alexa, zum Beispiel Amazon bekommt einen schärferen Blick auf Ihre Interessen und Verhalten. Als ich fragte, für Einzelheiten auf, wie Amazon nutzt diese Daten, das Unternehmen gab mir ein komisches Beispiel.

“Wenn ein Kunde mit Alexa, einen Kauf zu tätigen oder die Interaktion mit anderen Amazon-services wie Amazon Musik”, ein Amazon-Sprecher sagte, “wir können die Tatsache die Kunden nahmen diese Aktion in der gleichen Weise würden wir, wenn der Kunde nahm diese Aktion, die über unsere website oder unsere apps—zum Beispiel für Produkt-Empfehlungen.”

Es gibt Indizien dafür, dass diese Arten von Empfehlungen könnte mehr werden anspruchsvoll in die Zukunft. Amazon hat eine patentierte Technologie, die interpretieren können, Ihre Emotionen, basierend auf den Ton und die Lautstärke Ihrer Stimme. Gemäß dem patent, das hypothetische version der Alexa-Technologie konnte sagen, ob Sie glücklich oder traurig und liefern “sehr gezielte audio-Inhalte, wie audio -, s-oder promotions.” Man könnte argumentieren, dass das einzige, was hält Amazon wieder die Freigabe einer ad-unterstützten Alexa ist das Potenzial der Rückstoß von der Echo-Besitz der öffentlichkeit. Die Regierung ist wahrscheinlich nicht gehen, um es zu stoppen.

Das Erschreckende Zukunft

Eine Zukunft ohne weitere Aufsicht könnte sehr Philip K. Dickian, sehr schnell. Erst kürzlich Sprach ich mit Dr. Norman Sadeh, ein informatik-professor an der Carnegie Mellon, wer Malte ein düsteres Bild von dem, was eine Zukunft ohne besseren Datenschutz-Verordnung Aussehen könnte.

“Am Ende des Tages alle diese Lautsprecher, die Verbindung zu einem einzigen Unternehmen,” erklärt Sadeh. “So Amazon könnte verwenden Sie die Spracherkennung, um Sie zu identifizieren, und als ein Ergebnis, es könnte möglicherweise bauen extrem umfassende profile darüber, wer Sie sind, was Sie tun, was Ihre Gewohnheiten sind, alle möglichen anderen Attribute, die Sie nicht unbedingt preisgeben wollen.”

Er schlägt vor, Amazon könnte machen ein Geschäft aus dieser, zu wissen, wer Sie sind und was Sie mögen durch den reinen Klang Ihrer Stimme. Und im Gegensatz zu den meisten dystopischen Vorstellungen von dem, was die Gesichts Erkennung ermöglichen könnten, Spracherkennung funktionieren könnte, ohne jemals zu sehen. Es könnte Arbeit über Telefonleitungen. In einer Zukunft, wo das internet angeschlossenen Mikrofone vorhanden sind, in einer stetig wachsenden Anzahl von Zimmern, ein system wie dieses kann immer Zuhören. Einige von den Forschern, die ich Sprach, brachte dieses dystopische Idee und beklagt seine bevorstehende Ankunft.

Ein solches system ist bisher hypothetisch, aber wenn man darüber nachdenkt, sind alle Teile vorhanden sind. Es gibt Millionen von Geräte, die voll von always-on-Mikrofone im ganzen Land, in den Wohnungen sowie öffentlichen Plätzen. Sie sind erlaubt, um zu hören und aufzeichnen, was wir sagen, zu bestimmten Zeiten. Diese künstlich intelligenten Maschinen sind auch anfällig für Fehler und wird nur besser durch das hören mehr auf uns, manchmal lassen Menschen korrigieren Ihr Verhalten. Ohne jegliche Staatliche Aufsicht, wer weiß, wie sich das system weiterentwickelt von hier.

Wir wollten uns eine bessere Zukunft als diese, nicht wir? Sprechen Sie mit Ihrem computer schien wie eine wirklich Coole Sache in den 90er Jahren, und es war auf jeden Fall ein erheblicher Teil der Jetsons’ lebensstil. Aber so weit, es scheint wie eine unvermeidliche Wahrheit, die Alexa und die anderen voice-Assistenten sind verpflichtet, spy auf uns, ob wir es wollen oder nicht. In einer Weise, die Technologie ist so konzipiert, dass es nicht vermieden werden kann, und in der Zukunft, ohne Aufsicht, es wird wahrscheinlich noch schlimmer.

Vielleicht ist es töricht zu glauben, dass Amazon und andere Firmen Gebäude voice-Helfer tatsächlich sind besorgt über Datenschutz. Vielleicht sind Sie die Arbeit auf die Lösung der Probleme, verursacht durch Fehler-anfällig-tech, und vielleicht sind Sie die Arbeit auf die Bewältigung der Angst der Menschen fühlen, wenn Sie sehen, dass Geräte wie das Echo aufzeichnen, die Ihnen, manchmal ohne dass der Benutzer es zu merken. Was solls, vielleicht ist der Kongress arbeitet an Gesetze halten würde, diese Firmen zur Rechenschaft zu ziehen.

Unvermeidlich, die Zukunft von voice-powered Computern, die nicht so dystopische. Gespräch mit unseren gadgets verändern die Art, wie wir interagieren mit der Technologie in der allertiefsten Weise, wenn alle an Bord waren, wie es war, als getan. Jetzt, das scheint nicht der Fall zu sein. Und, ironischerweise, desto weniger Menschen müssen wir helfen zu entwickeln tech wie Alexa, die schlimmer Alexa sein wird.

Teilen Sie Diese Geschichte