Bild: IBM
Anfang dieser Woche, David Kenny, IBM Senior Vice President für Watson und Cloud, sagte der US-Kongress, dass die Amerikaner nichts zu befürchten haben von künstlicher Intelligenz, und dass die Perspektiven der technologischen Arbeitslosigkeit und der Aufstieg einer “AI overlord” sind die schädlichen Mythen. Die Bemerkungen waren so eigennützig, wie Sie waren rücksichtslos, offenbart die überraschende Grad, zu dem IBM bereit ist, verfällt der Zukunft Willen die Gegenwart.
Der Kongressabgeordnete John Delaney (MD-6) hat vor kurzem die Künstliche Intelligenz (KI) Caucus für die 115th Kongress, von denen der Zweck ist, zu “informieren, die Politik des technologischen, ökonomischen und sozialen Auswirkungen der Fortschritte in der KI und um sicherzustellen, dass die rasche innovation in AI und verwandten Bereichen Vorteile, die die Amerikaner so vollständig wie möglich.” Die Fraktion, die derzeit unter dem gemeinsamen Vorsitz der Kongressabgeordnete Pete Olson (TX-22), hatte vor kurzem tete-a-tetes mit Amazon und Google. Nun, es ist eine Gelegenheit gehabt, zu hören, was die IBM—tech-Firma verantwortlich Watson, ein overhyped cognitive computing, machte einen Namen für sich selbst durch das besiegen der weltweit größten Jeopardy champions zu sagen hat. IBM-David Kenny, ausgestellt in einem offenen Brief an den Kongress vor einem Kongress-briefing, fand am Juni 28th.
“Die Auswirkungen der AI ist offensichtlich in der Debatte über seine Gesellschaftliche Auswirkungen—mit einigen ängstlichen Propheten envisioning massiven Verlust von Arbeitsplätzen, oder sogar eine eventuelle AI ‘overlord’ , kontrolliert die Menschheit. Ich muss nicht einverstanden mit diesen dystopischen Ansichten.”
Die Letzte AI winter, wenn die Zinsen und die Finanzierung in AI vertrocknet, ist nun längst vergessen, und ist es Mode geworden, wieder zu rave über das transformative Potenzial von AI. Eine Folge dieser hype, allerdings wurde der Anstieg von einem KI-Spiel. Die Menschen beginnen, sich sorgen zu machen—und auch ein bisschen Angst—was advanced AI könnte für Sie bedeuten, und das aus gutem Grund.
Kein Zweifel, wir beginnen zu fühlen, die ersten Ahnungen einer Automatisierungs-revolution, wo stetige Fortschritte in der KI und der Robotik bedrohen praktisch jede menschliche Berufung. Die Aussicht von der Masse technologische Arbeitslosigkeit führte zu Anrufe für ein garantiertes Grundeinkommen, und sogar einen Roboter Steuern zu verlangsamen, Automatisierungs-und re-direct-Fonds, um andere Arten von Arbeit. Beunruhigender ist, gibt es das Potenzial für die KI zu laufen amok. Prominente Denker wie Elon Musk und Stephen Hawking haben davor gewarnt über die Gefahren der KI, sagen, es konnte schließlich entkommen, unserem Verständnis und unserer Kontrolle.
Pishposh, sagt Kenny. In seinem offenen Brief an den Kongress, argumentiert er solche ängste befüllt sind, und dass die Amerikaner sollten umarmen AI mit offenen Armen.
“Die Auswirkungen der AI ist offensichtlich in der Debatte über seine Gesellschaftliche Auswirkungen—mit einigen ängstlichen Propheten envisioning massiven Verlust von Arbeitsplätzen, oder sogar eine eventuelle AI ‘overlord’ , kontrolliert die Menschheit. Ich muss nicht einverstanden mit diesen dystopischen Ansichten”, schrieb Kenny. “Wenn Sie tatsächlich tun, die Wissenschaft von der Intelligenz an der Maschine, und wenn Sie tatsächlich vorliegen, es in der realen Welt der Wirtschaft und der Gesellschaft—so wie wir es getan haben, bei IBM für unsere zukunftsweisenden cognitive computing system Watson—Sie verstehen, dass diese Technologie nicht unterstützen, die Panikmache im Zusammenhang mit der KI-Debatte heute.”
Die wirkliche Katastrophe, sagte Kenny, wäre “der Verzicht oder die Hemmung der kognitiven Technologie ein, bevor Sie Ihr volles Potenzial realisiert werden kann,” fügte hinzu, dass, “Wir zahlen einen hohen Preis jeden Tag nicht zu wissen, was gewusst werden kann: nicht zu wissen, was falsch mit einem Patienten; nicht wissen, wo kritische Natürliche Ressourcen; oder nicht zu wissen, wo die Risiken liegen in unserer globalen Wirtschaft.”
Er sagte, die ängste vor massiven job-Verlusten sind verständlich, aber historische Vorbilder deutet darauf hin, dass AI “nicht die Menschen ersetzen, die in der Belegschaft.” Stattdessen Kenny glaubt, dass die KI wird sich vermehren, sowohl die Menschen und die Arbeitsplätze, die wir offenbar immer noch in der Zukunft.
Kenny sagte auch, wir sollten “verlassen jede Vorstellung von der Besteuerung automation,” und dass wir “nicht Kind selbst zu denken, dass ein universelles Grundeinkommen zu lösen, wird die Herausforderung, bestimmte Aufgaben zu automatisieren.” Er bezeichnet diese Vorgaben als “Kurzzeit-cop-outs”, und empfohlen, dass die amerikanischen Pädagogen beginnen zu betonen, Kenntnisse über Grad.
Auf Risiken, Kenny sagt, wir müssen wissen, wie ein KI-system kommt zu einem Schluss über das andere. “Die Menschen haben ein Recht, zu Fragen, wie ein intelligentes system schlägt vor, bestimmte Entscheidungen und andere nicht, vor allem, wenn die Technologie angewendet wird, über Branchen wie Gesundheitswesen, Banken-und cybersecurity”, schrieb er. “Und unsere Branche hat eine Verantwortung zu beantworten.”
Dass Kenny sagte, dass Unternehmen müssen in der Lage sein, zu erklären, was ging in einen Algorithmus Entscheidungsprozesses, und die Bürger müssen verstehen, wie die KI-Technologien arbeiten. Und in der Tat, Arbeit ist getan in diesem Bereich, einschließlich der Bemühungen um die Schaffung AI erklären können, dass Ihre Handlungen in einer Weise, die wir verstehen können.
Ohne Frage, die Kenny Recht hat über das Potenzial für AI zu transformieren unsere Gesellschaft und für die bessere. KI wird uns helfen, erfinden neue Medikamente, erstellen sicherere Straßen, mindern wirtschaftliche Risiken, die uns helfen, unsere Ressourcen, und lösen einige der weltweit am kniffligsten Probleme. Wir sollten absolut begeistert und unterstützende Forschung in AI, aber wir sollten auch sehr vorsichtig, da seine zerstörerische Potenzial, ob diese Störung führt zu sozialen Unruhen und Armut, oder eine Katastrophe, die droht, die Existenz unserer Spezies.
“Zu mir, dass [offener Brief] liest sich mehr wie eine corporate Pressemitteilung. Es ist nicht wirklich sich mit den längerfristigen AI Bedenken, dass ich arbeite”, sagte Skype Mitgründer Jaan Tallinn in einem interview mit Gizmodo. “[Kenny schreibt], die Kritische Entscheidungen verlangen, die menschliche Urteil, Moral und intuition—AI nicht ändern.’ Wenn die Dinge gut laufen, dann ist das wahr. Aber es erfordert harte Arbeit zu lösen, den KI-control-problem, um sicherzustellen, dass zunehmend autonome AI aufhören würde und die Steuerung wieder an den Menschen, wenn die wichtigen Entscheidungen getroffen werden müssen.”
In Tallinn, der Mitgründer des Center for the Study of Existential Risk an der Universität von Cambridge, sagt, dass wir bereits mit diesem sehr dilemma in der Debatte weiterentwickelt, um dem sich entwickelnden Feld von autonomen Waffen—und die Antworten, die er sagte, nicht so einfach und beruhigend, wie Kenny ‘ s Brief macht es klingen.
“Der Kern seiner Argumentation ist, dass IBM weiß mehr über AI und über die Wirtschaft als die “ängstlichen Propheten”, und dass jede Erwähnung von Risiken ist gefährlich, Maschinenstürmer Trugschluss.”
Stuart Russell, professor für computer science und Smith-Zadeh, Professor in Engineering an der University of California, Berkeley, ist damit einverstanden, dass die KI Einführung wichtige Vorteile, aber er ist besorgt über die Art und Weise von IBM gewählt hat, zu beschönigen die möglichen Konsequenzen—und selbst schmälern, diejenigen, die beginnen, alarm zu schlagen.
“Ich denke, IBM hat der Anteil der Unternehmen, die auf AI—das kann auch eine gute Wette—und so haben Sie Befürchtungen über die Regierung” die Hemmung der kognitiven Technologie “oder” Besteuerung automation”,” Russell sagte Gizmodo. IBM hat jedes Recht, eine petition an den Kongress und drückt seine Meinung, sagte er, während auch zeigen sich die Unternehmen eher große lobbying-und public-relations-budget.
“Der Kern seiner Argumentation ist, dass IBM weiß mehr über AI und über die Wirtschaft als die “ängstlichen Propheten”, und dass jede Erwähnung von Risiken ist gefährlich, Maschinenstürmer Trugschluss”, sagte Russell.
Auf die Wirtschaftlichkeit der Beschäftigung von Risiken, Russell wies auf eine Reihe von “ängstlich Propheten”, darunter Nobelpreisträger Robert Shiller, Mike Spence und Paul Krugman; Klaus Schwab, Leiter des World Economic Forum; und Larry Summers, ehemaliger Chefökonom der Weltbank und Finanzminister unter Bill Clinton. “Ich glaube nicht, dass man schließen kann, Ihre Argumente mit ad hominem Beleidigungen,” sagte Russell. Als diese Denker haben sich große Mühe zu betonen, sind die ausstehenden automation revolution ist bereit, Sie zu beseitigen unzählige Arbeitsplätze verdrängen und Arbeitnehmer.
Das Potenzial für schlecht gestaltete KI zu erstellen, die Probleme der Menschheit, wie es wächst, um schließlich übersteigen die menschlichen Fähigkeiten in nahezu jedem Bereich, Russell erwähnt von anderen bemerkenswerten “ängstlich Propheten”, darunter Alan Turing, Begründer der informatik; Norbert Weiner, die mathematische Pionier der modernen Automatisierung; Marvin Minsky, einer der “Gründerväter” von AI selbst; Bill Gates und Elon Musk—zwei der “führenden Technologen der letzten 50 Jahre”—und “viele der heutigen Leiter der KI-Forschung.”
Über den Anspruch, die Risiken sollten nicht erwähnt werden, daß es wird Fortschritte, Russell sagte, es ist hilfreich, sich wieder an die Geschichte der Kernenergie.
“Aus meiner Sicht wäre es durchaus sinnvoll für eine nuklear-Ingenieur zu prüfen, die Risiken einer Kernschmelze, und schlagen vor, die Studie von failsafe-Systeme und andere Methoden, um zu verhindern, dass die Katastrophe,” Russell sagte Gizmodo. “IBM ist der Ansicht, dass sollten wir uns verstecken der Risiken und studieren Sie die Methoden, Sie zu verhindern, im Falle, erzeugt schlechte PR. In der Realität, die Tschernobyl-Katastrophe war schlechte PR für die kerntechnische Industrie; in der Tat ist es im wesentlichen zerstört die Industrie, wie auch für das rendering, die Tausende von Quadrat-Meilen der Ukraine unbewohnbar. Es resultiert aus setzen auf Kurzfristige Gewinne vor langfristigen Sicherheit.”
Kein Zweifel, das Potenzial für eine AI-Katastrophe steigt mit jedem weiteren Durchbruch auf dem Gebiet, und unsere technologische Infrastruktur, die zunehmend brüchig wird. Diese Woche ist “Petya” ransomware Angriff—die in Wirklichkeit eine cyberattack entwickelt, um zu zerstören sensible Daten war ein ausgezeichnetes Beispiel dafür, zeigt nur, wie verletzlich unsere Welt wird immer. Der Vorfall Zwang die Abschaltung von Computern rund um den Globus setzen die vorübergehend halt, Flüge, Börse, Handel, und Schifffahrt. Es werden sogar gezwungen, Betreiber des Kernkraftwerks Tschernobyl zum Umschalten auf die manuelle überwachung der Strahlenbelastung vorsorglich. Und dies aus einem relativ dumm cyberattack. Sich vorstellen, was passieren wird, wenn diese Angriffe Gefahren werden, durch die Intelligenz an der Maschine. Und das ist nur eines von einer unzähligen Anzahl von anderen möglichen Szenarien.
IBM—zumindest vorerst—scheint gewillt zu sein, ignorieren diese harten Realitäten. Aber Francesca Rossi, professor für computer science an der Universität von Padua, Italien, sieht man das nicht Weg, lobte IBM-Ansatz.
“Ich bin sehr positiv von [Kenny] point-of-view—, sind Sie im Einklang mit mir und spiegeln ein Ansatz für das bereitstellen von fortschrittlichen Technologien wie künstliche Intelligenz, die in einem ethischen und praktischen Art und Weise,” Rossi sagte Gizmodo. “In meinem Interaktionen auf Konferenzen und Orten in den USA und Europa, ich bin zunehmend die Notwendigkeit zu erziehen, Geschäfts-und Regierungschefs auf, die das wahre potential von KI, sowohl technisch als auch sozial. Leider, einige uninformierte Parteien—und einige, die es besser wissen sollten—sind unnötig die Befürchtungen, die unbegründet sind.”
Rossi glaubt, es wäre schädlich für die Industrie und für die Gesellschaft, wenn diese “unbegründete ängste” zu einer restriktiven Richtlinien oder Vorschriften, die erstickt verantwortlich innovation und Weiterentwicklung.
“Ich begrüße [Kenny] für das, was Führungskräfte tun sollten—, präsentiert eine fundierte, durchdachte Perspektive auf ein Thema, das neu ist und das kann manchmal verwirrend sein”, sagte Rossi. “Als er (wie auch der Kongressabgeordnete), sagte, der private und öffentliche Sektor müssen zusammenarbeiten, um diese Probleme anzugehen, und seine Aktionen in dieser Woche waren ein gutes Beispiel dafür, treu zu seinem Wort.”
Dass der private und der öffentliche Sektor arbeiten gemeinsam an diesem Thema ist sicherlich etwas, was wir alle Zustimmen können. Aber wir müssen sicherstellen, dass beide Bereiche arbeiten mit den besten Interessen der Bürger und Verbraucher im Auge. Wir sind immer noch sehr viel in der Wild-West-ära der AI-Entwicklung, und wie die Zeit vergeht, wir sollten erwarten—und plädieren für strengere Regelungen und standards. Unternehmen und Regierungen schwankte durch Ihre großen Taschen, nicht oft venture auf diesen wegen freiwillig.
Diese 23 Prinzipien, die Uns Helfen Könnten, zu Vermeiden, eine AI-Apokalypse
Science-fiction-Autor Isaac Asimov berühmt vorhergesagt, dass wir eines Tages Roboter zu Programmieren…
Lesen Sie mehr
Zum Glück gibt es Gruppen, die die ersten wichtigen Schritte in diese Richtung. Die Zukunft der Life Institute hat kompiliert eine Liste von Richtlinien, genannt die Asilomar AI Grundsätze zu Steuern, die sichere und verantwortungsvolle Entwicklung der KI, und die EFF hat vor kurzem eine neue Anstrengung, um die Fortschritte der KI und des maschinellen Lernens. Eine Reihe von privaten und akademischen Institutionen haben ähnliche Ziele.
IBM hat eine große Stimme, keine Frage, aber lasst uns sicher sein, die Aufmerksamkeit auf die steigende chorus Sorge.
[CNBC, Recode]