Woran denken Sie, wenn es um Künstliche Intelligenz geht? Ich nehme an, die meisten Leute erinnern sich an Werke wie & # 171; I, Robot & # 187; oder zahlreiche Filme, die von einer superintelligenten KI erzählen, die die Menschheit zerstören will. Tatsächlich ist alles viel prosaischer: Menschen, die direkt an der Entwicklung von KI beteiligt sind, stehen solchen Horrorgeschichten skeptisch gegenüber und das nicht ohne Grund. Es ist zum Beispiel kaum möglich, Alice von Yandex als Bedrohung für die Menschheit zu bezeichnen. Es gibt jedoch einen anderen Bereich der wissenschaftlichen Forschung, der sich mit der Erforschung globaler Risiken beschäftigt, also Ereignissen, die das Potenzial haben, zum Untergang unserer Zivilisation und zum Aussterben der Menschheit zu führen. Und überraschenderweise stellt KI nach Ansicht vieler Forscher wirklich eine potenzielle Bedrohung für Sie und mich dar. Wie die Ergebnisse einer Anfang 2021 durchgeführten Studie zeigen, ist es unwahrscheinlich, dass wir die Computer-Superintelligenz kontrollieren können. Laut den Autoren der wissenschaftlichen Arbeit ist die Superintelligenz vielschichtig und daher potenziell in der Lage, verschiedene Ressourcen zu mobilisieren, um ihre eigenen Ziele zu erreichen. Und diese Ziele sind für die Menschen oft unverständlich.
Lohnt es sich, etwas zu erschaffen, das uns zerstören kann?
Inhalt
- 1 Global Risk Research
- 2 Was ist Künstliche Intelligenz?
- 3 Potenzielle KI-Bedrohungen
- 4 Was ist, wenn Sie die Welt nicht zerstören?
Globale Risikoforschung
Heute ist unser Wissen über die Welt um uns herum so groß, dass alle früheren Generationen uns definitiv beneiden würden. Während unsere Großeltern noch mit der Hand gespült, aber auch Böden und Geschirr gespült haben, übertragen heute immer mehr Menschen diese Aufgaben auf Roboter. Uns bleibt nur noch das Be- und Entladen der Waschmaschine/Spülmaschine, was mit der Arbeit mit den Händen einfach nicht zu vergleichen ist.
Aber für diesen Komfort muss man trotzdem bezahlen. Die Geschichte zeigt uns immer wieder die Entwicklungswege der Gesellschaft. Während dieser kleinen Geschichte der Menschheit (im Vergleich zum Zeitalter des Universums) fielen Zivilisationen wie die Maya, das antike Mesopotamien, das antike Griechenland, die Olmeco-Zivilisation, das antike Rom und andere.
Die Entwicklung einiger alter Zivilisationen ist erstaunlich. Aber wenn sie vom Erdboden verschwinden, was passiert dann mit uns?
Auf den ersten Blick mag es scheinen, dass es in der Geschichte des Untergangs alter Zivilisationen und Reiche nicht um uns geht. Schließlich sollte uns unsere Macht, die Fähigkeit, Raketen ins All zu schicken, andere Planeten zu studieren und die Welt in einem einzigen Informationsfeld zu verbinden, in eine bessere Zukunft führen. Die Realität zeichnet jedoch, wie so oft, ein ganz anderes Bild – gerade steuern wir auf eine Katastrophe und ein mögliches Aussterben zu.
Mehr zum Thema: Rom wurde gegründet und verschwand – das Geheimnis der mysteriösen etruskischen Zivilisation enthüllt
Dies wird durch die Ergebnisse von Hunderten von wissenschaftlichen Studien belegt. Vor kurzem wurde beispielsweise ein neuer IPCC-Bericht zu den Herausforderungen des Klimawandels veröffentlicht. Seine Ergebnisse spiegeln die Ergebnisse zahlreicher wissenschaftlicher Arbeiten wider, deren Fazit enttäuschend ist – unsere Zivilisation ist bestenfalls 500 Jahre alt.
Aber das sich schnell ändernde Klima, ob wir es wollen oder nicht, ist nicht die einzige ernsthafte Bedrohung für die Menschheit. Und während Forscher und Experten aus aller Welt damit beschäftigt sind, die durch die globale Erwärmung verursachten Probleme zu lösen, wagten einige Wissenschaftler den Blick in unsere technologische Zukunft. Und wir haben wirklich etwas zu befürchten.
Über das, was die Welt bis 2070 sein kann, sowie über die globalen Risiken, denen unsere Zivilisation ausgesetzt ist, habe ich in diesem Artikel gesprochen. Ich empfehle die Lektüre
< h2 > Was ist Künstliche Intelligenz?
Künstliche Intelligenz ist ein Versuch, Computer zu entwickeln, die zu intelligentem Verhalten fähig sind. Im Grunde ist es ein allgemeiner Begriff, der sich auf alles bezieht, von Siri bis IBM Watson und leistungsstarke Technologien, die wir erst noch erfinden müssen.
Einige Forscher unterscheiden zwischen & # 171; Narrow AI & # 187; oder schwache KI – Computersysteme, die in einem bestimmten, genau definierten Bereich besser sind als Menschen, wie Schach spielen, Bilder erstellen oder Krebs diagnostizieren – und & # 171; allgemeine KI & # 187; – das heißt , Systeme, die die menschlichen Fähigkeiten in vielen Bereichen übertreffen können. Heute haben wir keine gemeinsame KI, aber Forscher werden sich zunehmend der Probleme bewusst, die sie darstellen kann.
Die Gesichtserkennungstechnologien werden jedes Jahr besser
In den letzten Jahren hat die schmale KI außerordentliche Fortschritte gemacht: Künstliche Intelligenzsysteme sind heute hervorragend darin, fremde Sprache zu übersetzen, Schach und Go zu spielen und helfen, wichtige Probleme in der Forschungsbiologie zu lösen, wie etwa die Vorhersage der Proteinfaltung und die Erstellung von Bildern . .
Sie fragen sich vielleicht: Kann künstliche Intelligenz menschliches Verhalten manipulieren?
Darüber hinaus bestimmen Systeme der künstlichen Intelligenz, was genau wir in einer Google- oder Yandex-Suche oder in einem Facebook- oder Vkontakte-Newsfeed sehen. Sie komponieren Musik und schreiben Artikel, die sich auf den ersten Blick nicht von von Menschen geschriebenen Texten unterscheiden. Dieselben Systeme werden entwickelt, um die UAV-Steuerung und die Raketenerkennung zu verbessern.
Aber die schmale KI wird weniger & # 8230; schwach. Bis heute haben Wissenschaftler erhebliche Fortschritte bei der künstlichen Intelligenz erzielt, indem sie Computersystem-spezifische Konzepte akribisch vermittelten . Und in den letzten Jahren gilt das Interesse vieler Wissenschaftler der Schaffung lernfähiger Computersysteme.
Mit anderen Worten, anstatt die detaillierten Merkmale des Problems mathematisch zu beschreiben, erlaubten die Forscher dem Computersystem, diese Merkmale selbst zu untersuchen. Und während sich dieses System weiterentwickelt, demonstrieren KIs allgemeinere Fähigkeiten.
Insgesamt haben Fortschritte in der künstlichen Intelligenz Wissenschaftlern enorme Fortschritte ermöglicht und auch drängende ethische Fragen aufgeworfen. Rosie Campbell von der University of California im Berkeley AI Center argumentiert beispielsweise, dass die aktuellen Schwierigkeiten nichts mit diesen makabren Drehbüchern aus den Filmen über den Aufstand der Maschinen zu tun haben. Sie entstehen vielmehr aus einer Diskrepanz zwischen dem, was wir unseren Systemen vorschreiben, und dem, was wir tatsächlich von ihnen erwarten.
Künstliche Intelligenz birgt sowohl den Fortschritt als auch das Risiko eines möglichen Rückschritts und des Todes der Zivilisation in sich
Probleme entstehen jedoch dadurch, dass Systeme wirklich leistungsstark sind des gesetzten (oder gesetzten) Ziels; aber das Ziel, das sie in ihrer Lernumgebung gelernt haben, ist nicht das Ergebnis, das Wissenschaftler eigentlich erreichen wollten.
& # 171; Als Ergebnis schaffen wir Systeme, die wir nicht verstehen, was bedeutet, dass Wir können ihr Verhalten nicht immer vorhersagen, – so die Forscher.
Lesen Sie weitere interessante Artikel zur Entwicklung und Funktionsweise von KI auf unserem Kanal in Yandex.Zen. Es werden regelmäßig Artikel veröffentlicht, die nicht auf der Website sind!
Potenzielle KI-Bedrohungen
Nun, hier kommen wir zu den interessantesten. Wenn Wissenschaftler tatsächlich vor den oben beschriebenen Herausforderungen stehen, welche Bedrohungen könnten uns dann die neuesten KI-Entdeckungen bringen? Tatsächlich stellen immer mehr Forscher unsere Fähigkeit in Frage, die Superintelligenz zu kontrollieren, zu der die von uns trainierten Systeme potenziell werden können.
Tatsache ist, dass es einer Nachahmung dieser Superintelligenz bedarf, die wir analysieren können, um einen Supermind zu kontrollieren, der weit über das menschliche Verständnis hinausgeht. Aber wenn wir diese Systeme nicht verstehen können, ist es unmöglich, eine solche Simulation zu erstellen. Darüber hinaus können wir nicht einmal die von Isaac Asimov vorgeschlagenen Regeln aufstellen – “um Menschen nicht zu schaden”. Wenn wir nicht verstehen, welche Szenarien sich die KI ausdenken wird, wie können wir sie dann verhindern?
Sobald das Computersystem mit einem Niveau, das die Fähigkeiten unserer Programmierer übersteigt, können wir keine Grenzen mehr setzen, schreiben die Autoren einer im Journal of Artificial Intelligence Research veröffentlichten Studie.
Das Problem bei der Entwicklung der KI ist, dass sie sich von unserem Helfer in unseren Feind verwandeln kann
Nicht verpassen: Künstliche Intelligenz hat einen Artikel für die Website geschrieben. Es stellte sich als realistisch und gruselig heraus.
Interessanterweise gehen einige der in der wissenschaftlichen Arbeit beschriebenen Argumentationen auf die Arbeiten von Alan Turing im Jahr 1936 zurück. Unter Verwendung komplexer mathematischer Gleichungen entwickelte er eine abstrakte Rechenmaschine, die die Definition eines Algorithmus formalisierte.
Mit anderen Worten, er versuchte zu verstehen, ob es möglich ist, ein Problem mit mathematischen Algorithmen zu lösen (und auch solche, die nur durch rohe Gewalt gelöst werden können). Turing selbst glaubte, dass Maschinen im Jahr 2000 in 30 % der Fälle in der Lage sein würden, Menschen zu täuschen.
Beschreibung & # 171; Turing-Maschinen & # 187; ermöglichte es den Wissenschaftlern schließlich, diese komplexen Probleme anzugehen. Was eine Turing-Maschine ist, erfährst du auf der offiziellen Website der University of Cambridge.
Alan Turing hatte einen großen Einfluss auf die Entwicklung von Systemen der künstlichen Intelligenz
Ein weiteres Problem der Superintelligenz ist, dass jedes Programm, das geschrieben wurde, um eine KI zu stoppen, die alle Menschen töten will, & # 171; verstehen kann & # 187; dieses Programm (und stoppen) oder nicht. Die Quintessenz ist, dass wir mathematisch nicht absolut sicher sein können, was das Programm ausgeben wird. Das bedeutet ganz einfach, dass das -Programm & # 171; alle & # 187; wird unmöglich sein, einzudämmen .
Sie werden sich fragen: Kann künstliche Intelligenz die Menschheit bis 2035 zerstören?
Und wenn nicht die Welt?
Die Alternative, der KI etwas Ethik beizubringen und ihr zu sagen, dass sie die Welt nicht zerstören soll – wo kein Algorithmus absolut sicher sein kann – besteht darin, die Macht der Superintelligenz zu begrenzen . Zum Beispiel kann es von einigen Teilen des Internets oder von bestimmten Netzwerken getrennt werden.
Eine andere aktuelle Studie lehnt diese Idee jedoch ab, da sie darauf hindeutet, dass künstliche Intelligenz begrenzt ist. Dieses Argument lautet: Wenn wir keine KI verwenden, um Probleme zu lösen, die die menschlichen Fähigkeiten übersteigen, warum dann überhaupt eine erstellen?
Wenn wir eine Zukunft aufbauen wollen, in der KI-Systeme präsent sein werden, wissen wir vielleicht nicht einmal, wann eine Superintelligenz außerhalb unserer Kontrolle auftauchen wird , so unverständlich ist sie. Und da wir uns bemühen, eine Superintelligenz zu schaffen, ist es an der Zeit, ernsthafte Fragen über die Richtungen zu stellen, in die sich die Entwicklung dieser Technologien bewegt.
Technologien können sowohl zum Nutzen des Menschen eingesetzt werden als auch umgekehrt. Vergessen wir das nicht
Die superintelligente Maschine, die die Welt regiert, klingt nach Science-Fiction“, sagt Manuel Sebrian vom Max-Planck-Institut für Bildungsforschung. Aber heute gibt es schon Maschinen, die bestimmte wichtige Aufgaben selbstständig erledigen, ohne dass die Programmierer ganz verstanden haben, wie sie das gelernt haben Moment, unkontrollierbar und gefährlich für die Menschheit zu werden? Elon Musk zum Beispiel denkt wie der britische theoretische Physiker Stephen Hawking ja. Was denkst du darüber? Wir warten hier sowie in den Kommentaren zu diesem Artikel auf die Antwort!