Referenten auf der Konferenz Neural Information Processing Systems-Experten im Bereich der künstlichen Intelligenz erklärt, dass Sie nicht mehr verstehen das Prinzip der Entscheidungsfindung, die KI geführt wird, berichtet Quartz. Nach Meinung von Experten, Aktionen für selbstverständlich KI ohne Verständnis seiner Logik — ziemlich leichtsinnig, denn um die Menschen nahmen die Modelle des maschinellen Lernens, Sie sollten wissen, was genau KI geführt wird, zu entscheiden, wie genau sollte er tun in einer bestimmten Situation.
Oft Entscheidungen, die KI, die voreingenommen sind, darüber hinaus die assoziative «denken» ist auch oft nicht so ideal, was die KI veranstaltet falsche Analogie. Solche Fehler können teuer werden, wenn die KI wird die Leitung von komplexen Projekten, so zum Beispiel, wie ein Flug zum mars — in diesem Fall eine falsche Tat eine künstliche Intelligenz kann nicht nur teure Hardware zerstören, sondern auch dazu führen, den Tod von Menschen. Deshalb, bevor Sie die AI selbständig wichtige Entscheidungen zu treffen, müssen Sie zuerst lernen, die Prinzipien, nach denen er geführt wird, erklärt Maître Raghu, ein Spezialist für die KI von Google.
Auf der Konferenz stellte Sie einen Bericht, in dem beschrieben Prozess der Verfolgung der Tätigkeiten der einzelnen Teile неросети. Отсматривая Sie Stück für Stück, können Sie verstehen die Logik der KI, und dann, wenn etwas geschieht, und подкоректировать. Durch die Analyse von Millionen von Transaktionen, es könnte sich herausstellen, einzelne искуссственные «Neuronen», die konzentrierten sich auf die falschen Vorstellungen, und dann schalten Sie Sie ab, indem Sie die KI mehr entgegenkommend und korrekt.
Es ist etwas ähnlich wie der Lehrer tritt irgendein Material, und dann bittet die Schüler Geschichte mit eigenen Worten erzählen, was genau er aus der Vorlesung verstanden hat, erklärt Kiri Вагстафф KI-Experte der NASA.
Nach den Ergebnissen dieser Studie, richtig zu verstehen Aktionen искуссственного интелеекта nicht so schwierig. Die Hauptsache — das Problem zu lösen, bevor es zu spät ist.
Wie genau die KI entscheidet? Wissenschaftler haben aufgehört, es zu verstehen
Vyacheslav Larionov