Talare på konferensen Neurala System för Databehandling, experter på området artificiell intelligens har sagt att de inte längre förstår principen för beslutsfattande styrs av en AI, rapporter Kvarts. Enligt experter, för att acceptera åtgärder AI utan att förstå dess logik — ganska lätt på, trots allt, att acceptera en machine learning model, de måste veta exakt vad det är som styrs av AI när man beslutar hur man ska bete sig i en viss situation.
Ofta är de beslut som fattas av AI, är partisk, dessutom, associativ “tänkande” är också ofta mindre bra, vilket resulterar i AI utföra en felaktig analogi. Sådana fel kan bli dyrt om AI kommer att vara att leda komplexa projekt, såsom till exempel, som en resa till Mars — i det här fallet, är det fel artificiell intelligens kan inte bara förstöra dyr utrustning och leda till döden. Därför, innan du låter AI att göra sina egna viktiga beslut, måste du först lära dig de principer, som vägleder, förklarar Master Raghu, en specialist i AI från Google.
På konferensen, som hon lade fram en rapport som beskrivs processen för att spåra åtgärder av enskilda delar av neroli. Genom att titta på hela deras delar, är det möjligt att förstå logiken i AI, och då, om något, att korrekturläsa. Genom att analysera miljontals transaktioner, var det möjligt att identifiera enskilda iskusstvennye “neuron”, som fokuserade på felaktiga åsikter, och sedan stänga av dem, vilket gör att AI mer begripligt och korrekt.
Det här är något liknande till hur läraren levererar de material, och sedan ber studenten att återberätta med egna ord vad han förstod från föreläsningen, förklarar Kiri Wagstaff AI expert från NASA.
Att döma av resultaten av denna studie, för att rätt förstå de åtgärder som iskusstvennogo intellekta inte så svårt. Det viktigaste — att lösa problemet innan det är för sent.
Exakt hur AI fattar beslut? Forskarna inte längre förstår det
Vyacheslav Larionov