Præcis hvordan AI træffer beslutninger? Forskere ikke længere kan forstå det

Talerne på konferencen Neurale edb-Systemer, eksperter inden for kunstig intelligens har udtalt, at de ikke længere forstår princippet af beslutningsprocessen er styret af AI, rapporter Kvarts. Ifølge eksperter til at acceptere, at handlinger af AI-uden at forstå dens logik — temmelig let, trods alt, til at acceptere en machine learning model, de har brug for at vide præcis, hvad der er styret af AI, når de beslutter, hvordan det skal opføre sig i en given situation.

Ofte er de beslutninger, der træffes af AI, er forudindtaget, ud over, associative “tænkning” er også ofte mindre ideel, hvilket resulterer i AI udføre en forkert analogi. Sådanne fejl kan være dyre, hvis AI vil være at lede komplekse projekter, herunder for eksempel, som en tur til Mars — i dette tilfælde de forkerte ting kunstig intelligens kan ikke kun ødelægge dyrt udstyr og føre til døden. Derfor, før du tillader AI til at gøre deres egne vigtige beslutninger, du skal først lære de principper, som guider, forklarer Master Raghu, en specialist i AI fra Google.

På konferencen, som hun præsenteres i en rapport, som beskrev processen med at spore handlinger individuelle dele af neroli. Ved at se på hele deres dele, er det muligt at forstå logikken i AI, og derefter, hvis der er noget, og til at læse korrektur. Ved at analysere millioner af transaktioner, der var i stand til at identificere de enkelte iskusstvennye “neuroner”, som fokuserer på forkerte synspunkter, og derefter deaktivere dem, der gør AI mere medgørlige og korrekte.

Dette er en noget lignende til, hvordan læreren leverer materialet og derefter beder de studerende til at genfortælle med dine egne ord, hvad han forstod fra foredrag, forklarer Kiri Wagstaff AI ekspert fra NASA.

At dømme efter resultaterne af denne undersøgelse, at korrekt forstå de tiltag, iskusstvennogo intellekta ikke så svært. De vigtigste ting — at løse problemet, før det er for sent.

Præcis hvordan AI træffer beslutninger? Forskere ikke længere kan forstå det
Vyacheslav Larionov


Date:

by