Foto: Tomohiro Ohsumi (Getty)
Kunstig intelligens er allerede begynner å spiral ut av kontroll, og en ny rapport fra toppen forskere advarer. Ikke så mye i en Skynet slags forstand, men mer i en “- teknologi selskaper og regjeringer allerede bruker AI på måter som forsterker opp overvåking og ytterligere marginalisere sårbare bestander’ slags måte.
På torsdag, den AI Nå Institute, som er tilknyttet New York University, og er hjem til toppen AI forskere med Google og Microsoft, har utgitt en rapport med detaljer, i hovedsak, staten AI i 2018, og flåten av urovekkende trender som utspiller seg i feltet. Det vi generelt definerer som AI—maskinlæring, automatiserte systemer, etc.—er i ferd med å utvikles raskere enn våre regulatoriske systemet er forberedt på å håndtere, sier rapporten. Og det truer med å konsolidere makten i tech selskaper og undertrykkende regjeringer som distribuerer AI mens rendering bare om alle andre er mer sårbare for sine legninger, kapasitet for overvåkning, og utallige dysfunksjoner.
Rapporten inneholder 10 anbefalinger for beslutningstakere, alle som synes lyd, så vel som en diagnose av de mest potensielt destruktive tendenser. “Myndighetene må regulere AI,” den første anbefaling formaner, “ved å utvide myndigheten til sektor-spesifikk byråer til å føre tilsyn, revisjon og overvåke disse teknologiene av domenet.” En massiv Avdeling av AI eller slike som forsøker å regulere feltet stevning store vil ikke kutte den, forskere advarer—rapporten antyder regulatorer følger eksempler som ett sett av Federal Aviation Administration og takle AI som det manifesterer seg av feltene.
Men det også formidler en konsis og vurdering av de viktigste problemområder i AI som de står i 2018. Som beskrevet av AI Nå, de er:
- Den ansvarlighet gap mellom de som bygger AI systems (og profitt ut av dem) og de som står å være påvirket av systemer (deg og meg) er økende. Liker ikke tanken på å bli utsatt for kunstig intelligente systemer som høste dine personlige data, eller bestemme ulike resultater for deg? For dårlig! Rapporten finner at regress de fleste offentlige borgere har til å ta det veldig kunstig intelligente systemer som kan påvirke dem er krympingen, ikke økende.
- AI blir brukt til å forsterke overvåking, ofte i grusomme måter. Hvis du tror overvåking kapasitet på facial anerkjennelse teknologi er urovekkende, vent til du ser enda mindre samvittighetsfulle fetter, påvirker anerkjennelse. Skjæringspunktet er Sam … Flere har en god skrive-up av rapportens behandling av påvirke anerkjennelse, som er utgangspunktet modernisert phrenology, praktisert i sanntid.
- Regjeringen satser på autonom beslutning programvare i navnet av kostnadsbesparelser, men disse systemene er ofte en katastrofe for vanskeligstilte. Fra systemer som gir seg ut for å effektivisere fordeler program prosesser online til de som hevder å være i stand til å avgjøre hvem som er kvalifisert for boliger, såkalte ANNONSER systemer er i stand til å laste opp bias og feilaktig avvise søkere på grunnløse grunnlag. Som Virginia Eubanks detaljer i hennes bok Automatisere Ulikhet, folk disse systemene svikter, er de som er minst i stand til å mønstre den tid og de ressurser som er nødvendig for å løse dem.
- AI-testing “in the wild” er frodig allerede. “Silicon Valley er kjent for sine” flytt raskt og bryte ting ” – mentalitet,” rapporten peker på, og som fører til selskaper testing AI-systemer i offentlig sektor—eller slippe dem inn i forbrukeren plass direkte—uten betydelig overvekt. Den siste track record av Facebook—den opprinnelige bevege seg raskt, bryte thingser og AI evangelist—alene eksempel er nok av grunnen til at denne strategien kan bevise katastrofale.
- Teknologiske løsninger til partisk eller problematisk AI-systemer viser seg å være utilstrekkelige. Google laget bølger når det annonsert at det var håndterer etikk maskinlæring, men tiltak som disse er allerede beviser for smal og teknisk orientert. Ingeniører har en tendens til å tenke at de kan løse tekniske problemer med, vel, mer engineering. Men hva er det egentlig nødvendig, rapporten argumenterer for, er en mye dypere forståelse av historien og sosiale sammenhenger av datasett AI-systemer er trent på.
Hele rapporten er vel verdt å lese, både for en tur på utallige måter AI inn i den offentlige sfære—og kolliderte med den offentlige interesse—i 2018, og for en detaljert oppskrift for hvordan våre institusjoner kan bo på toppen av denne stadig kompliserer situasjonen.
Denne historien er en del av Automat, en pågående undersøkelse av virkningene av AI og automatisering på det menneskelige landskapet. For tips, tilbakemeldinger eller andre ideer om å leve med roboter, jeg kan nås på bmerchant@gizmodo.com.
Deler Denne Historien