Foto: Getty
Har en plan om å spore og forutsi oppførselen til ex-ulemper ved hjelp av kunstig intelligens? The US Department of Justice, er alle ører.
I forrige uke, Justisdepartementet kunngjorde det var utdeling opp til $3 millioner for kunstig intelligens prosjekter som fremmer “vellykkede reentry av lovbrytere under fellesskapet tilsyn.” Oppfordring til fou forslag preger programmet som en måte “å redusere kriminalitet og for å beskytte politiet, andre offentlige sikkerhet personell, og det offentlige.” Det høres kanskje uskyldig nok—til du hører Justisdepartementet er eksempler.
Mens presentert som tiltak for å hjelpe tidligere fanger fra å bli arrestert igjen og satt tilbake i fengsel, noen av de “potensielle programmer” av AI oppført i dokumentet er bekymringsfullt invasiv.
En av tre som tilbys eksempler er mer uskyldige enn andre. Kategorisert som “Mobile Service Levering,” dette programmet er beskrevet som ved hjelp av kunstig INTELLIGENS for å tilby lovbrytere personlige ressurser gjennom sine telefoner. Dette kan omfatte å sende dem informasjon om montering reentry programmer eller ekstern node eller mentor støtte.
Den andre måter i som den AMERIKANSKE regjeringen håper å bruke kunstig INTELLIGENS for å redusere tilbakefall er langt mindre opptatt av å utvikle personlige ressurser for lovbrytere, og i stedet signal om en fremtid der korreksjoner etater lene seg på teknologi til å spore og forutsi lovbrytere’ atferd i real-time. Et slikt eksempel såkalte “Situationally Avhengige, Real-time Oppdateringer til en Lovbryter er Risiko-trenger-responsivity Vurdering”—innebærer bruk av AI til å identifisere når en lovbryter er i en høy-risiko situasjon og sende real-time oppdateringer til både tilsyn offiserer og lovbrytere seg selv.
Det mest foruroligende idé detaljert i dokumentet, men er referert til som “Intelligent Gjerningsmannen Tracking”, som ville bruke ankelen overvåke data til å oppdage “og muligens forutsi” lovbrytere ” oppførsel. Justisdepartementet antyder er dette data som kan brukes til å automatisk varsle en føre tilsyn med leder, mentor, eller gjerningsmannen hvis de bruker tid på steder forbundet med risikofylt atferd. Sistnevnte kan innebære en “chat bot system” som er ment å deescalate situasjonen gjennom telefonen.
“AI-initiert tiltak kan også varsle den som har forbrutt seg gjennom sine mobile enheten til å foreslå en avkjølingsperiode på en trygg plass, eller å fremme atferd modifikasjon teknikker,” dokumentet stater.
Ikke alle av disse forslagene er iboende dårlig, slik som å tilby en eks-fange personlig, tilgjengelige ressurser til en uavhengig (og ikke-invasiv) til å hjelpe seg selv. Men anvendelsen av kunstig INTELLIGENS for å forutsi oppførselen til lovbrytere og sende informasjon i sanntid for å rettelser offiserer er en strategi som kun serverer de gjør det politiarbeid.
Bortsett fra det helt åpenbare invasjon av privatliv, det er rikelig med bevis som indikerer at criminal justice AI er fortsatt veldig mye partisk, og det er disse partisk systemer som korrigeringer ledere og mentorer kan være blindt stole på å forutsi risikofylt atferd som ikke engang har skjedd ennå. Selvfølgelig, det vinnende forslag har ennå til å bli valgt, men en oppfordring indikerer typen av påtrengende prosjekter etater som kan være mest interessert i. I henhold til dokumentet, og alle trening data vil også bli gitt til Justisdepartementet, “sammen med detaljert gjennomføring instruksjoner.”
[h/t Logan Koepke]
Deler Denne Historien