Flere AMERIKANSKE retshåndhævende myndigheder bruger analytics-software til at identificere potentielle kriminelle, men der er meget lidt kontrol og ingen bevis for, at de data, der er pålidelig
Analytics-systemer kan bruges til at forudsige terrorangreb, og flag mistænkte forbrydere. Men forskere hævder, at de også kan befæste fordomme og aggressivt mål kraftløs grupper.
Foto: John J Kim/Zuma Press/Corbis
@jathansadowski
Torsdag 4. februar 2016 12.30 GMT
Sidst opdateret torsdag den 4 februar 2016 18.26 GMT
En politibetjent står på hjørnet af en travl skæringspunktet, scanning mængden med sin krop kamera. Foderet er live-streamet i Real Time Crime Center på institut hovedkvarter, hvor specialiseret software bruger biometriske anerkendelse for at afgøre, om der er personer af interesse på gaden.
Data analytikere advarer officer, at en mand med en usædvanlig høj trussel score er blandt mængden; den officer tilgange ham til at levere en “custom” anmeldelse”, og advarer ham om, at politiet ikke vil tolerere, at kriminel adfærd. Han er nu registreret i en database over potentielle lovovertrædere.
Overhead, et let fly udstyret med en vifte af overvågningskameraer, der flyver rundt i byen, vedvarende holde vagt over hele sektorer, optager alt, hvad der sker og tillader politiet at stoppe, spole tilbage og zoome ind på bestemte personer eller køretøjer …
Intet af dette er techno-paranoia fra sindet af Philip K Dick eller Sort Spejl, men snarere eksisterende teknologier, der allerede er ved at blive standard dele af politiarbejdet.
California byen Fresno er blot en af politiets afdelinger i USA, der allerede er ved hjælp af et software program, der hedder “Pas på” til at generere “trussel scores” om en person, adresse eller område. Som rapporteret i Washington Post i januar, den software, der virker ved behandling “for milliarder og millioner af datapunkter, herunder anholdelse rapporter, ejendom optegnelser, kommercielle databaser, dybt web-søgninger, og [person] sociale medier posteringer”.
En brochure for Pas anvender en hypotetisk eksempel på en veteran, der er diagnosticeret med PTSD, der angiver, at de også tager hensyn til sundhed-relaterede data. Scores er farvekodede, så medarbejdere kan vide, på et øjeblik, i hvilket niveau den trussel, er: grøn, gul eller rød.
Chicago er computer-genereret varme liste profileret potentielle kriminelle, som hovedsagelig er mistænkte for forbrydelser som endnu ikke er begået
Dette er blot én af mange nye teknologier, der kan lette “data-drevet politiarbejde”. Samlingen af enorme mængder af data til brug med analytics-programmer giver mulighed for politiet til at indhente data fra næsten enhver kilde, og for næsten enhver årsag.
Den hellige gral er ‘predictive policing’
“Snart vil det være praktisk og økonomisk muligt for regeringen at optage, gemme og analysere næsten alt, hvad vi gør,” skriver jura-professor Elizabeth Joh på Harvard Law & Policy Review. “Politiet vil stole på alarmer genereret af computer programmer, der finkæmme gennem massive mængder af information til mønstre af mistænkelig aktivitet.”
Den hellige gral af data-drevne analytics kaldet “predictive policing”, der anvender statistiske modeller til at fortælle officerer, hvor kriminalitet er tilbøjelige til at ske, og der er tilbøjelige til at begå det.
I februar 2014, Chicago police department (CPD) tiltrukket sig opmærksomhed, når officerer præventivt, besøgte beboerne på en computer-genereret “varme liste”, som markeret dem som må forventes at blive inddraget i en kommende voldelig kriminalitet. Disse mennesker havde gjort noget galt, men BYGGEVAREDIREKTIVET ønskede at lade dem vide, at officerer ville være at holde styr på dem.
I det væsentlige, de var allerede betragtes som mistænkte for forbrydelser som endnu ikke er begået.
Fra Fresno til New York og Rio til Singapore, data analytikere sidde ved roret i futuristisk kontrol værelser, drevet af systemer som for eksempel IBM ‘s Intelligent Operations Center og Siemens’ City Cockpit. Skærme rør i feeds fra flere hundrede eller endda tusindvis af overvågningskameraer i byen.
Er det virkelig løftet om en “smart city”?
Disse analytikere har adgang til massive databaser borgernes journaler. Sensorer, der er installeret rundt omkring i byen opdage gående trafik og mistænkelige aktiviteter. Software-programmer til at køre analytics på alle disse data med henblik på at generere alarmer og “aktive indsigter”.
Hverken IBM eller Chicago Police Department reageret på en anmodning om at kommentere. Men det er den nye model af, hvordan politiarbejde skal udføres i en æra af “smarte byer”?
Disse analyser kan bruges til stor effekt, potentielt forbedre mulighederne for politiet til at træffe mere velinformerede, mindre partiske afgørelser om retshåndhævelse. Men de er ofte brugt i tvivlsomme måder og for undertrykkende formål. Det er uklart, – især for analytics-værktøjer, der udvikles og sælges af private tech virksomheder – præcis hvordan de selv arbejder.
Hvilke data der er de at bruge? Hvordan er de vejer variabler? Hvilke værdier og fordomme er kodet i dem? Selv de virksomheder, der udvikler dem kan ikke besvare alle disse spørgsmål, og hvad de gør ved, ikke kan videregives på grund af forretningshemmeligheder.
Så når politiet siger, at de er at bruge data-drevne teknikker til at træffe smartere beslutninger, hvad de virkelig mener er, at de er afhængige af software, der spytter scores og modeller, uden nogen reel forståelse af, hvordan. Dette viser en enorm tro på rigtigheden af analytics.
De berørte mister deres ret til individualiseret behandling, som systemer, der behandler dem som en blot og indsamling af data punkter
Det er absurd, at politiet ikke at vide, hvilke beslutninger, mål, værdier og fordomme er bagt ind i analytics, de bruger. Det tilslører de faktorer og beslutninger, der har indflydelse på, hvordan politiet fungere – også selv at det er politiet selv, og betyder, at disse metoder ikke er åbne for kontrol af offentligt tilsyn og ansvarlighed.
Men selv i lyset af kontroversen, politiet fortsætter med at bruge og forsvare disse teknologier, når spørgsmålstegn ved den offentlighed, medier og politikere.
I modsætning til det fælles forsvar travede ud af teknokrater, de domme, der er produceret af de algoritmer, der af big data analytics er ikke objektive dommere i skøn og straf. Snarere, at de nemt blive måder af hvidvaskning subjektiv, fordomsfuld beslutninger i tilsyneladende objektive vurderinger.
Mange forskere og advokater har argumenteret for, at teknikker som predictive policing ikke så meget at se fremtiden som forankre og begrunde mangeårige praksis af racemæssig profilering i politiarbejde visse by-kvarterer, aggressivt målretning allerede kraftløs grupper.
It-værktøjer er ikke skabt uden politik eller fordomme
De berørte mister deres ret til individualiseret behandling og forståelse, som de tekniske systemer behandle folk, som blot indsamling af data punkter.
Desuden, ved at integrere disse teknologier dybere ind i deres drift, som politiet er ved at åbne vejen for selskaber at have uforholdsmæssig stor indflydelse på, hvad politiarbejde betyder i samfundet. Teknologier er ikke bare neutrale værktøjer, og de er ikke skilt fra politik; de er designet med bestemte værdier og mål i tankerne. Og når store virksomheder og iværksættere nystartede fastsætte de mål og værdier, du er tilbøjelige til at ende op med politi modelleret efter teknokratisk motivationer for den samlede effektivitet og kontrol.
Det er sigende, at de virksomheder, der skaber disse analytics-programmer sælge modificerede versioner af deres software til mere end bare politiet. Som Opfange rapporterede i oktober 2015, de samme typer af analytics bruges fra marketing til militæret, i det væsentlige, Pentagon bruger en data-program til at overvåge dronerne på samme måde, virksomheder overvåge kunder.
IBM har sin egen vision af en internet-tilsluttet verden, og dens “Smarter Planet” – koncept, der sker for at sikre overensstemmelse med målene for virksomhed, militæret og politiet. Samtidig sit program har allerede blevet solgt til retshåndhævelse, det er også ved at udvikle systemer til at behandle flygtninge og endda forudsige terrorangreb.
Mange forskere har dokumenteret, hvordan politiet er i stigende grad technologized og militariseret. Entusiastiske og hurtig vedtagelse af data-drevet analytics er sket på bekostning af meningsfuldt input fra offentligheden, der sikrer mod fejl og andre basale procedurer for ansvar.
Spørgsmålet er: er disse teknologier præcise, relevante og legitime?
Vores regeringer og politiet er allerede implementering af denne teknologi, og har brug for at blive holdt til regnskab. Denne teknologi opfordrer politiet til at se det offentlige som en trussel, som kriminelle i vente. Disse uigennemsigtige procedurer og tvivlsomme resultater skal være undersøgt, før effektiviteten af forbundet data er brugt til at retfærdiggøre at tage magten fra borgere og yderligere koncentrere det i politiets styrker.