Flytte for at bruge software, der kan facial anerkendelse beder bekymringer om beskyttelse af privatlivets fred og introduktion af bias
Søn 27 Maj 2018 15.36 BST
Sidst ændret på Søn 27 Maj 2018 22.00 BST
En mistænkt har hans lommer søgte ved politiet tæt på Elephant and Castle station i London.
Foto: Carl Court/Getty Images
Kunstig intelligens-software i stand til at fortolke billeder, der matcher ansigter og analysere mønstre af kommunikation er at blive styret af det BRITISKE politi for at fremskynde behandlingen af mobiltelefoner beslaglagt i efterforskning af kriminalitet.
Cellebrite, den Israelsk-grundlagt og nu Japansk-ejet selskab, som står bag nogle af softwaren, hævder en bredere udrulning ville løse problemer med manglende vilje til at udlevere afgørende digitale beviser, som har ført til sammenbrud af en serie af voldtægt, forsøg og andre retsforfølgning i de seneste år. Men flytningen af politiet har bedt om bekymringer over privatlivet, og potentialet for software til at introducere bias i behandling af bevismateriale i straffesager.
Som politi og advokater kamp for at klare den eksponentielle stigning i datamængder, der genereres af telefoner og bærbare computere i endnu rutine kriminalitet, jagten på en teknologisk løsning til at håndtere stadig mere uoverskuelig arbejdsbyrde. Nogle kræfter har forstået efterslæb på op til seks måneder for at undersøge downloades mobiltelefon indhold.
Brug af AI og machine learning er langsomt breder sig i politiets arbejde, men det er stadig kontroversielt i områder, såsom intelligent politiarbejde. Durham politi har eksperimenteret med AI til at vurdere egnetheden af mistænkte for løsladelse mod kaution.
Tidligere i år formand for den Nationale Politichefer Råd, Sara Thornton, sagde, at hendes organisation arbejder med Anklagemyndigheden om udlevering problemer og kunne udforske machine learning og AI-løsninger.
Q&A Hvad er AI?
Vis
Skjul
Kunstig Intelligens har forskellige definitioner, men i almindelighed det betyder, at et program, der anvender data til at bygge en model af nogle aspekter af verden. Denne model er derefter brugt til at træffe informerede beslutninger og forudsigelser om fremtidige begivenheder. Den teknologi, der er udbredt, til at levere tale, og ansigtsgenkendelse, oversættelse, og personlige anbefalinger på musik -, film-og shopping steder. I fremtiden, det kunne levere førerløse biler, smart personlige assistenter, og intelligente energinet. AI har potentiale til at gøre organisationer mere effektive, men den teknologi, rejser alvorlige spørgsmål om etik, ledelse, privatlivets fred og ret.
Var dette en hjælp?
Tak for din feedback.
Cellebrite siger, at det har været at arbejde med en halv snes BRITISKE styrker, herunder Metropolitan police, afprøvning af sofistikeret software til at hjælpe processen digital dokumentation taget fra mobiltelefoner og computere. Virksomheden kunne ikke nævne de andre kræfter, der siger, på grund af kommercielle hemmeligholdelsesaftaler. De Mødte bekræftet, det har været at undersøge, AI udvikling med Cellebrite.
Indtil nu udtrukket data har været rutinemæssigt i form af PDF-dokumenter, der kører nogle gange i titusindvis af sider. Derimod er det nyeste system, der sælges af Cellebrite, kaldet Analytics-Virksomheden, gør det, det er hævdet, officerer til at udføre sofistikeret filtrering, visualisere, sociale netværk og foder i data fra flere telefoner til at fremhæve, via geo-tagging data, når folk var på samme sted på samme tid.
Indbygget AI algoritmer sætte billeder og videoer for at blive mærket efter, om indholdet omfatter våben, ansigter, biler, nøgenhed, stoffer, flag og andre kategorier. Systemet kan også udtrække tekst fra skærmbilleder.
“Politifolk er under bjerge af sager, de har til at efterforske, og at de ikke har tid eller viden til at gå gennem alt,” sagde David Golding af Cellebrite. “Hvis du præsentere det på en mere forståelig måde, vil det være meget lettere.”
Mens AI-software kan præsentere materialet i en mere forståelig og tilgængelig form, er det usandsynligt, advokater siger, at tilvejebringe en simpel rettelse til offentliggørelse problemer. Politi og anklagere, der har stress, at de ikke kan udlevere alle indlæste data i en undersøgelse, at tiltaltes advokater, men skal skærmen dokumentation for relevant, fortrolighed og et væld af andre juridiske spørgsmål.
Nick Baker, deputy chief constable af Staffordshire politiet og føre officer på digital forensics for den Nationale Politichefer Råd, bekræftet, at en række styrker, herunder sit eget, arbejder på AI-system.
“AI er den næste bit-vi er ved at undersøge,” sagde han. “Det er tidlige dage med hensyn til dens anvendelse. Dette er et område, som politiet er nødt til at se på, nænsomt og pro rata.”
Simpelthen at ansætte mere personale for en “manuel løsning,” at de enorme mængder af digitale data, der bliver produceret, er “ikke muligt”, ” Baker sagde. “AI er ikke et universalmiddel, men det er en del af løsningen,” sagde han.
“Det vil have til at blive brugt i et sæt af standarder, der giver tryghed til de domstole, således at virkeligheden af, hvad maskinen gør, er forstået. Der er mange problemer med videregivelse men hastigheden af behandlingen af data er en af dem, og jeg vil helt sikkert hjælpe med det.”
Baker sagde, at han satte stor pris på, at der var bekymring om bias, pålidelighed og privatliv, men at der ville i sidste ende altid være menneskelig kontrol af AI undersøgende systemer – som han forventer at blive “en del af det almindelige politiarbejde”.
Han vidste ikke, om AI har endnu ikke været brugt på aktive sager: “retssagen er, hvor det sad ved siden af mere traditionelle processer for at fastslå dens pålidelighed. Dette er ikke bare noget magisk løsning, hvor politiet læne sig tilbage og lade en robot, sortere det ud.”
De algoritmer, der er allerede er ved at ændre dit liv
Læs mere
Millie Graham Wood, en advokat på kampagne-gruppe Privacy International, sagde: “brugen af AI og machine learning er yderst kontroversiel. Det er så uigennemsigtigt. Hvilke konsekvenser har det for de mennesker, hvis navne kommer op i disse meddelelser? Det vil være som bander matrix, der anvendes af politiet. Der er store problemer med databaserne politiet hold allerede.”
Corey Stoughton, fortalervirksomhed director, Liberty, sagde: “endnu en Gang politiet synes at være hemmeligt vedtagelse radikalt ny teknologi, som truer vores privatliv og digital sikkerhed, uden demokratisk opsyn eller diskussion.
“Kraftfulde værktøjer som dette kunne betyde, at voldtægtsofre er dobbelt så vi bliver ramt af unødig indtrængen i deres privatliv, eller at bias er bygget ind i beslutninger om, hvad der er relevant og hvad er ikke. Indenrigsministeren skal stoppe gør politiet til at ‘forsøget’ potentielt skadelige teknologier uden først at lade parlamentet og den offentlige mening.”
En talsmand for Metropolitan police siger: “i Løbet af de seneste to år har vi været proaktivt at udforske mere avanceret kunstig intelligens-systemer, der vil forbedre vores undersøgende kvalitets-og hjælpe os til bedre at beskytte de mest sårbare i samfundet, samtidig med at lovovertræderne mere hurtigt.
“På et tidspunkt, gjorde dette omfatter kontakt med Cellebrite for cirka seks måneder sidste år – dette var imidlertid ikke indgået, men som en del af den løbende forskning i business forbedring og udvikling. Vi er i øjeblikket ved at vurdere mulighederne for en anden rettergang inden for dette område.”
Indenrigsministeriet har afvist at kommentere.
Hvordan Analytics-Virksomheden virker
Cellebrite ‘ s system, har face-recognition software, hvilket betyder, at politiet kunne indgå i et fotografi af en person, der af interesse at se, om de dukker op i mobiltelefon billeder. En hel database af billeder kan også blive fodret gennem software, i henhold til Cellebrite.
Machine learning-algoritmer har trænet software til at genkende billeder af udnyttelse af børn, det er forstået. En sådan facilitet, virksomheden siger, reducerer behovet for politiet at få vist så mange billeder af overgreb på børn, da visuelle sammenligninger er automatiseret. “[Politiet] nødt til at se disse billeder, som er utroligt forfærdelig,” siger Golding.
“Brug af et system som dette, behøver de ikke at gøre det. Hvis du har billeder af et rum, hvor et offer var, og der var en plakat, vi kan se efter denne plakat på alle de andre billeder. Det kan spare måneder for at forsøge at gå igennem det.”
Det system, virksomheden hævder, er et stærkt værktøj til at udsætte forbindelser og mønstre i bande-relaterede forbrydelser. Det er allerede brugt af nogle af OS og politiet.
Cellebrite leverer allerede self-service automaterne til at BRITISKE politi, at officerer, der bruges til at hente indholdet af mobiltelefoner, bærbare computere og andre enheder, så de kan forfølge undersøgelser.
Virksomheden tilbyder også uddannelse og støtte til politiets high-tech forbrydelser enheder og kører en service at frigøre krypterede mobiltelefoner til retshåndhævende myndigheder. Sit lager i Israel efter sigende indeholder 23,000 typer af mobiltelefoner. Indtil januar, da det åbnede en ny enhed i London, mobiler, hvis sikkerhed var svært at knække, blev sendt til Cellebrite ‘ s kontorer i München.
“Det største problem er, at der er så meget data og politiet er under et enormt pres,” Golding sagde. “Arbejdskraft, der er blevet skåret i, og på grund af 28-dages kaution [grænser], de har brug for til at løse sager meget hurtigere.”
Disse typer af teknologiske muligheder har bedt om kritik af fastholdelse af forældremyndigheden billeder af politiet – uanset om den enkelte er efterfølgende retsforfulgt eller dømt.
En rapport offentliggjort i sidste uge af det Commons for videnskab og teknologi-udvalget fandt, at der i 2016 Politiet National Database, der er indeholdt 19m facial billeder, 16.6 m, som var søgbare ved hjælp af software til ansigtsgenkendelse.
Facial anerkendelse er ikke blot ubrugelige. I politiets hænder, det er farligt | Martha Spurrier
Læs mere
“Hvad er der af virkelige bekymring er, at disse ting sker på jorden, uden nogen reel debat om, hvor meget dette er i strid med på vores individuelle rettigheder,” sagde Norman Baker, en Liberal Demokrat, der er PARLAMENTSMEDLEM og formand for udvalget.
Der er også bekymring for, om nøjagtigheden af denne teknologi, med en facial anerkendelse retssag i 2017 Notting Hill carnival forkert at matche folk 98% af tiden.
Der er også tegn på, race bias i nogle af de eksisterende image recognition systemer, som har vist sig at korrekt match hvide ansigter oftere end sorte ansigter.