Screenshot: Arxiv
Onderzoekers bouwden een enorme dataset van hotel foto ‘ s met de bedoeling te helpen van handhaving van de wet op mensenhandel te onderzoeken. De dataset, genaamd Hotels-50k, bestaat uit meer dan 1 miljoen afbeeldingen van 50.000 hotels wereldwijd.
“Het herkennen van een hotel uit een afbeelding van een hotel kamer is belangrijk voor mensenhandel onderzoeken,” de onderzoekers schreven in de krant verschenen eind vorige maand. “De beelden direct te koppelen van de slachtoffers te plaatsen en kan helpen bij het controleren van waar de slachtoffers zijn van mensenhandel, en waar hun handelaars kunnen verplaatsen of anderen in de toekomst.”
De beelden zijn opgenomen in de dataset komen van professionele foto ‘s op openbaar beschikbare reizen websites en crowdsourced afbeeldingen van de mobiele app TraffickCam, die vraagt gebruikers die op reis zijn om foto’ s van hun kamers en onderwerpen ze aan een database met de locatie. De app draagt bij aan een database van beelden voor de handhaving van de wet.
De onderzoekers, die komen van de George Washington Universiteit, de Temple University, en Adobe Onderzoek, er rekening mee dat de beelden verzameld van de app beter af te stemmen met afbeeldingen die worden gebruikt in officiële onderzoeken, omdat ze zijn genomen op “soortgelijke apparaten, op verschillende oriëntaties, met bagage en andere rommel, en zonder professionele verlichting.” Het verzamelen van beelden uit onderzoeken “is problematisch om verschillende redenen,” schreven ze. Elk van de 1,027,871 beelden bevat de naam van het hotel, geografische locatie, en indien van toepassing, de hotelketen.
Omdat de onderzoekers niet voorzien van foto ‘s van de werkelijke mensenhandel onderzoeken in de dataset, die ze nodig hadden om te zorgen dat de foto’ s geschraapt van reis-websites en mobiele apps meer nauw gespiegeld. Abby Stylianou, een PhD student aan de George Washington University en co-auteur van het papier, vertelde het Register dat zij “stel dat een onderzoeker zal altijd het wissen van het slachtoffer van de foto, waardoor een ‘onzichtbaar uit’ regio in beeld’, dus de onderzoekers gegenereerd “mensen-vormige maskers” van MS-COCO, de Microsoft Common Objecten in Context dataset. “Dit moedigt het netwerk te leren om vergelijkbare codes voor beelden van het hotel, zelfs als er een grote onzichtbaar vorm in het beeld,” Stylianou zei.
Screenshot: Arxiv
De onderzoekers testten hun dataset op twee pre-opgeleid “off-the-shelf” neurale netwerken. Hun model was in staat om nauwkeurig te bepalen van het hotel ketens van de beelden “met bijna 80 procent nauwkeurigheid,” volgens het Register. Maar het systeem had moeite met het identificeren van de juiste individuele hotel—Stylianou vertelde het Register dat van de eerste 100 beelden, correct geïdentificeerd het hotel is 24 procent van de tijd.
Dat is een buitengewoon lage slaagpercentage in aanmerking komen voor een zinvolle toepassing. En leunend op kunstmatige intelligentie als een instrument voor het opsporen van mensenhandel is nauwelijks een nieuw concept—dreef een aantal keer. Al met dit systeem, hoe goed bedoeld, het is evident dat de aanpak heeft nog een lange weg te gaan voordat het kan worden een efficiënte hotel erkenning systeem.
Buiten de juistheid, blijven er ethische overwegingen bij de implementatie. Voor starters, het is niet duidelijk hoe een dergelijk systeem zou in staat zijn om te differentiëren s voor mensenhandel van beelden van toestemming, volwassen prostituees. Dit zou niet de eerste verkeerde aanpak van de strijd tegen mensenhandel in het nadeel van de sex-werk-gemeenschap, zoals het uitwissen van online platforms sekswerkers afgehangen aan het werk veilig en zelfstandig. Het duwen van de sekswerkers in offline en op de straten is al wat resulteert in een toename van het geweld en arrestaties tegen hen.
Er is ook weinig geruststellende bewijs dat AI bewaking systemen kunnen werken vrij van vooringenomenheid en fout. Of, meer troublingly, dat agentschappen van de wetshandhaving zal gebruik maken van de systemen voor meer dan alleen hun doel, in dit geval, is het identificeren van hotels en hotelketens die betrokken zijn bij mensenhandel inspanningen. Een sheriff ‘s office in Oregon met Amazon’ s gezichtsherkenning tech, Rekognition, vrijgegeven documenten vorig jaar aangegeven dat de politie gebruikt het systeem voor meer dan alleen de markt gebracht doel, inclusief het identificeren van zowel de “onbewuste of overleden personen” en ook “mogelijke getuigen.”
Terwijl de onderzoekers van het hotel erkenning systeem kan worden ontwikkeld met goede bedoelingen, het is belangrijk om te begrijpen hoe deze krachtige databases kunnen niet alleen screw up en exploiteren van onbedoelde kwetsbare bevolkingsgroepen, maar worden misbruikt door hen die de macht hebben.
[Inschrijven]
Deel Dit Verhaal