Ansigtsgenkendelse system, der allerede er fast forankret i vores liv. Det bruges i scannere som Ansigt-ID og endda bruges til at finde kriminelle. Men, ifølge publikationen Science Daily, et team af forskere fra Massachusetts Institute of technology (MIT) og Stanford, efter at have studeret flere kommercielle AI algoritmer til ansigtsgenkendelse, viste tegn på sexisme og racisme.
Undersøgelsen afslørede, at der i analysen af billeder af hvide mænd, de algoritmer forkert definerede køn kun i 0,8% af tilfældene, og i tilfælde af sorte kvinder, andelen af fejl i gennemsnit omkring 30%. Til at identificere mønstre i medarbejdernes MIT glæde Buolamwini har 1200 billeder af forskellige mennesker (som dog var for det meste afbildet kvinder med mørk hud). Så hun henvendte sig til Fitzpatrick skala, hvorefter der er 6 phototypes af huden, hvor jeg er den letteste, og VI er mørkest.
I den sidste ende, viste det sig, at kvinder med mørk hud med en vurdering af, IV, V eller VI, ifølge Fitzpatrick skala, fejlprocenten var 20,8%, 34.5% og 34.7% hhv. Dermed var det muligt at fastslå, at jo mørkere hud fototipo, jo mere sandsynlighed for, at den algoritme, der vil gøre en fejltagelse. I identificerende mænd med lys hud procentdel af fejl ikke overstiger 0,8 pct. Desuden glæde (der selv er Afrikansk-Amerikanske) forsøgt at analysere dine egne fotos, og det viste sig, at systemet er enten ikke genkende hendes ansigt, eller forkert definere køn.
I virkeligheden, sådan forskning kan blive behandlet forskelligt. Men at se bort fra alle de vittigheder og fordomme om tolerance, undersøgelsen rejser et meget vigtigt spørgsmål: har de algoritmer til ansigtsgenkendelse til at arbejde ordentligt? Efter at alle, med deres hjælp, at Kina kan allerede nu prøve at retsforfølge. Hertil kommer, at det nye fund er svagt i overensstemmelse med erklæringen af en af de software-virksomheder, der har oprettet software for neurale netværk, og hævdede, at deres software kan genkende ansigtet med en nøjagtighed på 97% af tilfældene. Hvad synes du? Udtrykke din mening i vores nye telegram chat.
Det neurale netværk genkende dårlige sorte mænd og kvinder
Vladimir Kuznetsov