Den facial recognition system som redan är fast i våra liv. Det används i skannrar som Face ID och även användas för att söka efter brottslingar. Men, enligt publikationen Science Daily, ett team av forskare från Massachusetts Institute of technology (MIT) och Stanford, efter att ha studerat flera kommersiella AI-algoritmer för ansiktsigenkänning, visade tecken på sexism och rasism.
Studien visade att i analysen av fotografier av vita män, algoritmer felaktigt definierade kön endast 0,8% av fallen, och i fall av svarta kvinnor, andelen fel i genomsnitt ca 30%. För att identifiera mönster i de anställdas MIT glädje Buolamwini har 1200 bilder av olika människor (som dock var mest avbildade kvinnor med mörk hud). Sedan vände hon sig till Fitzpatrick skalan, enligt vilken det finns 6 hudtyper av huden, där jag är den lättaste, och VI är den mörkaste.
I slutändan visade det sig att kvinnor med mörk hud med bedömning av IV, V eller VI enligt Fitzpatrick skalan, felprocenten var 20,8%, 34,5 procent och 34,7 procent. Därmed var det möjligt att fastställa att den mörkare huden fotosättning, mer sannolikheten att algoritmen kommer att göra ett misstag. Att identifiera kvinnor med ljus hud andelen fel inte överstiger 0,8 procent. Dessutom, glädje (som själv är Afro-Amerikan) försökte analysera dina egna bilder, och det visade sig att systemet är antingen inte känner igen hennes ansikte, eller felaktigt definiera kön.
I själva verket kan en sådan forskning kan behandlas på olika sätt. Men om man bortser från alla skämt och fördomar om tolerans, studien väcker en mycket viktig fråga: gör algoritmer för ansiktsigenkänning för att fungera korrekt? Efter allt, med deras hjälp kan Kina redan försök att väcka åtal. Dessutom, den nya upptäckten är svagt överensstämmer med uttalande av en av de mjukvaruföretag som skapade en programvara för neurala nätverk och hävdade att deras programvara känna igen ansikte med noggrannhet i 97% av fallen. Vad tror du? Uttrycka din åsikt i vår nya telegram chatt.
Det neurala nätverket igen dåliga svarta män och kvinnor
Vladimir Kuznetsov