Googles løsning for utilsiktet algoritmisk rasisme: forbud gorillaer

50

Google ‘s” øyeblikkelig aksjon ” i løpet av AI merking av svarte mennesker som gorillaer var rett og slett for å blokkere ordet, sammen med sjimpanse og ape, rapporter tyder på

A silverback high mountain gorilla,

En silverback high mountain gorilla, som du vil ingen lenger være i stand til å merke tilfredsstillende på Google Bilder.
Foto: Thomas Mukoya/Reuters

Google

Googles løsning for utilsiktet algoritmisk rasisme: forbud gorillaer

Google ‘s” øyeblikkelig aksjon ” i løpet av AI merking av svarte mennesker som gorillaer var rett og slett for å blokkere ordet, sammen med sjimpanse og ape, rapporter tyder på

@alexhern

Fre 12 Jan 2018 16.04 GMT

Sist endret på Fre 12 Jan 2018 16.05 GMT

Etter at Google ble kritisert i 2015 for et bilde-anerkjennelse algoritme som automatisk merkede bilder av svarte mennesker som “gorillaer”, selskapet lovet “øyeblikkelig aksjon” for å hindre en gjentagelse av feilen.

At handlingen var rett og slett for å hindre at Google Bilder fra noensinne merking hvilket som helst bilde som en gorilla, sjimpanse, eller monkey – selv bilder av primater seg selv.

Det er konklusjonen trukket av Wired magazine, som testet mer enn 40.000 bilder av dyr på tjenesten. Bilder nøyaktig taggede bilder av pandaer og poodles, men konsekvent ga ingen resultater for den store aper og apekatter – til tross for nøyaktig å finne bavianer, gibbons og orangutanger.

Google bekreftet at vilkårene ble fjernet fra søk og bilde-tagger som et direkte resultat av 2015 hendelsen, forteller bladet at: “Bildet merking teknologien er fortsatt i en tidlig og det er dessverre ikke på langt nær perfekt”.

Gorilla blindhet er finnes i andre steder i Google plattform: Google-Objektiv, en kamera-app som kan identifisere objekter i bildene, vil også nekte å anerkjenne gorillaer. Men Google Assistent vil identifisere primater, så vil Googles business-to-business image anerkjennelse tjenesten Google Sky Visjon.

Svikt i selskapet for å utvikle en mer bærekraftig løs i de følgende to år høydepunktene av i hvilken grad maskinlæring teknologi, som underbygger bildet anerkjennelse funksjon, er fortsatt forfall.

Slike teknologier blir ofte beskrevet som en “black box”, som kan produsere kraftige resultater, men med liten evne på en del av sine skapere å forstå nøyaktig hvordan og hvorfor de gjør de beslutningene de gjør.

Det er særlig i den første bølgen av bilde-anerkjennelse-systemer, som Google Bilder var en del av. På samme tid at produktet ble lansert, Flickr utgitt en lignende funksjon, auto-tagging – som hadde en nesten identisk sett med problemer.

Yahoo-eide photo sharing platform merket et bilde av en svart mann som “ape”, og et bilde av den Dachau konsentrasjonsleir som “jungle gym”. Flickr er svaret var mye det samme som Google ‘ s: selskapet tilsynelatende fjernet ordet “ape” fra sin merking leksikon helt.

  • AI programmer utstilling rase og kjønn skjevheter, forskning avslører