Googles lösning till oavsiktliga algoritmisk rasism: förbud gorillor

28

Googles “omedelbara åtgärder” som över AI-märkning av svarta människor som gorillor var helt enkelt att blockera ord, tillsammans med apan och apan, rapporter tyder på

A silverback high mountain gorilla,

En silverback hög mountain gorilla, som du inte längre att kunna etikett på ett tillfredsställande sätt på Google Bilder.
Foto: Thomas Mukoya/Tt-Reuters

Google

Googles lösning till oavsiktliga algoritmisk rasism: förbud gorillor

Googles “omedelbara åtgärder” som över AI-märkning av svarta människor som gorillor var helt enkelt att blockera ord, tillsammans med apan och apan, rapporter tyder på

@alexhern

Fre 12 Jan 2018 16.04 GMT

Senast ändrad Fre 12 Jan 2018 16.05 GMT

Efter att Google har kritiserats 2015 för en bild-erkännande algoritm som auto-taggade bilder av svarta människor som “gorillor”, företaget lovade “omedelbara åtgärder” för att förhindra en upprepning av fel.

Att åtgärden var helt enkelt för att förhindra att Google-Bilder från någonsin märkning varje bild som en gorilla, schimpans, eller apa – även bilder på primater sig själva.

Det är slutsatsen dras av Wired magazine, som testat mer än 40 000 bilder av djur på service. Foton korrekt märkta bilder av pandor och pudlar, men alltid gav inga resultat för de stora apor och apor – trots att exakt hitta babianer, gibbons och orangutanger.

Google har bekräftat att de villkor som togs bort från sökningar och taggar bild som en direkt följd av 2015 händelsen, säger till tidningen att: “Bilden märkning teknik är fortfarande tidigt och tyvärr är det långt ifrån perfekt”.

Gorilla blindhet finns på andra platser över Googles plattform: Google Lins, en kamera-app som identifierar objekt i bilder kommer också vägra att erkänna gorillor. Men Google Assistant kommer att korrekt identifiera primater, som kommer att Google ‘ s business-to-business bild erkännande tjänsten Google Cloud Vision.

Fel av företaget att utveckla en mer hållbar lösning i de följande två åren belyser i vilken utsträckning maskininlärning-tekniken, som förstärker bilden röstigenkänning, är fortfarande förfall.

Denna teknik beskrivs ofta som en “black box”, som kan producera kraftfulla resultat, men med liten möjlighet på en del av sin skapare för att förstå exakt hur och varför de tar de beslut de gör.

Detta är särskilt sant för den första vågen av bild-system för erkännande, som Google Bilder var en del av. Samtidigt som produkten lanserades, Flickr släppte en liknande funktion, automatisk märkning – som hade en nästan identisk uppsättning problem.

Yahoo-ägda foto att dela plattform märkt en bild av en svart man som “apa” och ett foto av koncentrationslägret Dachau som “jungle gym”. Flickr: s svar var ungefär samma som Google s: företaget tydligen bort ordet “apa” från sin märkning lexikon helt och hållet.

  • AI-program uppvisar ras och kön fördomar, forskning avslöjar