AI-drevet program som tillot brukere å redigere selfies for å passe inn i “Kaukasisk, Asiatisk, Indisk eller Svart’ kategorier forårsaker raseri og umiddelbar U-sving
@alexhern
Torsdag 10 August 2017 10.19 BST
Sist endret torsdag 10 August 2017 22.00 norsk tid
Populære AI-drevet selfie program FaceApp ble tvunget til å trekke nye filtre som tillater brukere å endre sine bilder for å se ut som forskjellige raser, bare timer etter at det ble lansert.
Appen, som først ble berømt for sine funksjoner som gjør at brukerne kan redigere bilder hvis du ser eldre eller yngre, eller legge til et smil, lanserte den nye filtre rundt midt på dagen på onsdag. De tillater en bruker å redigere bildet til å passe en av fire kategorier: Europerer, Asiatisk, Indisk eller Svart.
Brukere raskt påpekt at funksjonen var ikke særlig følsomt behandles: teknologi nettstedet Randen beskrevet det som “ensbetydende med en slags digital blackface, ‘dressing opp som ulike etniske grupper”, mens TechCruch sa app “synes å bli litt for fokusert på løp snarere enn ansikter”.
Selskapet først utgitt en uttalelse hevder at “etnisitet endre filtre” ble “designet for å være lik i alle aspekter”.
“De har ikke noen positive eller negative konnotasjoner knyttet til dem,” selskapets administrerende direktør Yaroslav Goncharov sa. “De er selv representert ved samme ikon. I tillegg til at listen over disse filtrene er tilfeldig for hvert bilde, så ser hver bruker dem i en annen rekkefølge.”
Men ved 5pm på samme dag, FaceApp tilsynelatende enige med kritikken, trekke de nye filtrene fra sin app. De var utilgjengelige for brukerne av et par timer senere.
Det er ikke første gang appen har vasset i denne stormen. I April, det kom under ild for sin “hot” filter, som var ment å gjøre brukerne ser mer attraktive. I prosessen, er det også lettet deres hudfarge, fører til ubehagelig spørsmål om hva AI hadde lært om arten av skjønnhet.
Det er ikke bare små programmer som gjør disse tabber. Snapchat stått overfor lignende opprobrium for et filter som gjorde brukere ser ut som slutten av reggae sangeren Bob Marley, fylt med cartoon dreadlocks og en lue; hva mer, filteret ble utgitt 20. April 2016, en dag (“4/20”) som er kjent for sin forening med luke kultur – noe som førte til anklager selskapet ble cheapening Marley ‘ s legacy.
- FaceApp beklager for “rasistisk” filter som letter brukernes skintone