Foto: Paul Sakuma (AP)
I endnu et tilfælde af en søgemaskine at finde sig selv i varmt vand over racistiske, sexistiske, eller på anden måde problematiske søgeresultater, der vises Microsofts Bing—hvis teknologi også beføjelser Yahoo ‘ s søge-funktion—er ved at vende tilbage vildt offensive relaterede søgeforslag i sin billedsøgning funktion. En rapport fra online-tech blog-Hvordan-Nørd offentliggjort onsdag dukket en række alarmerende afkast på forespørgsler, herunder racistisk sprog og konspirationsteorier.
Problemet synes at have dukket op via en funktion i Bing ‘ s image search som udfylder relaterede forespørgsler, som er genereret ved hjælp af algoritmer, men kan også afspejle søg vaner i de enkelte brugere. (Vi har set lignende problemer med andre søgemaskiner som Google i fortiden, og rette dem ofte involverer menneskelige moderation.) I et sådant eksempel for Bing, selv med dens standard indstillinger for beskyttet søgning-funktionen er slået til, Hvordan-Nørd rapporterede, at et billede søg efter “Jøder” vendte den foreslåede forespørgsler af “det Onde Jøde” og “Beskidte Jøde.” En uafhængig søgning ved at Gizmodo ikke op, de samme resultater for den samme forespørgsel, om det var (som viste sig også at være tilfældet for Randen) problematisk foreslåede forespørgsler befolkede for andre etniske og racemæssige grupper.
Hertil kommer, at Gizmodo også fundet racistiske konspirationsteorier først rapporteret af Hvordan-Nørd befolkede i bings søgeresultater i et selvstændigt søg. Når billedet søgning “Michelle Obama” i inkognitotilstand, Gizmodo fandt, at top-relaterede forespørgsler, der indgår “er en mand” og “transseksuelle.”
Fordi det bruger Bing, Yahoo ‘ s søgefunktion ser også ud til at være overfladebehandling racistiske søgeforespørgsler. I henhold til resultaterne fra Randen og uafhængigt gentages af Gizmodo i incognito mode, der søger “sorte mennesker ar” eller “Muslimer ar” i Yahoo ‘ s search bar dukker op flere racistiske autofuldførelse forespørgsler som “dum” og “er onde.” At klikke sig gennem flere af disse søgninger dukket resultaterne fra Yahoo Svar med på samme måde stødende indhold.
Hvordan-Nørd rapporterede også, at det fundet at søge efter “gril,” en fælles stavefejl i grill eller pige, led-brugere til relaterede søgninger, der indgår “søde unge pige 16.” Yderligere ved at klikke relaterede søgeord dukket op pornografiske billeder, ifølge blog. Gizmodo var ikke i stand til selvstændigt at kopiere ens søgeresultater enten med beskyttet søgning funktionen til eller fra, men i flere timer var gået, mellem Hvordan-Nørd oprindelige rapport og Gizmodo ‘ s forsøg.
Gennem et selskab repræsentant, Jeff Jones, en Senior Director for Microsoft, udsendte følgende meddelelse til Gizmodo:
Vi tager sager, der kan virke stødende indhold meget alvorligt og fortsætter med at forbedre vores systemer til at identificere og forhindre et sådant indhold, at de vises som en foreslået søg. Så snart vi bliver opmærksomme på et problem, vi tager skridt til at løse det.
Gizmodo har nået ud til at Yahoo ‘ s moderselskab, Ed og vil opdatere denne post, hvis vi hører tilbage.
Det er vigtigt at bemærke, at teknologi ikke kommer til at moderere sig selv. Hvis der er noget, hvad dette viser, er, at det kan være tid for disse ufatteligt rige virksomheder, at sende nogle af deres enorme rigdom til bedre at moderere deres platforme med henblik på at undgå sådanne hverdagskost racisme.
[Randen via How-to-Nørd]
Dele Denne Historie