Foto: Paul Sakuma (AP)
In nog een ander geval van een zoekmachine vinden van zichzelf in heet water over racistisch, seksistisch of anderszins problematische zoekresultaten, lijkt Microsoft ‘ s Bing—waarvan de technologie ook de bevoegdheden van Yahoo search functie—terug wild offensief met betrekking zoeksuggesties in de image search functie. Een rapport van online tech blog How-To Geek gepubliceerd op woensdag dook een aantal verontrustende geeft op vragen, met inbegrip van racistische taal en complottheorieën.
Het probleem lijkt te zijn opgedoken via een functie in Bing image search die u invult op de betreffende vragen, die worden gegenereerd met behulp van algoritmen, maar kan ook een afspiegeling van de zoeken gewoonten van individuele gebruikers. (We hebben gezien soortgelijke problemen met andere zoekmachines zoals Google in het verleden, en de vaststelling van hen gaat vaak gepaard met menselijke mate.) In een voorbeeld voor Bing, zelfs met de standaard SafeSearch-functie ingeschakeld, How-To Geek gemeld dat een image search voor “Joden” resultaat de voorgestelde query ‘ s van “het Kwaad Jood” en “Vuile Jood.” Een onafhankelijk zoeken door Gizmodo niet tot dezelfde resultaten voor dezelfde query, al vond (zo bleek ook het geval zijn voor de Rand) problematisch voorgestelde query ‘ s gevuld voor andere etnische en raciale groepen.
Daarnaast Gizmodo vond ook dat racistische samenzwering theorieën voor het eerst gemeld door How-To Geek ingevuld in Bing de zoekresultaten in een onafhankelijke zoeken. Wanneer de afbeelding zoeken “Michelle Obama” in de incognito-modus, Gizmodo vond dat top verwante zoekopdrachten opgenomen “een man” en “transgender.”
Omdat het gebruik maakt van Bing, Yahoo search functie lijkt ook de oppervlakte racistische zoekopdrachten. Volgens de bevindingen van de Rand en onafhankelijk gerepliceerd door Gizmodo in de incognito-modus, het zoeken van “zwarte mensen ar” of “Moslims ar” in de Yahoo search bar wordt een aantal racistische automatisch aanvullen van zoekopdrachten zoals “dom” en “kwaad”. Door te klikken op een aantal van deze zoekopdrachten opgedoken resultaten van Yahoo Antwoorden met eveneens een beledigende inhoud.
How-To Geek ook gemeld dat zij het zoeken naar “gril” een gemeenschappelijke spelfout van de grill of een meisje, led-gebruikers gerelateerde zoekopdrachten die “schattige jonge meisje van 16.” Verder klikken van de gerelateerde zoekterm opgedoken pornografische afbeeldingen, aldus de blog. Gizmodo was niet in staat om zelfstandig te repliceren gelijke resultaten in met de SafeSearch-functie in-of uitschakelen, hoewel een aantal uren waren verstreken tussen de How-To Geek oorspronkelijke rapport en Gizmodo ‘ s poging.
Door middel van een vertegenwoordiger van het bedrijf, Jeff Jones, Senior Director van Microsoft, gaf de volgende verklaring Gizmodo:
Wij nemen de zaken van aanstootgevende inhoud zeer serieus en doorgaan met het verbeteren van onze systemen te identificeren en te voorkomen dat dergelijke inhoud wordt weergegeven als een voorstel om te zoeken. Zodra we ons bewust worden van een probleem, we actie ondernemen om dit aan te pakken.
Gizmodo heeft bereikt Yahoo ‘ s moederbedrijf Eed en zal deze post updaten als we horen terug.
Het is belangrijk op te merken dat de technologie gaat niet om het lichte zelf. Als er iets is wat dit toont is dat het tijd is voor deze ongelooflijk rijke bedrijven trechter deel van hun enorme rijkdom in beter modereren van hun platforms om te voorkomen dat dergelijke alledaags racisme.
[Het Punt om via How-To Geek]
Deel Dit Verhaal