Specialister hade varit att bygga datorprogram eftersom 2014 för att granska cv i ett försök att automatisera sökningen
To 11 Okt till 2018 00.42 BST
Amazon är automatiserad hyra verktyg visade sig vara otillräcklig efter att bestraffa de sammanfattningar av kvinnliga kandidater.
Foto: Brian Snyder/Tt-Reuters
Amazon machine-learning specialister upptäckt ett stort problem: deras rekrytera nya motorn inte gillar kvinnor.
Laget hade varit att bygga datorprogram eftersom 2014 för att granska arbetssökande’ meritlistor, med målet att mechanizing söka efter de bästa talangerna, fem personer som är bekanta med ansträngning Reuters.
Automation har varit en nyckel till Amazons e-handel dominans, att den i lager eller kör beslut om prissättning. Bolagets experimentella hyra verktyg som används för artificiell intelligens för att ge arbetssökande poäng från en till fem stjärnor – mycket som shoppare betygsätta produkter på Amazon, lite folk sa.
“Alla ville ha denna heliga graal,” en av folket sade. “De bokstavligen ville vara en motor där jag kommer att ge dig 100 meritförteckning, det kommer att spotta ut de fem bästa, och vi kommer att anlita dem.”
Men senast 2015, företaget insåg att dess nya systemet var inte betyg kandidater för programutvecklare jobb och andra tekniska tjänster på ett könsneutralt sätt.
Automation kan förstöra miljontals jobb. Vi har att ta itu med det nu | Yvette Cooper
Läs mer
Det beror på Amazons datormodeller har utbildats för att granska de sökande genom att observera mönster i meritförteckning som lämnas till företaget under en 10-års period. De flesta kom från män, en återspegling av den manliga dominansen inom den tekniska branschen.
I effekt, Amazons system lärt sig att manliga kandidater var att föredra. Det straffade meritlistor som inkluderade ordet “kvinnor”, som i “women’ s chess club kapten”. Och det sänkte akademiker av två kvinnliga högskolor, enligt personer med insyn i ärendet.
Amazon redigerat program för att göra dem neutrala till dessa särskilda villkor. Men det var ingen garanti för att maskinerna inte skulle tänka ut andra sätt att sortera kandidater som kan vara diskriminerande, sade folket.
Seattle bolaget slutligen upplöstes laget i början av förra året på grund befattningshavare förlorat hoppet om projektet, enligt de personer, som talade på villkor av anonymitet. Amazons rekryterare tittade på de rekommendationer som genereras av verktyg när man söker efter nya anställda, men aldrig förlitat sig enbart på dessa rankningar, sade de.
Amazon har avböjt att kommentera på rekrytering av motorn eller dess utmaningar, men företaget säger att man är skyldig att arbetsplatsen mångfald och jämställdhet.
Bolagets experiment, som Reuters är först att rapportera, och erbjuder en fallstudie i begränsningar av lärande. Den fungerar också som en lektion till den växande listan av stora företag, inklusive Hilton Worldwide Innehav och Goldman Sachs som är ute för att automatisera delar av rekryteringsprocessen.
Franken-algoritmer: den dödliga konsekvenser av oförutsägbara kod
Läs mer
Cirka 55% av OSS personalchefer sade artificiell intelligens, eller AI, skulle vara en vanlig del av deras arbete inom de kommande fem åren, enligt en 2017 undersökning av talang programvara företaget CareerBuilder.
Maskulint språk
Amazons experimentet började på ett avgörande ögonblick för världens största online-återförsäljare. Machine learning få dragkraft i teknik världen, tack vare en ökning i low-cost datorkraft. Och Amazons personalavdelningen var på väg att slå in på en hyra spree; sedan juni 2015, företagets globala personalstyrkan har mer än tredubblats till 575,700 arbetstagare, registreringsansökningar visa.
Så det ställa upp ett lag i Amazon ‘ s Edinburgh engineering hub som växte till ett tiotal personer. Deras mål var att utveckla AI som kunde snabbt genomsöka webben och plats kandidater värt att rekrytera de personer som är bekanta med saken sade.
Den grupp som skapats 500 datorn modeller inriktade på specifika funktioner jobb och platser. De lärde alla att känna igen ca 50 000 termer som hittades på tidigare kandidaternas meritförteckningar. De algoritmer som lärt sig att tilldela liten betydelse färdigheter som var vanliga på DEN sökande, till exempel förmågan att skriva olika datorprogram, sade folket.
I stället teknik gynnas kandidater som beskrev sig själva med hjälp av verb mer vanligt förekommande på manliga ingenjörer igen, sådana som “färdigt” och “fångade”, sade en person.
Könsdiskriminering var inte det enda problemet. Problem med de data som legat till modeller domar som innebar att okvalificerade kandidater var ofta rekommenderas för alla typer av jobb, sade folket. Med den teknik som returnerar resultat nästan på måfå, Amazon stänga ner projektet, sade de.
Problemet eller bota?
Andra företag är att pressa framåt, med betoning på den iver för arbetsgivare att utnyttja AI för att anställa.
Kevin Parker, verkställande av HireVue, en start nära Salt Lake City, sade automation är att hjälpa företag att se bortom den samma rekrytera nätverk som de har länge förlitat sig. Hans företag analyserar kandidaternas tal och ansiktsuttryck i video-intervjuer för att minska beroendet av sammanfattningar.
“Att du inte kommer tillbaka till samma gamla ställen; att du inte kommer tillbaka till just Ivy League-skolor,” Parker sade. Hans företags kunder är Unilever PLC och Hilton.
Goldman Sachs har skapat sin egen cv-analys verktyg som försöker att matcha kandidater med den division där de skulle vara “best fit”, sade företaget.
LinkedIn, världens största professionella nätverk, har gått vidare. Det erbjuder arbetsgivare algoritmisk ranking av kandidater baserat på deras passform för platsannonser på webbplatsen.
Joseph Stiglitz om artificiell intelligens: “Vi är på väg mot ett mer delat samhälle”
Läs mer
Fortfarande, John Jersin, vice ordförande i LinkedIn Talent Solutions, säger service är inte en ersättning för traditionella rekryterare.
“Jag skulle verkligen inte lita på någon AI-system som idag att göra en hyra beslut om sin egen,” sade han. “Tekniken är inte redo ännu.”
Vissa aktivister säger att de är angelägna om öppenhet i AI. American Civil Liberties Union är för närvarande utmanande en lag som tillåter åtal av forskare och journalister som test anställa webbplatser ” algoritmer för diskriminering.
“Vi fokuserar alltmer på algoritmisk rättvisa som en fråga,” sade Rachel Goodman, en personal advokat med Ras Rättvisa Program på ACLU. Fortfarande, Goodman och andra kritiker av AI erkände att det kan vara ytterst svårt att stämma en arbetsgivare över automatiserade anställa; arbetssökande kan aldrig veta var det används.
Som för Amazon, företaget lyckats rädda en del av vad man lärt sig från sin misslyckad AI experiment. Den nu använder en “mycket urvattnad version” av att rekrytera motor för att hjälpa till med vissa rudimentära sysslor, inklusive skyddsjakt dubbla kandidat profiler från databaser, en av de personer som är bekanta med projektet sa.
En annan sa att en ny lag i Edinburgh har bildats för att ge automatiska sysselsättning screening nytt försök, denna gång med fokus på mångfald.