Spesialister hadde vært å bygge dataprogrammer siden 2014 til å skrive en anmeldelse résumés i et forsøk på å automatisere prosessen søk
Thu 11 Oct 2018 00.42 BST
Amazon ‘ s automatisert ansette verktøyet ble funnet å være utilstrekkelig etter penalizing den résumés av kvinnelige kandidater.
Foto: Brian Snyder/Reuters
Amazon ‘ s maskin-læring spesialister avdekket et stort problem: de nye rekruttere motoren ikke liker kvinner.
Teamet hadde vært å bygge dataprogrammer siden 2014 til å skrive en anmeldelse jobbsøkere’ résumés, med sikte på mechanizing søk etter de beste talentene, fem mennesker er kjent med det arbeidet fortalte Reuters.
Automatisering har vært nøkkelen til Amazons e-handel dominans, det være seg inne i varehus eller kjøre priser beslutninger. Selskapets eksperimentelle ansette verktøy som brukes til kunstig intelligens til å gi kandidater til stillinger score alt fra én til fem stjerner – mye som shoppere rangere produkter på Amazon, noe av det folk sa.
“Alle ville dette hellige gral,” en av folket sa. “De bokstavelig talt ville det være en motor hvor jeg kommer til å gi deg 100 résumés, det vil spytte ut de fem beste, og vi vil ansette dem.”
Men innen 2015, og selskapet realisert sitt nye systemet ikke var rating kandidater for software developer jobber og andre tekniske innlegg i et kjønns-nøytral måte.
Automatisering kan ødelegge millioner av jobber. Vi har avtale med det nå | Yvette Cooper
Les mer
Det er fordi Amazon ‘ s computer-modeller ble opplært til å veterinær søkere ved å observere mønstre i résumés sendt til selskapet over en 10-års periode. De fleste kom fra menn, en refleksjon av mannlig dominans over tech industrien.
I effekt, Amazon ‘ s system lært seg at mannlige kandidater var å foretrekke. Det straffet résumés som inkluderte ordet “kvinne”, som i “women’ s chess club kaptein”. Og det nedgradert nyutdannede av to all-kvinne høyskoler, i henhold til de som er kjent med saken.
Amazon redigert programmer for å gjøre dem nøytral til disse spesielle vilkår. Men det var ingen garanti for at maskinene ikke ville finne andre måter å sortere kandidater som kan være diskriminerende, det folk sa.
Seattle selskapet til slutt oppløst laget ved starten av siste året fordi ansatte mistet håpet for prosjektet, i henhold til de mennesker, som snakket på betingelse av anonymitet. Amazon er rekrutterere så på de anbefalinger som er generert av verktøyet når du søker etter nyansatte, men aldri stole utelukkende på slike rangeringer, sa de.
Amazon avslått å kommentere på rekruttering av motoren eller dets utfordringer, men selskapet sier det er forpliktet til arbeidsplassen mangfold og likestilling.
Selskapets eksperiment, som Reuters første til å rapportere, og tilbyr en case-studie i begrensninger av maskinlæring. Det fungerer også som en lærepenge til den stadig voksende listen av store selskaper, inkludert Hilton Worldwide Holdings og Goldman Sachs som er ute etter å automatisere deler av søknads prosessen.
Franken-algoritmer: de dødelige konsekvensene av uforutsigbare kode
Les mer
55% av OSS human resources ledere sa kunstig intelligens, eller AI, ville være en fast del av sitt arbeid i løpet av de neste fem årene, ifølge en 2017 undersøkelse av talent programvare firmaet CareerBuilder.
Maskulint språk
Amazon ‘ s eksperiment begynte i et avgjørende øyeblikk for verdens største internett-forhandler. Maskinlæring, var å få trekkraft i den teknologiske verden, takket være en økning i lav-kost datakraft. Og Amazon ‘ s Human Resources-avdelingen var i ferd med å ta fatt på et ansette spree; siden juni 2015, selskapets globale ansatt har mer enn tredoblet til 575,700 arbeidere, regulatory filings vis.
Så det satt opp et team i Amazons Edinburgh engineering hub som vokste til rundt et dusin mennesker. Målet deres var å utvikle kunstig INTELLIGENS som kan raskt gjennomsøker nettet og sted kandidater verdt å rekruttere folk som er kjent med saken sa.
Konsernet opprettet 500 datamaskinen modeller fokusert på en bestemt jobb funksjoner og steder. De lærte hvert å kjenne igjen noen 50,000 vilkår som ble funnet på siste kandidatenes résumés. Algoritmene lært å tilordne liten betydning for å ferdigheter som var vanlig på DEN søkerne, slik som evnen til å skrive ulike datamaskin koder, folk sa.
I stedet, teknologi favoriserte kandidater som beskrev seg selv ved hjelp av verb oftere funnet på mannlige ingeniører’ fortsetter, slik som “utført” og “fanget”, en person som sa.
Kjønnsdiskriminering var ikke det eneste problemet. Problemer med data som understøttet de modeller dommer mente at ukvalifisert kandidatene ble ofte anbefalt for alle slags jobber, og folk sa. Med den teknologi som returnerer resultatene, nesten tilfeldig, Amazon slår prosjektet, sa de.
Problemet eller kur?
Andre selskaper er smiing fremover, understreker iver for arbeidsgivere å utnytte AI for å ansette.
Kevin Parker, administrerende direktør i HireVue, en oppstart i nærheten av Salt Lake City, sa automatisering er hjelper bedrifter med å se utover de samme rekruttere nettverk der de har lang lettelse opp. Hans faste analyserer kandidatenes tale og ansiktsuttrykk i video-intervjuer for å redusere avhengigheten av résumés.
“Du var ikke kommer tilbake til den samme gamle steder; du ikke gå tilbake til å bare Ivy League skoler,” Parker sa. Hans selskapets kunder er Unilever PLC og Hilton.
Goldman Sachs har skapt sin egen cv analyse verktøy som forsøker å matche kandidater med divisjon hvor de ville være “best fit”, selskapet sa.
LinkedIn, verdens største profesjonelle nettverk, har gått videre. Det tilbyr arbeidsgivere algoritmisk rangeringen av kandidatene basert på deres passer for stillingsannonser på nettstedet sitt.
Joseph Stiglitz på kunstig intelligens: ‘Vi går mot en mer splittet samfunn
Les mer
Likevel, John Jersin, vice-president i LinkedIn Talent Løsninger, sa tjenesten er ikke en erstatning for tradisjonelle rekrutterere.
“Jeg ville absolutt ikke stole på noen AI-system i dag for å gjøre en ansettelse på sin egen,” sa han. “Teknologien er bare ikke klar ennå.”
Noen aktivister sier at de er opptatt av åpenhet i AI. American Civil Liberties Union er utfordrende en lov som gjør det mulig straffeforfølgelse av forskere og journalister som test ansette nettsteder’ algoritmer for diskriminering.
“Vi er et økende fokus på algoritmisk rettferdighet som et problem,” sa Rachel Goodman, en staff advokat med Rasistiske Rettferdighet Program på ACLU. Likevel, Goodman og andre kritikere av AI erkjente at det kunne være meget vanskelig å saksøke arbeidsgiver over automatisert ansette; jobb kandidater kan aldri vite det ble brukt.
Som for Amazon, selskapet klarte å redde noen av hva det har lært fra sin mislykket AI eksperiment. Det bruker nå en “mye vannes ned versjon” av rekruttering av motoren for å hjelpe til med noen rudimentære husarbeid, inkludert culling dupliserte kandidat profiler fra databaser, en av de som er kjent med prosjektet sa.
En annen sa: et nytt team i Edinburgh har blitt dannet for å gi automatisert sysselsetting screening nytt forsøk, denne gangen med fokus på mangfold.