Specialister havde været at opbygge edb-programmer, da 2014 til at gennemgå cv ‘ erne i et forsøg på at automatisere søgning
Tor 11 Okt 2018 00.42 BST
Amazon ‘s automatiserede leje af blev anset for at være utilstrækkelig, efter at straffe de cv’ er for de kvindelige ansøgere.
Foto: Brian Snyder/Reuters
Amazon ‘ s machine-learning specialister afsløret et stort problem: deres rekruttere nye motor ikke kan lide kvinder.
Holdet havde været at opbygge edb-programmer, da 2014 til at gennemgå job ansøgernes cv ‘ er, med henblik på at mekanisering søge efter de bedste talenter, fem personer er bekendt med den indsats, fortalte Reuters.
Automation har været nøglen til Amazon ‘ s e-handel dominans, om det er i lagre eller kørsel prissætningen. Selskabets eksperimentelle leje værktøj, der anvendes kunstig intelligens til at give job kandidater scoringer spænder fra én til fem stjerner – meget som shoppere sats produkter på Amazon, nogle af de folk sagde.
“Alle ville have denne hellige gral,” en af dem sagde. “De bogstaveligt talt ville have det til at være en motor, hvor jeg har tænkt mig at give dig 100 cv’ er, det vil spytte ud af top fem, og vi vil ansætte dem.”
Men inden 2015, selskabet realiseret sin nye system var ikke rating kandidater til software udvikler job og andre tekniske indlæg på en kønsneutral måde.
Automation kan ødelægge millioner af arbejdspladser. Vi er nødt til at beskæftige sig med det nu | Yvette Cooper
Læs mere
Det er fordi Amazon ‘s edb-modeller, der blev uddannet til dyrlæge ansøgere, ved at observere de mønstre i cv’ er sendt til virksomheden over en 10-årig periode. De fleste kom fra mænd, en afspejling af den mandlige dominans i hele branchen.
I realiteten, at Amazon ‘ s system lært sig selv, at mandlige kandidater var at foretrække. Det straffet cv ‘ er, der indeholdt ordet “kvinder”, som i “women’ s chess club kaptajn”. Og det nedgraderet kandidater af to alle-kvinder ‘ s colleges, ifølge folk bekendt med sagen.
Amazon redigeret programmer til at gøre dem neutrale, at disse særlige vilkår. Men der var ingen garanti for at maskinerne ville ikke udvikle andre måder at sortere kandidater, der kunne vise sig at være diskriminerende, sagde folk.
Seattle-selskabet i sidste ende opløst holdet ved starten af sidste år, fordi ledere mistet håbet for projektet, ifølge de folk, der talte på betingelse af anonymitet. Amazon ‘ s personalekonsulenter kiggede på de anbefalinger, der er genereret af værktøj, når du søger nye medarbejdere, men aldrig påberåbt udelukkende på disse placeringer, sagde de.
Amazon afviser at kommentere på rekruttering af motor eller dets udfordringer, men virksomheden siger, at den er forpligtet til at mangfoldighed på arbejdspladsen og ligestilling.
Selskabets eksperiment, som Reuters er først til at rapportere, tilbyder en case study i begrænsninger af machine learning. Det fungerer også som en lektion til den voksende liste af store virksomheder, herunder Hilton Worldwide Bedrifter og Goldman Sachs, der er på udkig for at automatisere dele af ansættelsesprocessen.
Franken-algoritmer: de dødelige konsekvenser af uforudsigelige kode
Læs mere
Omkring 55% af OS menneskelige ressourcer ledere sagde, kunstig intelligens, eller AI, vil være en fast del af deres arbejde inden for de næste fem år, ifølge en 2017-undersøgelse af talent software firma CareerBuilder.
Maskuline sprog
Amazon ‘ s eksperiment begyndte på et afgørende tidspunkt for verdens største online forhandler. Machine learning var at få trækkraft i den teknologiske verden, takket være en kraftig stigning i low-cost computerkraft. Og Amazon ‘ s hr-afdeling var ved at gå i gang på et leje spree; siden juni 2015, og den samlede medarbejderstab er mere end tredoblet til 575,700 arbejdstagere, lovgivningsmæssige ansøgninger vis.
Så det oprettet et hold i Amazon ‘ s Edinburgh engineering-hub, der voksede til omkring en halv snes mennesker. Deres mål var at udvikle AI, der hurtigt kunne gennemgå web og spot kandidater værd at rekruttere, folk kender sagen sagde.
Gruppen skabt 500 edb-modeller, der fokuserer på specifikke job, funktioner og placeringer. De lærte hver at genkende nogle 50.000 vilkår, som blev fundet på tidligere kandidaternes cv ‘ er. De algoritmer, har lært at tildele lille betydning for de færdigheder, der var fælles på tværs af DET, ansøgere, såsom evnen til at skrive forskellige computer koder, sagde folk.
I stedet, den teknologi, der stillede kandidater, der beskrev sig selv ved hjælp af verber mere almindeligt forekommende på mandlige ingeniører’ cv ‘ er, som “udført” og “fanget”, en person sagde.
Kønsfordomme var ikke det eneste problem. Problemer med de data, der understøttes af de modeller ” domme betød, at ukvalificerede kandidater blev ofte anbefalet til alle slags job, sagde folk. Med den teknologi, der returnerer resultaterne, næsten tilfældigt, Amazon lukke projektet, sagde de.
Problemet eller at helbrede?
Andre virksomheder er fremad, som en understregning af den iver af arbejdsgiverne til at udnytte AI for ansættelse.
Kevin Parker, administrerende direktør for HireVue, en start i nærheden af Salt Lake City, sagde automation er at hjælpe virksomheder til at se ud over den samme rekruttere netværk på, som de længe har påberåbt. Hans firma analyserer kandidater’ tale og ansigtsudtryk i video-interviews for at reducere afhængigheden af cv ‘ er.
“Du var ikke at gå tilbage til de samme gamle steder; du var ikke gå tilbage til kun at Ivy League skoler,” Parker sagde. Virksomhedens kunder omfatter Unilever PLC og Hilton.
Goldman Sachs har skabt sin egen cv-analyse værktøj, der forsøger at matche kandidater med den afdeling, hvor de ville være “best fit”, siger virksomheden.
LinkedIn er verdens største professionelle netværk, er gået endnu videre. Det kan tilbyde arbejdsgivere algoritmisk placeringer af kandidater, der er baseret på deres egnet til jobopslag på sin hjemmeside.
Joseph Stiglitz om kunstig intelligens: “Vi er ved at gå i retning af et mere opdelt samfund”
Læs mere
Stadig, John Jersin, vice-præsident af LinkedIn Talent Løsninger, sagde service er ikke en erstatning for den traditionelle personalekonsulenter.
“Jeg ville helt sikkert ikke stole på nogen AI-system i dag til at træffe en beslutning om ansættelse på sit eget,” sagde han. “Teknologien er bare ikke klar endnu.”
Nogle aktivister siger, at de er bekymrede for, om åbenhed i AI. American Civil Liberties Union er i øjeblikket udfordrende en lov, der tillader retsforfølgelse af forskere og journalister, som test-leje websites’ algoritmer for diskrimination.
“Vi er i stigende grad fokus på algoritmiske retfærdighed som et problem,” sagde Rachel Goodman, en ansat advokat med Race Retfærdighed Program på ACLU. Stadig, Goodman og andre kritikere af AI anerkendt, at det kan være overordentlig vanskeligt at sagsøge en arbejdsgiver over automatiseret leje; job kandidater kan aldrig vide, det blev brugt.
Som for Amazon, lykkedes det selskabet at redde nogle af hvad det har lært fra sin mislykkedes AI eksperiment. Det bruger nu en “meget udvandede version” af at rekruttere motor til at hjælpe med nogle rudimentære gøremål, herunder nedslagtning duplicate kandidat profiler fra databaser, er en af de mennesker, der er bekendt med projektet, sagde.
En anden sagde, at et nyt hold i Edinburgh er blevet dannet for at give automatiseret beskæftigelse screening anden prøve, denne gang med fokus på mangfoldighed.