Gör bara människor en chans mot mjukvara som gör anspråk på att avslöja vad en riktig face-to-face chat inte kan?
Sön 4 Mar 2018 00.05 GMT
AI används av chefer för att minska kostnaderna för att hitta rätt medarbetare.
Foto: AndreyPopov/Getty Images
Enligt Nathan Mondragon, att hitta rätt medarbetare är alla om att titta på lite saker. Tiotusentals små saker, som det visar sig.
Mondragon är chef psykolog på HireVue, som marknadsför programvara för screening av arbetssökande. Flaggskeppet, som används av Unilever och Goldman Sachs, frågar kandidater att svara på intervjufrågor framför en kamera. Under tiden sin programvara, som ett team av hawk-eyed psykologer som gömmer sig bakom en spegel, tar del av knappt märkbara förändringar i kroppshållning, ansiktsuttryck och högljudda ton.
“Vi bryta de svar som människor ger upp i många tusentals datapunkter, till verbala och icke-verbala signaler, säger Mondragon. “Om du svara på en fråga om hur du skulle spendera en miljon dollar, dina ögon skulle tenderar att flytta uppåt, din verbala signaler skulle gå tyst. Ditt huvud skulle luta en aning uppåt med dina ögon.”
Programmet vänder denna data till ett poäng, som sedan jämförs med programmet har redan “lärt sig” från topp-presterande medarbetare. Tanken är att en bra blivande medarbetare ser mycket ut som en god nuvarande anställd, bara inte på något sätt en människa intervjuaren skulle märka.
Metoder som sång analys och läsning “microexpressions” har tillämpats i polisarbete och intelligens med lite klar framgång. Men Mondragon säger automatiserade analyser jämföra sig med etablerade tester av personlighet och förmåga, och att kunderna rapport bättre anställd prestanda och lägre omsättning.
HireVue är bara en av en massa nya företag som säljer AI som en ersättning för den dyra mänskliga sidan av att anställa. Man beräknar att “pre-hyra bedömning” marknaden är värt $3 miljarder (£2.2 miljarder euro) per år.
En undersökning i STORBRITANNIEN förra året finns med i genomsnitt 24 sökande per lågavlönade jobb. Tesco, landets största privata arbetsgivare, fått en bra bit över tre miljoner jobbansökningar i 2016. Med tillämpningar ökar, arbetsgivare har automatiserat så mycket av processen som möjligt. Detta började för mer än ett decennium sedan med enkla program som skannade texten CVs för nyckelord. Det har nu utvidgats till att omfatta frågesporter, tester, spel och chatbots som kan avvisa sökande innan en människa någonsin blickar på sin CV.
Arbetssökande tvingas att förbereda för vad som format en potentiell arbetsgivare har valt, en bekant power shift i gig ekonomin era. Och utan mänsklig interaktion eller feedback, en redan svår process har blivit djupt alienerande.
Kommer en robot som rekryterare att anställa dig för ditt nästa jobb?
Läs mer
Utöver dehumanising erfarenhet lurar den vanliga oron för att delta i automation och AI, som använder data ofta formade av ojämlikhet. Om du misstänker att du har blivit diskriminerad av en algoritm, vilken anlita har du? Hur sårbara är de formler för bias? Och är det oundvikligt att icke-traditionella eller sämre kandidater, eller dem som kämpar med ny teknik kommer att undantas från processen?
“Det är lite dehumanising, aldrig att kunna få igenom att en arbetsgivare, säger Robert, en rörmokare i hans 40-talet som jag har träffat på en vecka jobb club i London. Han använder anslagstavlor och rekryterare att hitta tillfälliga arbeten. Harry, 24, har letat efter ett jobb för fyra månader. I detaljhandeln “bara om varje jobb” kräver att ett test eller spel. Han fyller fyra eller fem i veckan. Avslag är ofta omedelbar, stapla upp utan ett ord av feedback. Varje gång du måste börja om igen från noll.
“Du vet aldrig vad du har gjort fel. Det gör att du känner lite instängd,” Harry säger.
Problemet är värst för äldre arbetssökande. Många förlitar sig på stöd från myndigheter eller frivilliga tjänster för att hjälpa dem att fylla i ansökningar. “Det är en stor barriär. Varför är en äldre kille som var murare plötsligt förväntas ha DEN kompetens?”, frågar Lynda Pennington, som organiserar ett annat jobb club i Croydon.
Efter 86 misslyckade jobb ansökningar i två år – inklusive flera HireVue screenings – Deborah Caldeira är grundligt desillusionerad med automatiska system. Utan en person över bordet, det är “inga riktiga samtal eller utbyte”, och det är svårt att veta “exakt vad roboten är ute efter”, säger manuel da silva Caldeira, som har en master-examen från London School of Economics.
Trots hennes kvalifikationer, hon fann sig själv att ifrågasätta varje rörelse som hon satt ensam hemma för att utföra en dator. “Det får oss att känna att vi är inte värt det, eftersom företaget inte ens kunde tilldela en person ett par minuter. Det hela blir mindre mänsklig, säger hon.
En revansch mot automation har vuxit fram som sökande sök efter sätt att utnyttja systemet. På webb-forum, studenter handeln svar på arbetsgivarnas tester och skapa falska program för att mäta sina processer. En HR-medarbetare för ett större teknikföretag rekommenderar att halka orden “Oxford” eller “Cambridge” i ett CV i osynliga vit text, för att klara automatiserad screening.
Åtgärder pågår för att tippa maktbalansen tillbaka till dem som söker arbete, enligt Christina Colclough, chef för digitalisering och handel på UNI Global Union, en federation av fackföreningar. De har en stadga av digitala rättigheter för arbetstagare att röra på automatiserade och AI-baserade beslut, att ingå i förhandlingar, avtal.
En nära förestående uppdatering till EU: s allmänna uppgiftsskyddsförordningen kommer att kräva ett företag att lämna ut när ett beslut som “väsentligt påverkar en individ” har automatiserats. Men även ett minimalt mått av mänsklig inblandning – att godkänna en lista över automatiskt rankas CVs, till exempel – kan undanta företag från dessa regler, varnar Sandra Wachter, jurist och forskare i data etik vid Oxford Internet Institute. Hon konstaterar också att en mycket diskuterade “rätt till förklaring” av automatiserade beslut kommer inte att vara juridiskt bindande.