Flere tiår etter at kvinner ble presset ut av programmering, Amazon ‘ s AI rekruttere teknologi gjennomført på bransjens arv av bias
Fre 12 Okt 2018 06.00 BST
Ann Moffatt arbeider på Concorde i 1966, mens omsorg for sin unge barn.
Foto: Gjengitt Med Tillatelse Ann Moffatt
En fersk rapport viser Amazon AI rekruttere teknologi utviklet en bias mot kvinner fordi det var utdannet hovedsakelig på menn fortsetter. Selv om Amazon slår prosjektet ned, denne typen av mekanisert sexisme er vanlig og vokser – og problemet er ikke begrenset til AI uhell.
Facebook lar målretting av jobben annonser av kjønn, noe som resulterer i forskjellsbehandling i online jobb reklame for tradisjonelt mannsdominerte jobber fra konstruksjon til politiarbeid. I praksis har lenge vært ulovlig i tradisjonell print media – men Facebook er målrettet mot verktøy oppmuntre til det. Dette kan ikke bare påvirke om kvinner og ikke-binær folk kan se annonser; det påvirker også mannlige arbeidssøkere som er eldre og derfor sett på som mindre ønskelig av mange arbeidsgivere. Facebook har kommet under ild for ulovlig praksis i forbindelse med annonsering i det siste: spesielt, det blir tusenvis av microtargeting kategorier etter 2016 ProPublica rapporten viste hvordan det tillatt rasistisk diskriminering i bolig-annonser.
Er kvinner i vitenskapen noe bedre enn i Ada Lovelace ‘ s day? | Jess Vasse
Les mer
Plattformen har gjentatte ganger nektet å ta ansvar for hva folk gjør på det, som et ekko av atferden til andre Silicon Valley-selskapene. Gendered og racialized trakassering online går i stor grad ukontrollert. Likeledes, Googles YouTube har kommet under ild for algoritmer som ser ut til å presse radicalizing høyre innhold til uformell seere, mens Google selv har blitt utsatt for beskyldninger om at dets bilde søk og autofullfør funksjoner stole på og styrke rasistiske og sexistiske stereotypier.
Som online-plattformer-kan strippe bort sivile rettigheter, beskyttelse ment å korrigere for skjevheter i tidligere former for kommunikasjon, det fungerer som et eksempel på den farlige tendensen i vår nåværende, og tilsynelatende progressiv, teknologier for å re-opprette diskriminerende mønstre fra fortiden. Faktisk, disse problemene passer inn i et mønster i det lange banen historie og teknologi.
Sheryl Sandberg av Facebook, med Amazon Jeff Bezos og Alfabetet er Larry Page, under et møte på Trump Tower. Foto: Shannon Stapleton/Reuters
I dag jobber i databehandling, hvis annonsert på Facebook, vil trolig være rettet mot menn, fordi disse jobbene er lokalisert i et allerede mannsdominert felt. I de tidlige dager av elektronisk databehandling, men arbeidet var sterkt assosiert med kvinner. Det var feminized fordi det ble sett på som deskilled og uviktig. Dette begynte raskt å endre som datamaskiner ble uunnværlig i alle områder av myndigheter og industri. Når det ble klart at de som visste hvordan å bruke dem ville ha stor makt og innflytelse, kvinnelige programmerere tapt ut til tross for å ha alle de nødvendige ferdigheter. Storbritannias databehandling er en advarende historie: kvinner var flere ganger og stadig nektet kampanjer eller eske ut av jobbene sine, spesielt når de er gift eller hadde barn. Da de dro, ble de erstattet av menn. Dette skapte katastrofale arbeidskraft mangel som til slutt tvunget Storbritannias nedgang som en computing supermakt.
Kvinner fortsatte å programmere, men de hadde å gjøre det uten støtte fra store institusjoner. Et eksempel var entreprenør Stephanie “Steve” Shirley, som brukte en maskulin kallenavn for å omgå sexisme. Shirley startet en freelance programmerer selskap med en eksplisitt feministisk forretningsmodell etter å finne seg selv ute av stand til å avansere i regjeringen og industrien. Hun er ansatt hundrevis av andre kvinner som hadde tilsvarende måtte forlate arbeidsstyrken. Shirley ga disse kvinnene en mulighet til å bruke sine ferdigheter i tjeneste for landets økonomi ved å gi dem muligheten til å jobbe hjemmefra, å fylle noen av hullene som er igjen av denne utvandringen av trent datamaskinen fagfolk fra full-time computing arbeid.
Amazon ditched AI rekruttere verktøy som favoriserte menn for tekniske jobber
Les mer
Shirley business, bygget på kvinners arbeidskraft og kompetanse, gikk videre til å bli en multimillion-selskap som hadde oppdrag-kritisk programmering for offentlige myndigheter og det private næringsliv. Som regjeringen eggerøre for mannlige computing talent, for eksempel, et team av hennes kvinnelige programmerere, ledet av Ann Moffatt, programmert den svarte boksen for Concorde-jet. Som Shirley business blomstret, mange andre selskaper, og selv den Britiske regjeringen selv har lidd på grunn av mangel på programmering talent.
Det ironiske er at denne mangel hadde blitt bevisst konstruert av de nektet å fortsette å ansette kvinnelige teknologer i disse nylig prestisjetunge jobber. Gjennom historien, når jobbene blir sett på som mer viktig, eller er bedre betalt, kvinner blir presset ut – derfor er det behov for beskyttende lovverk som sikrer likestilling ved ansettelser og stillingsannonsene.
Ellen Pao, en talsmann for mangfold og likestilling i Silicon Valley. Foto: Bloomberg/Bloomberg via Getty Images
I forbindelse med databruk i dag, et felt som hevder å verdsette mangfold, ingeniører på Facebook og andre selskaper er å bygge verktøy som driver fremskritt av kvinner i arbeidsstyrken, som bransjen angrer den sivile rettigheter, beskyttelse vedtatt for å sikre at det som skjedde i begynnelsen av computing ikke skje igjen.
Når næringer ignorere deres fortid, har de en tendens til ikke bare å gjenta tidligere feil, men også til å forverre dagens problemer. Silicon Valley-kjønn problemene er kjent, og til tross for selskapenes krav om at de prøver å løse problemet, fremgang har vært langsom og ujevn. Dette er ikke overraskende når vi ser på sammenhengen. Selv om bransjen står overfor en tidsregning i dag, i flere tiår historiene som vi fortalte om computing teknologien fokusert på ubønnhørlige suksess, snarere enn å ta på alvor muligheten for at vår nye teknologier ble sviktet oss. Høy teknologi ble nesten synonymt med fremgang og større anvendelse av computing til alle slags sosiale problemer ble sett på som et gode i seg selv. Som et resultat, er vi i stor grad blind for feilene fra fortiden. Vi klarer ikke å se problemene i våre nåværende og årsakene bak dem fordi vi er for vant til å se computing som en suksesshistorie.
Hvorfor er det så få kvinner i tech? Sannheten bak Google memo
Les mer
De nektet å snakke om databehandling er feil i fortiden ikke har tjent oss, eller dagens computing, vel. Snarere, det har skjulte problemer som har plaget feltet siden starten. Facebook er diskriminerende praksis overfor kvinnelige brukere i alt fra jobb annonser for trakassering kan spores tilbake til sin forgjenger, beta-nettstedet er satt opp av Mark Zuckerberg, mens på Harvard som stjal kvinnelige undergrads’ bilder fra internt Harvard-servere. Området, som er kjent som Facemash, objekter kvinner for et publikum invitert til å rangere sine relative attraktivitet. Når vi mener Facebook er aktuelle problemstillinger i lys av dette, er de ikke bare virke mindre overraskende, men også potensielt mer løsbar.
Leksjoner som dette er kritisk i dag på grunn av høy teknologi har en øket effekt på alle aspekter av vårt daglige liv, og det er også, på mange måter, stadig beveger oss tilbake til en fortid som vi trodde vi hadde glemt. Mye av den anti-rasistiske og anti-diskriminerende lovgivning i det 20. århundre har vært usynlig rullet tilbake av teknisk infrastruktur som inviterer brukere til å se deres online handlinger som unmoored fra det virkelige liv – enten i riket av hatefulle ytringer eller jobb reklame.
Sterk representasjon av kvinner i arbeidsmarkedet er viktig, historisk og i dag, for kvinner å være i stand til å hevde sine rettigheter i alle aspekter av deres liv. Selskaper som Facebook ikke kan få lov til å splitt og hersk av kjønn, rase, seksualitet, alder, uførhet eller andre rekke kategorier mennesker har kjempet for å beskytte ved lov som fortjener like rettigheter.
Marie Hicks er førsteamanuensis ved Illinois Institute of Technology i Chicago, Illinois, og en stipendiat ved det Nasjonale Humaniora Center. Hicks er forfatter av boken Programmert Ulikhet: Hvordan Storbritannia Forkastet Kvinner Teknologer og Mistet Sin Kant i Databehandling (MIT Press, 2017). Les mer på marhicks.com