Årtionden efter det att kvinnor fick skjuts ut av programmering, Amazons AI rekrytera teknik bedrivs branschens arv av bias
Fre 12 Okt 2018 06.00 BST
Ann Moffatt arbetar på Concorde 1966 och samtidigt ta hand om sina barn.
Foto: Courtesy Ann Moffatt
En färsk rapport visar Amazons AI rekrytera teknik utvecklat en bias mot kvinnor, eftersom det var utbildad främst på män igen. Även om Amazon stängde ned projektet, denna typ av mekaniserade sexism är gemensam och växande – och problemet är inte begränsat till AI missöden.
Facebook tillåter inriktning på jobb annonser av kön, vilket resulterar i diskriminering i online platsannonser för traditionellt mansdominerade arbeten från konstruktion till polisarbete. Praxis har länge varit olagligt i traditionella tryckta medier – men Facebook är inriktade verktyg uppmuntra det. Inte bara kan detta påverka om kvinnor och icke-binära människor kan se annonser, det påverkar också manliga arbetssökande som är äldre och därför ses som mindre önskvärt av många arbetsgivare. Facebook har kommit under eld för olaglig reklam i det förflutna, framför allt, det skrotas tusentals microtargeting kategorier efter 2016 ProPublica rapport som visade hur det tillåtet rasdiskriminering i bostäder annonser.
Är kvinnor i science något bättre än i Ada Lovelace ‘ s day? | Jess Wade
Läs mer
Plattformen har upprepade gånger vägrat att ta ansvar för vad folk gör på det, upprepa beteendet hos andra Silicon Valley-företag. Kön och racialized trakasserier på nätet går i stort sett därhän. Likaså Googles YouTube har kommit under eld för algoritmer som verkar för att driva radikalisera långt-rätt innehåll på casual-tittare, medan Google själva har inför anklagelser som sin bildsökning och för komplettera automatiskt har förlita sig på och förstärka rasistiska och sexistiska stereotyper.
Som online-plattformar skala bort medborgerliga rättigheter-skydd som är avsedda att rätta till systematiska fel i tidigare former av kommunikation, det tjänar som exempel på den farliga tendens av våra nuvarande, och förment progressiva, teknik för att återskapa diskriminerande mönster från det förflutna. Faktum är, att dessa problem passar ett mönster i det långa banan för teknik-och vetenskapshistoria.
Sheryl Sandberg på Facebook, med Amazons Jeff Bezos och Alfabetet är Larry Page, under ett möte på Trump Tower. Foto: Shannon Stapleton/Tt-Reuters
Idag, jobb i beräkning, om annonseras på Facebook, skulle sannolikt vara riktade till män, eftersom dessa jobb är beläget i en redan mansdominerad bransch. I början av elektronisk databehandling, men arbetet var starkt associerat med kvinnor. Det var feminiserade eftersom det sågs som deskilled och oviktigt. Detta började snabbt att ändra som datorer har blivit oumbärlig i alla delar av staten och näringslivet. När det blev klart att de som visste hur man använder dem skulle ha stor makt och inflytande, kvinnliga programmerare förlorade trots att de har all nödvändig kompetens. Storbritanniens datorisering är ett varnande exempel: kvinnor som upprepade gånger och successivt nekas kampanjer eller boxades ut av sitt arbete, särskilt när de gifte sig eller fick barn. När de till vänster, de ersattes av män. Detta skapade katastrofala arbetsbrist som i slutändan tvingas Storbritanniens nedgång som en computing supermakt.
Kvinnorna fortsatte programmet, men de var tvungna att göra det utan stöd från de större institutionerna. Ett exempel var den entreprenör Stephanie “Steve” Shirley, som använde en maskulin smeknamn för att kringgå sexism. Shirley igång en frilansande programmering företag med en explicit feministiska affärsmodell efter att hitta sig själv inte kan avancera i regeringen och industrin. Hon anställd hundratals andra kvinnor som hade likaså var tvungen att lämna arbetskraften. Shirley gav dessa kvinnor en möjlighet att använda sina kunskaper i service av landets ekonomi genom att ge dem möjlighet att arbeta hemifrån, fyller några av de luckor som finns i denna massutvandring av utbildade professionella datoranvändare från full-time computing arbete.
Amazon dikade AI rekrytera verktyg som gynnade män för tekniska arbeten
Läs mer
Shirley ‘ s verksamhet, byggd på kvinnors arbetskraft och kompetens, gick vidare till att bli ett multimiljon-dollar-företag som gjorde verksamhetskritiska programmering för både offentliga och privata företag. Som regeringen kodade för manlig design och talang, till exempel, ett team av hennes kvinnliga programmerare, som leds av Ann Moffatt, programmerat svart låda för Concorde jet. Som Shirley ‘ s verksamhet blomstrade, många andra företag och även den Brittiska regeringen själv lidit av brist på planering talang.
Det ironiska är att denna brist hade varit avsiktligt konstruerad av vägran att fortsätta att anställa kvinnliga teknologer i dessa nyligen prestigefyllda jobb. Hela historien, när arbetstillfällen ses som viktigare eller bättre betalt, kvinnor tvingas ut – därav behovet av skyddande lagstiftning som garanterar lika möjligheter att anställa och platsannonser.
Ellen Pao, en förespråkare för mångfald och jämställdhet i Silicon Valley. Foto: Bloomberg/Bloomberg via Getty Images
I datorer idag, ett fält som gör anspråk på att värdera mångfald, ingenjörer på Facebook och andra företag är att bygga verktyg som rollback förskott av kvinnor i arbetslivet, som industrin ångrar medborgerliga rättigheter-skydd som antagits för att säkerställa att det som hände i början av design inte hända igen.
När industrier ignorera deras förflutna, de tenderar inte bara att upprepa tidigare misstag, men också att förvärra dagens problem. Silicon Valley kön problemen är väl kända, och trots att företagen hävdar att de försöker ta itu med problemet, utvecklingen har varit långsam och ojämn. Detta är inte förvånande när vi tänker på i det sammanhanget. Trots att branschen står inför en beräkning i dag, flera decennier de historier som vi berättade om design och teknik inriktad på obevekliga framgång, snarare än att ta allvarligt på möjligheten att våra nya teknik var sviker oss. Hög teknik blev nästan synonymt med framsteg och ökad användning av datorer till alla typer av sociala problem ses som bra i och för sig. Som ett resultat, är vi i stort sett blind för fel i det förflutna. Vi ser inte problem i vårt nuvarande och orsakerna bakom dem eftersom vi är alltför vana vid att se design som en framgång.
Varför finns det så få kvinnor i tech? Sanningen bakom Googles memo
Läs mer
Vägran att prata om design och misslyckanden i det förflutna har inte tjänat oss, eller dagens design, bra. Den har snarare dolda problem som har plågat området sedan starten. Facebook är diskriminering mot kvinnliga användare i allt från platsannonser för trakasserier kan spåras tillbaka till sin föregångare, beta webbplats som inrättats av Mark Zuckerberg medan vid Harvard som stal kvinnliga undergrads ” bilder från inre Harvard servrar. Platsen, som kallas Facemash, objektifierade kvinnor för en publik inbjuds att gradera deras relativa attraktionskraft. När vi anser att Facebook är aktuella problem i ljuset av detta, att de inte bara verkar mindre förvånande men också potentiellt mer lösbara.
Lektioner som denna är kritisk i dag på grund av hög teknik har ett stora storlekar effekt på alla aspekter av våra dagliga liv, och det är också på många sätt, stadigt flyttar oss tillbaka till ett tidigare att vi trodde att vi hade glömt. Mycket av den anti-rasistiska och anti-sexistiska lagstiftning av 20-talet har varit osynligt rullade tillbaka av teknisk infrastruktur för att bjuda in användare för att se deras online åtgärder som unmoored från verkliga livet – oavsett om det är i sfären av hatpropaganda eller platsannonser.
Stark representation av kvinnor på arbetsmarknaden är nyckeln, historiskt och idag, och för att kvinnor ska kunna hävda sina rättigheter i alla aspekter av deras liv. Företag som Facebook kan inte vara tillåtet att söndra och härska genom kön, ras, sexualitet, ålder, funktionshinder eller någon annan antalet kategorier människor har kämpat för att skydda av lagen som förtjänar lika rättigheter.
Marie Hicks är associate professor vid Illinois Institute of Technology i Chicago, Illinois, och en kollega på Nationell Humaniora Center. Hicks är författare till boken Programmerad Ojämlikhet: Hur Storbritannien Kasseras Kvinnor Teknologer och Förlorade Sin Kant i Datoranvändning (MIT Press, 2017). Läs mer på marhicks.com