Årtier efter kvinder, der var skubbet ud af programmering, Amazon ‘ s AI rekruttere teknologi, der transporteres på branchens arv af bias
Fre 12 Okt 2018 06.00 BST
Ann Moffatt, der arbejder på Concorde i 1966, mens omsorg for hendes barn.
Foto: Venligst Udlånt Ann Moffatt
En nylig rapport viste, at Amazon ‘ s AI rekruttere teknologi udviklet en bias mod kvinder, fordi det blev uddannet overvejende på mænds genoptages. Selv om Amazon lukke projektet ned, denne slags mekaniseret sexisme er fælles og voksende – og problemet er ikke begrænset til AI uheld.
Facebook giver mulighed for at målrette annoncerne efter køn, hvilket resulterer i diskrimination i online jobannoncer for traditionelt mandsdominerede job fra byggeri til politiarbejde. Den praksis har længe været ulovligt i de traditionelle trykte medier – men Facebook er målrettet værktøjer opfordre til det. Ikke alene kan dette påvirke, om kvinder og ikke-binære folk kan se annoncer; det påvirker også mandlige job-og uddannelsessøgende, der er ældre og derfor opfattes som mindre ønskelig af mange arbejdsgivere. Facebook er kommet under beskydning for ulovlig reklame praksis i fortiden: navnlig, den skrottet tusindvis af microtargeting kategorier efter en 2016 ProPublica rapport, der viste, hvordan det må racediskrimination i boliger annoncer.
Er kvinder i videnskab nogen bedre stillet end i Ada Lovelace dag? | Jess Wade
Læs mere
Platformen har gentagne gange nægtet at tage ansvar for, hvad folk gøre på det som et ekko af den adfærd af andre Silicon Valley-virksomheder. Kønnede og racialized chikane online går stort set uhindret. Ligeledes, Google ‘ s YouTube har kommet under beskydning for algoritmer, der synes at skubbe radicalizing langt rigtige indhold på casual seere, mens Google selv har stået over for beskyldninger om, at landets image search og autofuldførelse funktioner stole på og styrke racistiske og sexistiske fordomme.
Som online platforme fratage væk beskyttelsen af borgernes rettigheder til formål at rette skævheder i tidligere former for kommunikation, det tjener som et eksempel på den farlige tendens i vores nuværende, og angiveligt progressive, teknologier til at genskabe diskriminerende mønstre fra fortiden. Faktisk, er disse problemer passer ind i et mønster på den lange bane i historien om teknologi.
Sheryl Sandberg på Facebook, med Amazons Jeff Bezos, og Alfabet ‘ s Larry Page, under et møde på Trump Tower. Foto: Shannon Stapleton/Reuters
I dag, job inden for it, hvis der reklameres på Facebook, vil være målrettet til mænd, fordi disse arbejdspladser er beliggende i en allerede mandsdomineret felt. I de tidlige dage af elektronisk databehandling, men det arbejde, der var stærkt forbundet med kvinder. Det var feminiserede, fordi det blev set som deskilled og ligegyldig. Det begyndte hurtigt at ændre sig, da computere blev nødvendig på alle områder af det offentlige og erhvervslivet. Når det blev klart, at dem, der vidste, hvordan man bruger dem ville have stor magt og indflydelse, kvindelige programmører tabte på trods af at have alle de nødvendige kompetencer. Storbritanniens edb er en fortælling: kvinder, der var flere gange, og gradvist nægtet kampagner eller boxed ud af deres job, især når de er gift eller havde børn. Da de tilbage, de blev erstattet af mænd. Dette skabte katastrofale mangel på arbejdskraft, der i sidste ende tvunget Storbritanniens falde som en computing supermagt.
Kvinder fortsatte med at programmere, men de var nødt til at gøre det uden støtte fra de store institutioner. Et eksempel var iværksætter Stephanie “Steve” Shirley, der brugte en maskulin kaldenavn til at undvige sexisme. Shirley startede en freelance programmering selskab med en eksplicit feministiske forretningsmodel efter at finde sig selv ude af stand til at rykke i regeringen og industrien. Hun er ansat hundredvis af andre kvinder, der havde ligeledes været nødt til at forlade arbejdsstyrken. Shirley gav disse kvinder en mulighed for at bruge deres færdigheder til gavn for landets økonomi ved at give dem mulighed for at arbejde fra hjemmet, fylde nogle af de huller, der er efterladt af denne udvandring af veluddannede computer fagfolk fra fuld tid computing arbejde.
Amazon droppet AI rekrutteringsværktøj, der begunstigede mænd for tekniske job
Læs mere
Shirley ‘ s forretning, der er bygget på kvinders arbejdskraft og ekspertise, gik på at blive en multimillion-dollar corporation, der gjorde mission-kritiske programmering for det offentlige og det private erhvervsliv. Som regeringen forvrænget for mandlige computing talent, for eksempel, et team af hendes kvindelige programmører, der ledes af Ann Moffatt, programmeret den sorte boks til Concorde-jet. Som Shirley ‘ s forretning blomstrede, og mange andre virksomheder og selv den Britiske regering, der selv har været udsat for manglende programmering talent.
Det ironiske er, at denne mangel havde været bevidst manipuleret ved afslag på at fortsætte med at ansætte kvindelige teknikere i disse nyligt prestigefyldte job. Gennem historien, når arbejdspladser er set som mere vigtigt, eller er bedre betalt, kvinder er presset ud – derfor er det nødvendigt, beskyttende lovgivning, der sikrer lige muligheder for ansættelse og jobannoncer.
Ellen Pao, en fortaler for mangfoldighed og ligestilling i Silicon Valley. Foto: Bloomberg/Bloomberg via Getty Images
I computing i dag, et felt, der hævder at værdsætte forskellighed, ingeniører hos Facebook og andre virksomheder, der er ved at bygge værktøjer, der rollback forskud af kvinder i arbejdsstyrken, som industrien fortryder de beskyttelsen af borgernes rettigheder blev vedtaget for at sikre, at hvad der skete i begyndelsen computing ikke ske igen.
Når industrier ignorere deres fortid, at de har en tendens til ikke kun at gentage tidligere fejltagelser, men også til at forværre de aktuelle problemer. Silicon Valley ‘ s køn problemer er velkendte, og på trods af virksomheder hævder, at de forsøger at løse problemet, og udviklingen har været langsom og ujævn. Dette er ikke overraskende, når vi betragter den sammenhæng. Selv om branchen står over for et opgør i dag, for årtier historier, som vi fortalte om design og teknologi med fokus på ubønhørlige succes, snarere end at tage alvorligt muligheden for, at nye teknologier var ikke os. Høj teknologi blev nærmest synonym med fremskridt og større anvendelse af edb til alle slags sociale problemer, der blev set som et gode i sig selv. Som et resultat, vi er stort set blind for fortidens fejl. Vi ser ikke problemer i vores nuværende og årsagerne til dem, fordi vi er alt for vant til at se design som en succeshistorie.
Hvorfor er der så få kvinder i tech? Sandheden bag Google memo
Læs mere
En afvisning af at tale om computing er fejl i fortiden ikke har tjent os, eller i dag computing, godt. Snarere, det har skjulte problemer, der har plaget området siden dens begyndelse. Facebook er diskriminerende praksis over for kvindelige brugere i alt fra stillingsopslag til chikane kan spores tilbage til dens forgænger, beta websted, der er oprettet af Mark Zuckerberg, mens på Harvard, som stjal kvindelige bachelorstuderende’ billeder fra den interne Harvard-servere. Stedet, der er kendt som Facemash, objektiveret de kvinder, for et publikum inviteret til at vurdere deres relative attraktivitet. Når vi betragter Facebook ‘ s aktuelle problemer i dette lys, at de ikke blot synes mindre overraskende, men også potentielt mere løselige.
Erfaringer, som denne er afgørende i dag, fordi high-teknologi har en stor effekt på alle aspekter af vores daglige liv, og det er også, på mange måder, støt bevæger os tilbage mod en fortid, som vi troede vi havde glemt. Meget af den anti-racistiske og anti-sexistiske lovgivningen i det 20 århundrede har været usynligt rullet tilbage af teknisk infrastruktur, der inviterer brugere til at se deres online-aktioner som unmoored fra det virkelige liv – uanset om det er i realm af hadefuld tale eller jobannoncer.
En stærk repræsentation af kvinder på arbejdsmarkedet er afgørende, historisk og i dag, for kvinder at være i stand til at hævde deres rettigheder i alle aspekter af deres liv. Virksomheder som Facebook ikke kan få lov til at dele og herske med hensyn til køn, race, seksualitet, alder, handicap, eller nogen anden række kategorier, som folk har kæmpet for at beskytte af loven, som fortjener lige rettigheder.
Marie Hicks er lektor ved Illinois Institute of Technology i Chicago, Illinois, og en fyr på de Nationale Humanistiske Center. Hicks er forfatter til bogen Programmeret Ulighed: Hvordan Storbritannien Kasseret Kvinder Teknologer og Mistet Sin Kant i it (MIT Press, 2017). Læs mere på marhicks.com