Seksuell trakassering og famlende beskyldninger mot en suspendert forsker er en del av en industri kultur som condones diskriminerende atferd, kvinner si

‘It was a worst nightmare situation for me.’

Kunstig intelligens (AI)

Som Google AI forsker beskyldt for trakassering, kvinnelige data forskere snakker om ‘broken system’

Seksuell trakassering og famlende beskyldninger mot en suspendert forsker er en del av en industri kultur som condones diskriminerende atferd, kvinner si

i San Francisco

@SamTLevin

e-post

Fri Dec 22 ’17 11.00 GMT

Sist endret på Fri Dec 22 ’17 14.37 GMT

Katherine Heller følte seg hjelpeløse. Duke University professor var på en statistikk konferansen i fjor, da, sa hun, hun var Steven Scott, en ledende kunstig intelligens (AI) forsker på Google, gjør seksuelle tilnærmelser på en av hennes kvinnelige studenter.

I henhold til Heller, da hun talte til Scott senere på et arrangement middag, han var defensiv og fortalte læreren at hun skal være fin til ham med tanke på at han hadde sikret henne en Google-finansiert fakultet research award.

Q&A Hva er INTELLIGENS?

Vis

Skjul

Kunstig Intelligens har ulike definisjoner, men generelt betyr det at et program som bruker data til å bygge en modell av noen aspekter av verden. Denne modellen er deretter brukt for å ta informerte beslutninger og spådommer om fremtidige hendelser. Teknologien brukes mye, for å gi tale og ansiktsgjenkjenning, language translation, og personlige anbefalinger av musikk, film og shopping-områder. I fremtiden, det kan levere driverfri biler, smart personlige assistenter, og intelligente strømnett. AI har potensial til å gjøre organisasjoner mer effektive, men teknologien reiser alvorlige spørsmål om etikk, og selskapsledelse, personvern og lov.

Var dette nyttig?

Takk for din tilbakemelding.

“Det var ganske sjokkerende at han ville si noe sånt som,” sa Heller, 38, som hevdet at Scott hadde også prøvd å kysse henne i en heis på en konferanse i 2010, og tvinger henne til å presse ham ut. “Det var urovekkende hva som hadde skjedd med min student. Det var en verste mareritt situasjon for meg som en kvinnelig rådgiver til en kvinnelig student.”

Dagen etter hendelsen, Heller, sa hennes student var urolige og snakket om å slippe ut av feltet for første gang. Gitt at Scott var ikke ansatt av henne universitetet, Heller ikke visste hvordan hun kunne rapportere sin atferd.

I forrige uke, etter seksuell trakassering og famlende påstander av en annen kvinne i data vitenskap, Google suspendert Scott. Episoden merker den siste seksuelle krenkelser kontrovers å treffe tech sektor og akademia på en tid da kvinner i Silicon Valley, underholdning og media er offentlig snakker ut i posten tall, styrket av viral #MeToo kampanje.

Påstandene mot Scott, som avviste å kommentere, har skinte et sterkt lys på trakassering i mannsdominert felt av statistikk, data vitenskap og maskinlæring. Noen sa uredelighet var vanlig – særlig på konferanser som blander profesjonelt arbeid med sosialt samvær – og det seriell harassers sjelden ansikt konsekvenser.

I noen tilfeller, seksuelle krenkelser har presset kvinner ut av feltet helt. Utover den personlige ødeleggelsene, det er skader på lang sikt for maskinlæring og kunstig INTELLIGENS, en sektor som er dramatisk omforming av samfunnet, noen ganger med kraftig teknologi plaget av skadelige fordommer.

Kvinner har vært å dele historier i kjølvannet av innlegget av Kristian Lum, en statistiker på Menneskerettigheter Data Analysis Group. I et intervju Lum sa at hun håpet hennes historie vil hjelpe andre kvinner kommer frem.

“Jeg kan ikke tilbringe resten av livet på å gå rundt å prøve å blokkere folk som jeg vet er dårlige skuespillere,” sa Lum, 33. “Det tar en følelsesmessig toll … Det vi virkelig trenger er en bredere samtale og kultur endring.”

S flere ganger tok meg under vann, å legge sine hender på mitt torso, hofter og lår

Kristian Lum

Lum innlegget ikke navnet Scott, men Bloomberg og andre kilder har bekreftet at han er mannen som er identifisert som en “S” i hennes historie. En Google-talskvinne også bekreftet Scotts suspensjon.

I hennes viral Middels post, Lum sa S var den “verste synderne” i feltet og som på en 2010-konferansen, og han ble glad i henne og en venn “som handler interessert i vår forskning”. Men mens du svømmer med en gruppe av deltakerne på konferansen, skrev hun, “S gjentatte ganger tok meg under vann, å legge sine hender på mitt torso, hofter og lår”.

Han plukket henne opp og bar henne bort, fortsatte hun: “jeg slet med, forsiktig på først, og deretter mer kraftig, og han lot meg gå.” Andre var målrettet, sa hun: “Han nådeløst presset min venn, en kvinnelig graduate student, til å ha sex med ham.”

På en Google-resepsjon, et par år senere, S stod bak Lum og snakket høyt om “stanger smokin’ hot chicks”, og da hun ga ham en titt, “svarte han at jeg var litt sjalu på at han snakket ikke om meg”, skrev hun.

Etter den påståtte famlende hendelsen i 2010, hun sa at hun ble stadig mer frustrert med den kulturen som condones denne type atferd, og bidrar til hennes beslutning om å forlate akademia.

“Jeg følte meg virkelig flau av det hele,” sa hun i et intervju, og legger til: “Det var i sannhet en kritisk masse av mennesker som visste det, og egentlig ingenting ble gjort om noe av dette.”

Scott nektet å svare på en detaljert liste over påstandene, og siterer Google ‘ s pågående etterforskningen.

I sitt innlegg, Lum også sa en professor hadde nylig gjort en offensiv spøk om seksuelle overgrep og hadde sendt henne Facebook meldinger, og referere til sex og porno. Han ble senere identifisert som Bradley Carlin, University of Minnesota biostatistikk professor, som har sendt en unnskyldning om hans “dårlig gjennomtenkte spøk” til the Guardian, og nektet å kommentere videre i påvente av et universitet etterforskning.

‘Vi mister rollemodeller”

Siden hun publiserte sin historie, Lum sa at hun hadde hørt fra mange kvinner med lignende historier og flere som sa de venstre felt, eller var vurderer å forlate på grunn av trakassering.

Heller sagt at hun var ivrig etter å selv rapporterer Scott til henne universitetet, selv om det var lite skolen kan gjøre om en forsker ved et privat selskap.

“Jeg var bekymret for hvilke konsekvenser dette kan ha for min karriere. Og det er ingenting i forhold til hvilke konsekvenser dette kan ha for min student ‘ s karriere,” sa hun, og legger til at selv om noen kvinner er nå føler seg mer modigere til å snakke opp “mange mennesker er fortsatt redd for å komme videre”.

Systemet er så ødelagt. Så mye mer av det påhviler er plassert på offeret enn harasser

Amy Cho

Lum er vel klar over viktigheten av mangfold i sitt felt. Hun har forsket på intelligent politi programmer, utsette hvordan mangelfulle data og AI kan replikere og forverre rasistisk partisk politi praksis.

“Vi mister rollemodeller for neste generasjon av kvinner, sa hun. “Når du mister en forsker, du taper uansett fremskritt de har gjort.”

Algoritmene har også lidd av kjønn skjevheter. Det ble nylig avslørt at Google Translate var å produsere diskriminerende resultater med automatisk matching mannlige pronomen til visse yrker og trekk.

Amy Cho, co-grunnlegger av en utdanning oppstart som er i bruk av AI, sa hun sluttet i en tidligere tech jobb på grunn av seksuell trakassering og HR er mangel på respons.

“Systemet er så ødelagt. Så mye mer av det påhviler er plassert på offeret enn harasser.”

Sårbare høyere grads studenter kan velge ikke å rapportere dårlig i det hele tatt og i stedet la feltet, sa Lisa Lendway, en Macalester College statistikk professor.

“Det er vanskelig nok å gå gjennom et program. Å ha det på toppen av det, ville jeg sannsynligvis har bare slutte.”

Kontakt forfatter: sam.levin@theguardian.com