AI som Microsofts Tay visa varför vi behöver fler kvinnor i teknisk – och hur den mansdominerade branschen är inte att tänka på sina verkliga motsvarigheter
Tay, Microsofts artificiell intelligens chatbot.
Foto: Microsoft
Måndag 28 Mars 2016 22.30 BST
Senast uppdaterad tisdag 29 Mars 2016 17.18 BST
Nu har du har säkert hört historien om Tay, Microsofts sociala AI experiment som gick från “vänliga tusenåriga girl” till folkmord kvinnohatare i mindre än en dag. Medan Tay lovat att lära sig från sina interaktioner med människor på nätet, Microsoft tydligen inte lärt sig något från de otaliga rubriker om hur Twitter-användare gillar att prata med synliga kvinnor – allt från glatt anarkistisk trolling för hot och övergrepp – annars skulle det ha sett detta komma.
Vid första, Tay ‘ s story verkar som en rolig en för alla som är intresserade av varnande sci-fi. Vad betyder det för framtiden av artificiell intelligens om en bot kan förkroppsliga de värsta aspekterna av den digitala kulturen efter bara 16 timmar på nätet? Om någon AI är mot bakgrund av människan för att studera på blixtens hastighet, kommer det oundvikligen att vända det onda? Kommer framtiden att vara en skapande av innehåll kampen för deras själar?
Men Tay var inte en bra AI, och på Microsoft ‘ s del, det här var inte en bra idé. Allt det skulle ha tagit att veta att detta skulle ha varit en grundläggande nivå av dialog med kvinnor i teknik – och ingenting skrämmer den här branschen mer.
På senare år har vi haft två mycket bra filmer om artificiell intelligens: I Spike Jonze är Hennes, en fånig Joaquin Phoenix twiddles hans väg in i en idyllisk relation med sin charmiga operativsystem, spelad av Scarlett Johansson. I Ex Machina, Oscar Isaac spelar en damningly rimligt tech zillionaire heter Bateman (som American Psycho) som bjuder in lika trolig start geek Caleb Turing-test Ava, hans fey, vacker AI-skapelse.
Båda filmerna har latent kön-svalt män som är omedvetna om sina egna konstigheter. Hennes retrofuturist estetiska – trä paneler, hög midja byxor – skapar ett noggrant utvalt tidlöshet och en återgång till en tid av teknisk optimism, men också försiktigt belyser de arresterade utveckling av en man som faller i kärlek med en talande enhet som bor i hans ficka.
Ex Machina är mindre typ: både öppet unsymphatisch tyrann Bateman och vill bli hans skyddsling, Caleb, känner Silicon Valley karikatyrer som tafatt fumla genom träning och whisky tillsammans. Betraktaren kan även vara invaggade i tron att Caleb, en fånig, rufsig “trevlig kille” som bestämmer sig för att rädda Ava från hårig grepp om hennes skapare, förtjänar att rida iväg i solnedgången med henne, ett tecken på hans seger över mer dystopisk, öppet kvinnofientliga Bateman.
Båda dessa filmer slutet med den kvinnliga AI överlista henne skulle-vara-älskare, ägare och byggare, lämnar män förbryllad och tittaren med en känsla av undergång. Vi känner att vår skräck för framtiden – och den tekniska industrin är terror för kvinnor att gå prydligt hand i hand mot horisonten när eftertexterna rullar.
I Spike Jonze s
Henne, en fånig Joaquin Phoenix twiddles hans väg in i en idyllisk relation med sin charmiga operativsystem, spelad av Scarlett Johansson. Foto: ej angiven/AP
Det är passande att våra modern skönlitteratur om AI bör gå hand i hand med skräck-fast historier om män underlåtenhet att korrekt uppskatta kvinnor. Allt, AI hjälpare från Apples Siri och Microsoft är Cortana att prata hem termostater, GPS och fitness program som standard en kvinnlig röst, som massor av forskning visar att både manliga och kvinnliga konsumenter föredrar det. Troliga förklaringar till detta är många och förmodligen driven av sociala villkor – vi vill att våra virtuella assistenter verkar smidig och icke-hotande, behöriga, men inte dominerande. Kanske AI utveckling påverkas också av de geek-kultur perfekt för att vara omväxlande service och uppmuntras av en surt förvärvade digital princess – nostalgiska science fiction-fantasier av vita killar kör massor av saker i Silicon Valley, så varför inte begreppet AI?
Oavsett orsaken, rösterna av kvinnor – och deras skapare’ invanda begrepp i modern kvinnlighet – leder AI gräns. Men vi har ingen anledning att tro att den mansdominerade teknik branschen förstår oss på alla. Siri och hennes kohort, till exempel, vet hur man ska svara för att hälsa kriser som suicidalitet men inte vet vad våldtäkt är. Dessa robot kvinnor har inget svar för frågor om våld i hemmet, som en gemenskap av verkliga kvinnor skulle. Siri är beslutsfattare hade tydligen inte tänkt på nödsituationer främst relevant för kvinnor. I själva verket, Siri även insisterar hon har inget kön – men kvinnors tal är mer än bara en röst hörs – det påstås innebär ordet val också. De luftkonditionerade en kvinna och sedan försökt att neutralisera henne.
Detta är, naturligtvis, ännu ett exempel på varför vi behöver fler kvinnor i teknik – och hur branschen är att inte lyssna till de av oss som redan är här. Trots läpparnas bekännelse att “mångfald”, de som pusha för det på sin arbetsplats är faktiskt sannolikt kommer att straffas. Det var nyligen en hel toppmötet på South by Southwest dedikerade till att hitta lösningar för kränkande tal riktad till kvinnor och personer med färg online – isolerade bort från de främsta konferens-och enligt uppgift deltog endast av några få tappra själar redan är medveten om problemet. Vi har fått ett tydligt budskap om att kvinnors säkerhet på nätet är inte ett problem tech-industrin är lösa, att de kanske inte ens tror att det är ett problem.
Hur kunde någon tro att skapa en ung kvinna och bjuda in främlingar för att interagera med henne på sociala medier skulle göra Tay “smartare”? Hur kan historien om Tay mötas med sådana företagsobligationer gav, så sent ursäkt? Varför har ingen på Microsoft känner redan från början att det här skulle hända, när alla av oss kvinnliga journalister, aktivister, spelutvecklare och ingenjörer som live på nätet varje dag och kunde ha förutsett det – pratar om det hela tiden?
Svaret kan inte bli något annat än ren förakt. Industrin vill använda kvinnors röster, men har fortfarande inga planer på att faktiskt lyssna på dem. Om empati är kärnan i den framtida artificiell intelligens, oroa dig inte – Singulariteten är fortfarande ganska långt borta, oavsett hur många skrämmande Förintelsen-att förneka, rasistiska, anti-feministiska vit tusenåriga-robotar Microsoft “misstag” leker.