AI såsom Microsoft ‘ s Tay vise, hvorfor vi skal have flere kvinder i tech – og hvordan mandsdomineret branche, er ikke til at overveje deres virkelige modstykker
Tay, Microsofts kunstig intelligens chatbot.
Foto: Microsoft
Mandag, 28 Marts 2016 22.30 BST
Sidst opdateret tirsdag den 29 Marts 2016 17.18 BST
Ved nu du har sikkert hørt historien om Tay, Microsoft ‘ s sociale AI eksperiment, der gik fra “venligt tusindårige pige” til folkedrabets misogynistiske i mindre end en dag. Mens Tay lovet at lære fra hendes interaktion med mennesker online, Microsoft tilsyneladende ikke har lært noget fra de utallige overskrifter om, hvordan Twitter-brugere, der kan lide at tale med synlige kvinder – alt fra triumferende anarkistisk trolling for trusler og overgreb – ellers ville det have set det komme.
Ved første, Tay ‘ s historie virker som en sjov én for alle, der er interesseret i skræmmende sci-fi. Hvad betyder det for fremtiden for kunstig intelligens, hvis en bot kan være udtryk for den værste aspekter af digital kultur efter blot 16 timer online? Hvis AI er i betragtning af den enorme mængde af menneskelig skabelse for at studere på lyn hastighed, vil det uundgåeligt bliver onde? Vil fremtiden være en skabelse af indhold kamp for deres sjæl?
Men Tay var ikke en meget god AI, og på Microsoft ‘ s side, det var ikke en meget god idé. Alt det ville have taget at vide, at dette ville have været et grundlæggende niveau i dialog med kvinder i tech – og intet skræmmer denne branche mere.
I de senere år har vi haft to meget god film om kunstig intelligens: I Spike Jonze ‘ s med Hende, en fedtmule Joaquin Phoenix twiddles hans vej ind i en idyllisk forhold med sin charmerende operativsystem, der er fremført af Scarlett Johansson. I Ex Machina, Oscar Isaac spiller en damningly plausible tech zillionaire kaldet Bateman (som American Psycho), der opfordrer lige så plausibel start nørd Kaleb, at Turing-test Ava, hans fey, smuk AI skabelse.
Begge film har latent sex-hungrende mænd, der er uvidende om deres egen skøre. Hende ‘ s retrofuturist æstetisk – træ paneler, højtaljede bukser – skaber en nøje udvalgt tidløshed og en tilbagevenden til en æra af tech optimisme, men det er også forsigtigt fremhæver anholdt udviklingen af en mand, der falder i kærlighed med en taler enhed, der bor i hans lomme foran.
Ex Machina er mindre slags: både åbent unsymphatisch tyran Bateman og hans ville-være protege, Caleb, er bekendt Silicon Valley karikaturer, der kejtet fumle gennem træning og whisky sammen. Seeren kan selv blive lullet ind i at tro, at Caleb, fedtmule, pjusket “nice guy”, som beslutter sig for at redde Ava fra hår forståelse af hendes skaber, fortjener at ride ud i solnedgangen med hende, et tegn på hans sejr over mere dystopisk, åbenlyst kvindefjendske Bateman.
Begge disse film ender med den kvindelige AI outsmarting hende, ville-være kærester, ejere og bygherrer, der forlader mænd forbløffet og beskueren med en følelse af undergang. Vi mener, at vores rædsel for fremtiden – og tech-industrien terror af kvinder – går pænt hånd i hånd mod horisonten, da rulleteksterne.
I Spike Jonze ‘ s
Hende, fedtmule Joaquin Phoenix twiddles hans vej ind i en idyllisk forhold med sin charmerende operativsystem, der er fremført af Scarlett Johansson. Foto: Ukrediteret/AP
Det er passende, at vores moderne fiktion om AI bør gå hånd i hånd med horror-snøret fortællinger om mænds manglende korrekt estimat kvinder. I stigende grad, AI hjælpere fra Apple ‘s Siri og Microsoft’ s Cortana til at tale hjem termostater, GPS og fitness apps som standard til en kvindelig stemme, som masser af forskning tyder på, at både mandlige og kvindelige forbrugere foretrækker det. Sandsynlige forklaringer på dette er mange og sandsynligvis drevet af social conditioning – vi ønsker, at vores virtuelle assistenter til at synes let påvirkelige og ikke-truende, kompetent, men ikke dominerende. Måske AI udvikling er også påvirket af den nørd kultur ideal om at være skiftevis serviced og opmuntret af en hårdt-tjente digital prinsesse – nostalgisk science fiction fantasier af hvide fyre drive masser af ting i Silicon Valley, så hvorfor ikke begrebet AI?
Uanset årsagen, stemmer kvinder – og deres skabere’ indgroet begreber i moderne kvindelighed – førende AI grænse. Men vi har ingen grund til at tro, at den mandsdominerede it branchen forstår os på alle. Siri og hendes kohorte, for eksempel, ved, hvordan man skal reagere på kriser på sundhedsområdet, såsom suicidality men ved ikke, hvad voldtægt er. Disse robot kvinder har ingen svar på spørgsmål om vold i hjemmet, som et samfund af rigtige kvinder ville. Siri ‘ s beslutningstagere havde tilsyneladende ikke tænkt over nødsituationer primært relevante for kvinder. I virkeligheden, Siri selv insisterer på, hun er ikke køn – men women ‘ s tale er mere end bare stemme til at lyde – det angiveligt indebærer ord valg, også. De betingede en kvinde, og derefter forsøgte at neutralisere hende.
Dette er, selvfølgelig, endnu et eksempel på, hvorfor vi skal have flere kvinder i teknologi – og af, hvordan branchen ikke formår at lytte til dem af os, der er her allerede. På trods af lip-service “mangfoldighed”, dem, der skubber til det på deres arbejdsplads er faktisk tilbøjelige til at blive straffet. Der var for nylig en hel topmøde på South by Southwest, der er dedikeret til at finde løsninger til de retsstridige ytringer rettet mod kvinder, og mennesker af farve, online – isoleret væk fra de vigtigste konference og efter sigende kun deltagelse af de få modige sjæle, der allerede er opmærksomme på problemet. Vi har fået den klare besked, at kvinders sikkerhed online er ikke et problem tech industrien er løsningen; at de måske ikke selv mener, at det er et problem.
Hvordan kan nogen tro, at oprettelse af en ung kvinde og invitere fremmede til at interagere med hende på sociale medier ville gøre Tay “smartere”? Hvordan kan historien om Tay blive mødt med sådanne corporate bafflement, sådanne sene undskyldning? Hvorfor er der ingen på Microsoft vide lige fra starten, at dette ville ske, når alle – kvindelige journalister, aktivister, spil udviklere og ingeniører, der lever på nettet hver dag, og kunne have forudset det – taler om det hele tiden?
Svaret kan ikke være noget, men direkte foragt. Industrien ønsker at bruge kvinders stemmer, men stadig har ingen planer om at rent faktisk at lytte til dem. Hvis empati er afgørende for fremtiden for kunstig intelligens, fortvivl ikke – Singulariteten er stadig et godt stykke vej fra, uanset hvor mange skræmmende Holocaust-benægter, racistiske, anti-feministisk, hvid millennial-bots Microsoft “ved et uheld” gyder.