AI, for eksempel Microsoft ‘ s Tay vise hvorfor vi trenger flere kvinner i teknisk – og hvordan den mannsdominerte bransjen er ikke å vurdere sine virkelige motstykker
Tay, Microsoft kunstige intelligens chatbot.
Bilde: Microsoft
Mandag 28 Mars 2016 22.30 norsk tid
Sist endret tirsdag 29 Mars 2016 17.18 BST
Nå har du sikkert hørt historien om Tay, Microsofts sosiale AI eksperiment som gikk fra “friendly tusenårige jente” genocidal misogynist i mindre enn en dag. Mens Tay lovet å lære fra sine interaksjoner med folk på nettet, Microsoft tydeligvis ikke har lært noe fra utallige overskrifter om hvordan Twitter-brukere liker å snakke med synlige kvinner – alt fra jublende anarkistiske trolling for trusler og overgrep – ellers ville den ha sett dette komme.
Ved første, Tay er historien virker som en morsom for alle som er interessert i advarende sci-fi. Hva betyr det for fremtiden av kunstig intelligens, hvis en bot kan legemliggjøre de verste aspektene ved digital kultur etter bare 16 timer online? Hvis alle AI er gitt den enorme menneskelige opprettelse å studere lynraskt, vil det uunngåelig vende det onde? Vil fremtiden være et innhold kamp for sin sjel?
Men Tay var ikke en veldig god AI, og på Microsoft ‘ s del, dette var ikke en veldig god idé. Alt det ville ha tatt å vite at dette ville ha vært et grunnleggende nivå av dialog med kvinner i teknisk – og ingenting terrifies denne industrien mer.
I de siste årene har vi hatt to veldig gode filmer om kunstig intelligens: Spike Jonze Hennes, en enfoldig Joaquin Phoenix twiddles sin vei inn i en idyllisk forhold med sin sjarmerende operativsystem, stemt av Scarlett Johansson. I Ex Machina, Oscar Isaac spiller en damningly plausibel tech zillionaire kalt Bateman (som “American Psycho”) som inviterer like sannsynlig oppstart geek Kaleb til Turing-test Ava, hans fey, vakre AI skapelsen.
Begge filmene har latently sex-sultne menn som ikke er klar over sin egen weirdness. Hennes er retrofuturist estetisk – tre paneler, high-waisted bukser – skaper en nøye utvalgt tidløshet og en throwback til en æra av tech optimisme, men det er også forsiktig fremhever arrestert utvikling av en mann som forelsker seg i en snakker enhet som bor i hans lomme foran.
Ex Machina er mindre slag: både åpent unlikeable tyrann Bateman og hans ville være protege, Kaleb, er kjent Silicon Valley karikaturer som klønete rote gjennom trening og whisky sammen. Visningen kan også bli lurt til å tro at Kaleb, langbein, bustete “nice guy” som bestemmer seg for å redde Ava fra den hårete forståelse av sin skaper, fortjener å ri inn i solnedgangen med henne, et tegn på hans seier over mer dystopiske, åpenlyst misogynistic Bateman.
Begge disse filmene slutt med den kvinnelige AI overliste henne ville være elskere, eiere og utbyggere, forlater menn forferdet og viewer med en følelse av doom. Vi føler at vår redsel for fremtiden – og tech industrien er redsel for kvinner – gå pent hånd i hånd mot horisonten som rulleteksten.
I Spike Jonze er
Henne, en enfoldig Joaquin Phoenix twiddles sin vei inn i en idyllisk forhold med sin sjarmerende operativsystem, stemt av Scarlett Johansson. Foto: Uncredited/AP
Det er passende at våre moderne fiksjon om AI bør gå hånd i hånd med horror-laced historier om menn er unnlatelse av å riktig estimat kvinner. I økende grad, AI hjelpere fra Apples Siri og Microsoft er Cortana å snakke hjem termostater, GPS og trenings-apps standard til en kvinnelig stemme, som mange av forskning tyder på at både mannlige og kvinnelige forbrukere foretrekker det. Den sannsynlige forklaringen på dette er mange og trolig drevet av sosial condition – vi ønsker at våre virtuelle assistenter synes pliant og ikke-truende, kompetent, men ikke dominerende. Kanskje AI utvikling er også påvirket av geek-kultur idealet om å være vekselvis service og oppmuntret av et hardt opptjente digital prinsesse – nostalgisk science fiction fantasier av hvite gutta kjøre mange ting i Silicon Valley, så hvorfor ikke begrepet AI?
Uansett årsak, med stemmene til kvinner og deres skapere’ inngrodde begrepene moderne kvinnelighet – leder AI grensen. Men vi har ingen grunn til å tro at de mannsdominerte teknologien bransjen forstår oss i det hele tatt. Siri og hennes støtte, for eksempel, vet hvordan du reagerer på helse kriser som suicidalitet, men vet ikke hva voldtekt er. Disse robot kvinner har ingen svar for spørsmål om vold i nære relasjoner, som et fellesskap av ekte kvinner ville. Siri er beslutningstakere hadde tydeligvis ikke tenkt på nødhjelp først og fremst relevant for kvinner. Faktisk, Siri selv insisterer hun har ikke noe kjønn, men kvinner ‘ s tale er mer enn bare stemme lyd – det angivelig innebærer ordvalg, også. De har en kvinne, og deretter forsøkte å nøytralisere henne.
Dette er, selvfølgelig, enda et eksempel på hvorfor vi trenger flere kvinner i teknologi – og av hvordan bransjen er ikke å lytte til de av oss som allerede er her. Til tross lip service til “diversity”, de som push for det på arbeidsplassen er faktisk sannsynlig å bli straffet. Det var nylig en hel toppmøtet på South by Southwest dedikert til å finne løsninger for krenkende ytringer rettet mot kvinner og folk av farge online – isolert vekk fra de viktigste konferansen og som angivelig deltok bare av noen få modige sjeler som allerede er oppmerksom på problemet. Vi har fått klar melding om at kvinners sikkerhet på nettet er ikke et problem tech industrien er løse, at kanskje de ikke engang tror det er et problem.
Hvordan kan noen tror at å skape en ung kvinne og innbydende fremmede til å samhandle med henne på sosiale medier ville gjøre Tay “smartere”? Hvordan kan historien om Tay bli møtt med en slik eierstyring bafflement, slik sent unnskyldning? Hvorfor gjorde ingen i Microsoft vet helt fra starten av at dette ville skje, når alle av oss – kvinnelige journalister, aktivister, spill utviklere og ingeniører som live online hver dag, og kunne ha spådd det – er å snakke om det hele tiden?
Svaret ikke kan være noe, men regelrett forakt. Bransjen ønsker å bruke kvinners stemmer, men fortsatt har ingen planer om å faktisk lytte til dem. Hvis empati er et kjerneområde for fremtiden av kunstig intelligens, bekymre deg ikke – Singulære er fortsatt ganske vei, uansett hvor mange skremmende Holocaust-fornekter, rasistisk, anti-feministisk hvit tusenårige-roboter Microsoft “uhell” gyter.