Meningsfull samhandling mellom mennesker og maskiner må ikke undergrave menneskets kreativitet, følelser og spørrende over hastighet, profitt og effektivitet
“Hvis det er én ting våre hevelse kollektive articulacy som en art kommer hjem, det er at folk bryr seg fremfor alt om andre mennesker: hva de tenker, gjør, tror, frykt, hat, kjærlighet, le – og hva vi kan gjøre sammen’
Foto: Alamy
Onsdag 20 januar 2016 19.14 GMT
Sist endret onsdag 20 januar 2016 19.39 GMT
Når jeg tenker på fremtiden for menneske-maskin interaksjon, to viklet angsten som kommer til tankene.
Først, det er spenningen mellom individ og kollektiv eksistens. Teknologi binder oss til hverandre som aldri før, og dermed gjør eksplisitt hensyn til i hvilken grad vi er definert og det er forventet av andre: hvordan våre ideer og identiteter ikke bare tilhører oss, men er en del av et større menneskelig flo og fjære.
Dette har alltid vært sant, men sjelden har det vært mer tydelig eller stadig mer erfarne. For første gang i menneskets historie, og flertallet av verdens befolkning er ikke bare lese og skrive – i seg selv en prestasjon, mindre enn et århundre gammel – men også i stand til å delta aktivt i skrevet og innspilt kultur, gjengitt med tillatelse fra den tilkoblede enheter gjennomsyre nesten alle land på jorden.
Dette er en utrolig, urovekkende, herlige ting: mengden i skyen bli en strøm av felles bevissthet.
Vi tenker på oss selv som individ, rasjonelle sinn, og beskriver vårt forhold til teknologi på dette grunnlag
For det andre er det spørsmålet om hvordan vi ser på oss selv. Den menneskelige natur er en posete, ny og åpen tankegang konsept, og en som teknologien har endret og utvidet gjennom historien. Digital technologies utfordre oss igjen til å spørre hva som sted vi opptar i universet: hva det betyr å være skapninger av språk, selvbevissthet og rasjonalitet.
Våre maskiner er ikke mening ennå, men de er å ta på seg mer og mer av egenskapene som vi brukte til å tenke på som unikt menneske: grunn, tiltak, reaksjon, språk, logikk, tilpasning, læring. Med rette, fryktsomt, falteringly, vi begynner å spørre hva transformere konsekvenser dette siste utvidelse og usurpasjon vil bringe.
Jeg kaller disse engstelse viklet grunn, for meg, de kommer ledsaget av en felles feil: overestimation av vår rasjonalitet og vår autonomi. I å spørre hva det betyr å være menneske, og vi er tilbøyelige til å tenke på oss selv som individ, rasjonelle sinn, og å beskrive våre relasjoner med og gjennom teknologi på grunnlag av dette: som isolerte “brukere” som byrå og frihet er et spørsmål om ferdigheter og begrunnet valg; som oppgave-utøvere som er existentially truet av en mer effektiv agent.
Det evolusjonære presset rundt maskinene er hver bit så intens som i naturen, og med noen av sine begrensninger
Dette er et syn på menneske-maskin interaksjon. Men det er også en beretning om mennesker som gir oss på en gang for lite og for mye kreditt. Vi kjenner oss selv til å være intenst sosiale, emosjonelle, intractably nedfelt skapninger. Mye av den beste nye studier i økonomi, psykologi og nevrovitenskap har lagt vekt på i hvilken grad vi kan ikke være unbundled inn i forskjellige evner: i maskinen-som bokser av distinkte minne, behandling og utdata.
Verken språk, kultur eller et menneskesinn kan eksistere isolert, eller våren inn i tilværelsen fullt dannet. Vi er gjensidig avhengig av hverandre til en grad vi sjelden innrømme. Vi har lite til felles med våre kreasjoner – og en ekkel vane å skylde på dem for ting vi gjør til oss selv.
Hva gjør at dette er så viktig er brutalt Darwins arten av teknologisk utvikling. Våre maskiner kan ikke være i live, men det evolusjonære presset rundt dem er hver bit så intens som i naturen, og med noen av sine begrensninger. Enorme mengder penger står på spill, med selskaper og myndigheter kjemper for å bygge raskere, mer effektiv og mer effektive systemer, for å holde forbruker oppgradere sykluser tikker over. For å være venstre-bak – for å nekte å automatisere eller vedta – er å være ute-konkurrerte.
Som filosofen Daniel Dennett, blant andre, har påpekt, denne logikken av oppgradering og adopsjon strekker seg langt utover åpenbare områder som finans, krigføring og industri. Hvis en medisinsk algoritmen er bevist å produsere mer konsekvent nøyaktige diagnoser enn en lege, er det både uetisk og juridisk tvilsom til å nekte å bruke det. Så selv-kjører eller semi-autonome biler blir mer overkommelig og veien-juridiske, det er vanskelig å argumentere mot etiske og lovmessige tilfelle for å gjøre dem obligatoriske. Og så videre. Noen felt av menneskelig bestrebelse er sannsynlig å forbli urørt.
Vi leverer over mer og mer av hva som skjer i vår verden, i dag, i hastighet og effektivitet av ubetenksomme deciders
Maskiner, med andre ord, er blitt utrolig flinke til å ta avgjørelser for oss på grunnlag av enorme mengder data – og bli bedre på dette på en like fantastisk pris. Glem den hypotetiske fremveksten av generelle formål kunstig intelligens, i hvert fall for et øyeblikk: vi leverer over mer og mer av hva som skjer i vår verden, i dag, i hastighet og effektivitet av ubetenksomme deciders.
Det er nettopp fordi vår nåværende maskiner kan verken tenke eller føle at dette er viktig. Vi kaller dem “smart” og beundre deres krefter; vi male bilder av en verden hvor de, og ikke vi, er å bestemme hva vi gjør og hvordan. Vi kan ikke hjelpe oss selv: vi ser formål, autonomi og intensjon overalt.
Ennå i tilskrivelse av byrået og intensjoner til våre verktøy som de ikke har, vi misforstår flere grunnleggende punkter. Mennesker er ikke treg, dum og overskrift for den evolusjonære program scrapheap; maskinens effektivitet er et svært dårlig modell faktisk for å forstå oss selv, og cutting folk ut av alle mulige loop – bedre å sikre hastighet, overskudd, beskyttelse eller militær suksess er en dårlig modell for en fremtid der mennesker og maskiner like maksimere sine evner.
Skjæring folk ut av hver løkke for å sikre hastighet, overskudd, beskyttelse eller militær suksess er en dårlig modell for et fremtidig
Våre kreasjoner er effektiv, delvis fordi de er lesset av seg det meste av hva som gjør mennesker menneske: den stekende biologiske potten av følelser, sensasjon, fordommer og tro som utgjør hoveddelen av psykiske liv. Vi er partisk, vakre skapninger. Teknologi og intellekt tillate oss å externalise våre mål, men det ender som forfølges er de vi har valgt.
Gjør insentiver våre verktøy utrettelig satse på våre vegne inkluderer menneskelige blomstrende, meningsfylt arbeid, rik og human interactions? Tror vi disse tingene for å være uoppnåelig, ukjennelige eller verdiløs? Hvis ikke, da er vi nødt til å skifte fokus?
Hvis vi ønsker å bygge ikke bare bedre maskiner, men bedre relasjoner med og gjennom maskiner, må vi begynne å snakke langt mer rikt om kvaliteter av disse forhold; hvordan nettopp våre tanker og følelser og fordommer driver i, og hva det betyr å sikte utover effektiviteten på livet verdt å leve.
Hva gjør en vellykket samspill mellom mennesker og maskiner ser ut som? En, vil jeg hevde, hvor mennesker blir værende i loop, som er i stand til å virke for å vurdere et system insentiver – og enten til å påvirke sin retning eller debatt endring.
Hva gjør en vellykket samarbeid mellom mennesker mediert av teknologi ser ut som? Vi har mange av disse allerede, og de er preget av maximisation av alle ressurser som er involvert: menneskelig kreativitet og spørrende; maskin søk, fart, behandle og fremkalle; en iterasjon som involverer alle parter; og erkjennelsen av at effektivitet er ikke et mål i seg selv, men rett og slett et mål på hastighet.
Til slutt, la oss være klare på en ting. Vår er en fantastisk tid å være i live på: å kunne drøfte slike spørsmål sammen. Hvis det er én ting våre hevelse kollektive articulacy som en art kommer hjem, det er at folk bryr seg fremfor alt om andre mennesker: hva de tenker, gjør, tror, frykt, hat, kjærlighet, le – og hva vi kan gjøre sammen.
Våre kreasjoner er sikker på å vokse langt utover vår nåværende forståelse: hvor langt og hvor fort er kanskje vår mest presserende eksistensielle spørsmål. Vårt beste håp om fremgang, men fortsatt utrolig kjent: forstå oss selv bedre, spør hva som har som mål kan tjene ikke bare overleve, men også våre trives, og for å bygge systemer som tjener heller enn å undergrave disse.
- Dette er et redigert utdrag fra Tom Chatfields adresse ved lanseringen av den Humanistiske og Digitale Tidsalder program, ledet av Oxford Research Centre i Humaniora ved Universitetet i Oxford i STORBRITANNIA, 21. januar. Diskusjonen vil bli kringkastet live på 21 januar fra 17.30 GMT og noen gratis billetter er tilgjengelig