Hvis du går gjennom hallene av de fleste tech selskaper rundt om i verden, vil du finne et stort antall ingeniører, Doktorgrader, og mange MBA-studenter som godt, men humanistiske fag har en tendens til å være underrepresentert. I India, hvis du er ute etter å få finansiering for oppstart, ha en IIT og en IIM grad forbedrer sjansene, men en gründer med ‘bare’ en BA er mer en hinderance.
Men dette er ikke bare en rant fra et humanistisk student som ønsker å skape arbeidsplasser. Ved å studere samfunnsvitenskap og politikk, får du en bedre forståelse av menneskelig atferd og av komplekse systemer, og det er akkurat denne slags forståelse av at vår teknokrater trenger å få. Det var ikke tilfelle i de tidlige dagene av Silicon Valley, der problemer og løsninger syntes selvstendige. I dag skjønt, små avgjørelser fra et selskap som Facebook kan endre løpet av valgkampen, og som de største selskapene arbeider for å gjøre allestedsnærværende kunstige intelligenser, er det en reell risiko for å skape intolerant maskiner.
Googles måtte be om unnskyldning for sine AI merking svarte mennesker i bilder som gorillaer, og bare nylig en såpedispenser ble funnet å ikke jobbe med svart hud, fordi vedkommende som designet det har aldri tenkt til å teste det grundig nok med ulike hudfarger.
Nærmere hjemme, vi kan se dette i Aadhaar utrulling i India. Selv om det er argumenter for å være laget i favør av systemet, slik som å redusere avfall, effektivisering av prosesser, og forenkle liv, mye har blitt sagt om potensialet for misbruk, for ikke å nevne regelrett feil i databasen, og den hurtige som det blir insisterte på av banker, teleselskaper og andre, går utover upassende.
“Flytt raskt og bryte ting” fornuftig som et motto når du er en plattform for å dele hva de hadde til frokost. Med massive og omfattende nettverk, er det rett og slett ikke slik det virker.
På en nylig pressekonferanse en veldig senior forsker snakket om potensialet for gruvedrift asteroider. I samtalen, innrømmer han, “jeg vet ikke om det er faktisk lovlig, hvis noen har tenkt på det, hvem som har rettigheter til det. Men vitenskap er å flytte så fort, det er bare bedre å få det første, og deretter la den advokater fange opp.” En linje rett ut av Uber sin forretningsmodell.
Vi ser lignende ting skjer i to store områder av databehandling. Den første er kunstig intelligens, der vi er racing foran for å bygge generelle intelligenser, som listen over naysayers blir større, med mer og mer fremtredende navn, for eksempel Elon Musk, Stephen Hawking, og andre.
Bitcoin er spektakulær stige i verdi i mellomtiden, fyrer opp under en enorm mengde av interesse, så vel, men energi-og miljømessige kostnader av denne teknologien har lenge vært oversett. Som en fersk rapport viser, en enkel Bitcoin transaksjonen nå bruker mer energi enn en husholdning i norge bruker i en uke. Bitcoin gruvearbeiderne kunne bruke så mye energi på en enkelt dag som hele landet i Nigeria bruker i løpet av et år.
Nylig, komiker og skuespiller Kumail Nanjiani (Silicon Valley) understreket noen av disse problemene på Twitter, og skriver:
Jeg vet det er mye av skumle ting i verden [nå], men dette er noe jeg har tenkt på at jeg kan ikke få ut av hodet mitt. Som en cast medlem på et vis om tech, vår jobb innebærer å besøke tech selskaper/ konferanser etc. Vi møtes [folk] ivrige etter å vise frem nye tech. Ofte vil vi se tech som er skremmende. Jeg mener ikke våpen osv., Jeg mener å endre video, tech som bryter med personvernet, ting med åpenbare etiske problemstillinger. Og vi vil ta opp våre bekymringer til dem. Vi innser at NULL vurdering synes å være gitt til de etiske implikasjoner av tech. At de ikke engang har en klapp innøvde svar. De er sjokkert over å bli spurt. Noe som betyr at ingen er å spørre dem spørsmål. “Vi er ikke noe som gjør det av den grunn, men måten folk velger å bruke det er ikke vår feil. Sikringstiltak vil utvikle seg.” Men tech beveger seg så fort. At det er ingen måte menneskeheten eller lovene kan holde opp. Vi vet ikke engang hvordan man skal håndtere åpne død trusler på nettet. Bare “Kan vi gjøre dette?” Aldri “skal vi gjøre dette? Vi har sett at samme blasert holdning i hvordan Twitter eller Facebook tilbyr [med] misbruk/ falske nyheter. em har kapasitet til å ødelegge oss. Vi ser den negative effekten av sosiale medier [og] ingen etiske hensyn kommer inn i [utvikling] av tech. Du kan ikke sette dette er ting tilbake i boksen. Når den er ute, er det der ute. Og det er ingen voktere. Det er skremmende. Slutten.
Det er en svært rimelig tankegangen, og en som reflekterer noen av de spørsmålene vi har stilt tech selskaper opp gjennom årene, så vel. Oftere enn ikke, er svaret på hvorfor kommer ned til, “jeg trodde det var en kul idé og noen VC var villig til å betale for det.” Gitt hvor gjennomgripende påvirkning av teknologi selskaper er i dag, må de ha et bedre svar på plass før de gjør feil, vi kan ikke gjenopprette fra. Teknologien trenger mer mangfold, og ikke bare av rase og kjønn – men av måter å tenke på – hvis dette skal skje.