Forsker Geoffrey Hinton, som studier nevrale nettverk som brukes i kunstig intelligens-programmer, utgjør på Google ‘ s Mountain View, Calif, hovedkvarter på onsdag, 25. Mars 2015.Foto: Noah Berger (AP)
Martin Ford laget bølger med sin 2015 bok, Fremveksten av Roboter, som redegjør for de mange akselererende trender i automatisering og hvordan de har planlagt å påvirke virksomheten og, spesielt, arbeid. For hans neste bok, Arkitekter Etterretning: Sannheten Om AI fra Folk Bygge Den, han, vel, forsøk på å fokusere på nettopp hva som undertittel beskriver. Det er fylt med dyptgående intervjuer med de største navnene i AI. En av dem er Geoffrey Hinton. For tiden en professor i informatikk ved Universitetet i Toronto og er en del av Google-Brain-prosjektet, Hinton, er av mange ansett på sitt felt for å bli “gudfaren av dyp læring,” på grunn av sitt banebrytende arbeid i kunstige nevrale nettverk.
Nedenfor finner du et utdrag fra Arkitektene av Intelligens som gudfaren av dybdekunnskap vurderer den økonomiske og sosiale konsekvenser av systemer ascendant han har vært banebrytende. Nyt. — Brian Kjøpmann
MARTIN FORD: La oss snakke om den potensielle risikoen for AI. En særlig utfordring som jeg har skrevet om er den potensielle virkningen på arbeidsmarkedet og økonomien. Tror du at alt dette kan føre til en ny Industriell Revolusjon og transformere arbeidsmarkedet? Hvis så, er det noe vi trenger å bekymre deg om, eller er det en annen ting som er kanskje overhyped?
GEOFFREY HINTON: Hvis du kan dramatisk øke produktiviteten og gjøre flere godbiter å gå rundt, som bør være en god ting. Om det viser seg å være en god ting er helt avhengig av det sosiale systemet, og ikke stole på alle på teknologi. Folk ser på teknologien som om den teknologiske fremskritt, er et problem. Problemet er i sosiale systemer, og om vi kommer til å ha et sosialt system som deler på en rettferdig måte, eller en som fokuserer alle forbedring på 1% og behandler resten av mennesker som skitt. Det er ingenting å gjøre med teknologi.
MARTIN FORD: At problemet kommer om, skjønt, fordi mange jobber kan elimineres—i særdeleshet, jobber som er forutsigbar og lett automatisert. En sosial reaksjon som er en grunnleggende inntekt. Er det noe du enig med?
GEOFFREY HINTON: Ja, jeg tror en grunnleggende inntekt er en svært fornuftig idé.
MARTIN FORD: tror du da at de politiske tiltakene er nødvendige for å løse dette?
Noen mennesker tar sikte på at vi skal bare la den spille seg ut, men det er kanskje uansvarlig.
GEOFFREY HINTON: jeg flyttet til Canada fordi det har en høyere beskatning pris og fordi jeg tror skatter gjort riktig er en god ting. Hva myndighetene bør gjøre er å sette mekanismer på plass, slik at når folk handle i deres egen interesse, det hjelper alle. Høy beskatning er et eksempel på en slik mekanisme: Når mennesker får rik, alle andre blir hjulpet av skatter og avgifter. Jeg absolutt enig i at det er mye arbeid i å sørge for at AI fordeler alle.
MARTIN FORD: Hva om noen av de andre risikoer som du vil knytte til AI, som weaponization?
GEOFFREY HINTON: Ja, jeg er opptatt av noen av de tingene som President Putin har sagt nylig. Jeg tror folk bør være veldig aktiv nå i å prøve å få det internasjonale samfunnet til å behandle våpen som kan drepe mennesker uten en person i loop på samme måte som de behandler kjemisk krigføring og våpen av masseødeleggelsesvåpen.
MARTIN FORD: Ville du støtter noen form for et moratorium på denne type forskning og utvikling?
GEOFFREY HINTON: Du kommer ikke til å få et moratorium på denne typen forskning, akkurat som du ikke har hatt et moratorium på utvikling av nervegasser, men du må ha internasjonale mekanismer på plass som har stoppet dem blir mye brukt.
MARTIN FORD: Hva om andre risikoer, utover det militære bruke våpen? Er det andre spørsmål som personvern og åpenhet?
GEOFFREY HINTON: jeg tenker å bruke den til å manipulere valget, og til å manipulere velgerne er bekymringsfullt. Cambridge Analytica ble satt opp av Bob Mercer som var en maskin læring person, og du har sett at Cambridge Analytica gjorde mye skade. Vi må ta det på alvor.
MARTIN FORD: tror du at det er et sted for regulering?
GEOFFREY HINTON: Ja, mange av regulering. Det er en veldig interessant sak, men jeg er ikke en ekspert på det, så har ikke mye å tilby.
MARTIN FORD: Hva om den globale våpenkappløp generelt? Tror du det er viktig at et land ikke komme for langt foran de andre?
GEOFFREY HINTON: Det du snakker om er global politikk. For en lang tid, Storbritannia var en dominerende nasjon, og de ikke oppfører seg svært godt, og da var det-Amerika, og de ikke oppfører seg svært godt, og hvis det blir den Kinesiske, kan jeg ikke forvente at de skal oppføre seg svært godt.
MARTIN FORD: tror du vi bør ha noen form for næringspolitikk? Skal Usa og andre Vestlige regjeringer fokus på AI og gjøre det til en nasjonal prioritet?
GEOFFREY HINTON: Det kommer til å være enorme teknologiske utviklingen, og land ville være gal for ikke å prøve og holde opp med det, så åpenbart, jeg tror det skulle være mye av investeringen i det. Det virker som common sense for meg.
MARTIN FORD: Totalt sett, er du optimistisk med hensyn til alt dette? Tror du at rewards fra AI kommer til å oppveie de ulempene?
GEOFFREY HINTON: jeg håper belønningen vil oppveie ulempene, men jeg vet ikke om de vil, og det er et spørsmål av sosiale systemer, ikke med teknologien.
MARTIN FORD: Det er et enormt talent mangel i AI, og alle ansettelser. Er det noen råd du vil gi til en ung person som ønsker å komme inn i dette feltet, noe som kan bidra til å tiltrekke seg flere folk og gjøre dem i stand til å bli ekspert i AI og i dyp læring, som du kan tilby?
GEOFFREY HINTON: jeg er bekymret for at det kan ikke være nok folk som er kritiske til det grunnleggende. Ideen om Kapsler er å si, kanskje noen av de grunnleggende måter vi gjør ting ikke er den beste måten å gjøre ting på, og vi bør kaste en større nett. Vi bør tenke på alternativer til noen av de grunnleggende forutsetninger vi gjør. Det ett råd jeg vil gi folk, er at hvis du har en intuisjon om at hva folk gjør er galt, og at det kunne bli noe bedre, bør du følge din intuisjon.
Du er ganske sannsynlig å være feil, men mindre folk følge intuisjon når de har dem om hvordan du endrer ting radikalt, vi kommer til å få fast. En bekymring er at jeg tror det mest fruktbare kilde av genuint nye ideer er hovedfagsstudenter å være godt informert i et universitet. De har frihet til å komme opp med genuint nye ideer, og de lærer nok slik at de er ikke bare gjentar historien, og vi må bevare det. Folk gjør en mastergrad og deretter går rett i bransjen ikke kommer til å komme opp med radikalt nye ideer. Jeg tror du trenger å sitte og tenke for et par år
MARTIN FORD: Det synes å være et knutepunkt for dybdekunnskap coalescing i Canada. Er det bare tilfeldig, eller er det noe spesielt med Canada, som hjalp til med det?
GEOFFREY HINTON: The Canadian Institute for Advanced Research (CIFAR) gitt støtte til grunnleggende forskning i områder med høy risiko, og det var veldig viktig. Det er også mye av lykke i at både Yann LeCun, som var kort mitt postdoc, og Yoshua Bengio var også i Canada. De tre av oss kunne danne et samarbeid som var svært fruktbart, og the Canadian Institute for Advanced Research finansiert dette samarbeidet. Dette var på en tid da alle av oss ville ha vært litt isolert i en ganske fiendtlig miljø—miljøet for dybdekunnskap var ganske fiendtlig inntil ganske nylig—det var veldig nyttig å ha denne finansieringen som tillater oss å tilbringe ganske mye tid med hverandre i små møter, der vi virkelig kunne dele upubliserte ideer.
Utdrag med tillatelse fra Arkitektene av Intelligens: Sannheten om AI fra Folk Bygge Den av Martin Ford. Publisert av Packt Publishing Limited. Copyright (c) 2018. Alle rettigheter er reservert. Denne boken er tilgjengelig på amazon.com.
Deler Denne Historien