Jaron Lanier, pioneer slått digital skeptiker, forklarer i et utdrag fra hans nye bok, hvorfor vi må ta tilbake kontrollen

Søndag 27. Mai 2018 09.00 BST

Computer scientist and musician Jaron Lanier at his home in Berkeley, California.

Det kan ikke virke som det ved første, men jeg er optimist. Jeg tror ikke vi har til å kaste hele digital verden unna. Men det er ett bestemt hi-tech-ting som er giftige selv i små mengder.

Problemet er ikke bare at internett-brukere er proppet inn i miljøer som kan bringe ut det verste i oss, eller som har så mye makt er konsentrert i et lite antall hender at kontroll gigantisk sky datamaskiner. Et større problem er at vi alle bærer rundt utstyr som er egnet for masse atferd modifikasjon. For eksempel, med gammeldags reklame, kan du måle om et produkt gjorde det bedre etter en annonse som ble kjørt, men nå bedrifter er å måle om enkeltpersoner endre sin atferd når de surfer, og de strømmer til hver person er stadig forskjøvet for å få ønsket resultat. Kort sagt, din oppførsel har blitt omgjort til et produkt – og eierstyring og politiske kunder står i kø for å endre den.

Til slutt, kan vi tegne en sirkel rundt den virkelige faren vi står overfor. Hvis vi bare kunne kvitte seg med skadelige forretningsmodell, da den underliggende teknologien kan ikke være så ille.

Noen har sammenlignet sosiale medier til tobakksindustrien, men jeg vil ikke. Bedre analogi er maling som inneholder bly. Da det ble umulig å nekte for at føre var skadelig, ingen erklærte at hus bør aldri være malt på nytt. I stedet, etter press og lovgivning, føre-gratis maling ble den nye standarden.

Jeg snakker som en forsker, og ikke som en sosial forsker eller psykolog. Jeg kan se at tiden renner ut, og gjør ingenting er ikke et alternativ. Vi har ikke så mye i veien for strenge vitenskap som ville være ideelt for å forstå vår situasjon, men vi har nok resultater til å beskrive problemet som vi må løse, bare ikke mye tid på å løse det.

Virker som et godt øyeblikk til mynt et akronym, så hva med “Atferd av Brukere Endret, og Gjort til et Imperium for Leie”? Bummer.

Bummer er en maskin, en statistisk maskin som bor i databehandling skyene. Siden dens innflytelse er statistisk, trussel er litt som klimaendringer. Du kan ikke si at klimaendringer er ansvarlig for en bestemt storm, flom eller tørke, men du kan si det forandrer oddsen for at de som kommer til å skje. På lengre sikt, er den mest forferdelige ting som havnivået stiger og behovet for å flytte folk flest, og finne nye kilder til mat vil være knyttet til klimaendringer, men da er argumentet ville ha gått tapt.

På samme måte, jeg kan ikke bevise at en bestemt person har blitt gjort verre av Bummer, jeg kan heller ikke bevise at noe bestemt nedbrytning av vårt samfunn ikke ville ha skjedd uansett. Det er ingen sikker måte å vite om det har endret atferd, men hvis du bruker Bummer plattformer, har du sannsynligvis blitt endret i alle fall litt.

Mens vi ikke kan vite hvilke opplysninger i vår verden ville vært annerledes uten Bummer, kan vi vite om det store bildet. Som klimaendringer, vil det føre oss inn i helvete hvis vi ikke rette seg selv.

Bummer er en maskin med seks bevegelige deler. Her er de seks komponenter av maskin og en beskrivelse av hver del…

En er for Oppmerksomhet kjøp

Folk får ofte rare og ekle online. Dette merkelige fenomenet overrasket alle i de tidligste dagene av nettverk, og det har hatt en betydelig påvirkning på vår verden. Nastiness også viste seg å være som råolje for sosiale medier selskaper og andre atferd manipulasjon imperier som raskt kom til å dominere internett, fordi det drevet negative atferdsmessige tilbakemeldinger.

Hvorfor ikke nastiness skje? I korte trekk: vanlige mennesker er samlet i et miljø som hoved – eller ofte bare – belønning som er tilgjengelig er oppmerksomhet.

Med ingenting annet å søke, men oppmerksomhet, folk har en tendens til å bli drittsekker, fordi de største de får mest oppmerksomhet. Denne iboende bias mot assholedom smaker virkningen av alle andre deler av Bummer maskinen.

B er for Stangar inn i alles liv

Alle har vært plassert under et nivå av overvåking rett ut av en dystopiske science fiction-romanen.

Spionering er oppnådd for det meste gjennom koblet personlige enheter – særlig, for nå, smarttelefoner – som folk holde praktisk talt limt til kroppen sin. Data er samlet inn om hver enkelt persons kommunikasjon, interesser, bevegelser, kontakt med andre, følelsesmessige reaksjoner til omstendigheter, ansiktsuttrykk, kjøp, vitale tegn: en stadig voksende, grenseløs utvalg av data.

Algoritmer korrelere data fra hver person og mellom personer. Korrelasjoner er effektivt teorier om arten av hver person, og disse teoriene er stadig målt og vurdert for hvordan prediktiv de er. Ønsker alle et godt forvaltet teorier, de forbedre gjennom adaptive tilbakemeldinger.

C er for Stapper innhold ned i halsen

Algoritmer velge hva hver person opplever gjennom sine enheter. Denne komponenten kan kalles en feed, en anbefaling engine, eller tilpasning. Det betyr at hver enkelt person ser forskjellige ting. Umiddelbar motivasjon er å levere stimuli for individuell atferd modifikasjon.

Ikke alle tilpasning er en del av Bummer. Når Netflix anbefaler en film eller eBay anbefaler noe å kjøpe, det er ikke Bummer. Det blir bare Bummer i forbindelse med andre komponenter. Verken Netflix eller eBay blir betalt av en tredjepart til å påvirke din oppførsel, bortsett fra den umiddelbare business du gjøre med hvert nettsted.

D er for å Styre atferd i den smarteste måten mulig

De ovennevnte elementer som er forbundet for å skape en måling og tilbakemelding maskin som bevisst endrer atferd. Prosessen går dermed: tilpasset feeds blitt optimalisert for å “delta” hver brukeren, ofte med følelsesmessig potent signaler, noe som fører til avhengighet. Folk ikke innser hvordan de blir manipulert. Standard formålet med manipulasjon er å få folk mer og mer limt på, og for å få dem til å bruke mer og mer tid i systemet. Men andre formål for manipulasjon er også testet.

For eksempel, hvis du leser på en enhet, lesing atferd vil være korrelert med de av et utall av andre mennesker. Hvis det er noen som har en å lese mønster som ligner på ditt kjøpte noe etter at det var reist på en bestemt måte, vil odds bli høyere for at du vil få den samme banen. Du kan være rettet før et valg med rare innlegg som har vist seg å ta ut den indre kyniker i mennesker som er lik deg, for å redusere sjansene for at du vil stemme.

Bummer plattformer har stolt rapportert på å eksperimentere med å gjøre folk triste, endre deltakelsen, og forsterke merkevaren lojalitet. Faktisk, disse er noen av de mest kjente eksempler på forskning som ble åpenbart i de første dager av Bummer. Det digitale nettverket tilnærming til atferd modifikasjon flater alle disse eksemplene, alle disse forskjellige øyeblikk i livet, i ett stykke. Fra synspunkt av algoritmen, følelser, glede, og merkelojalitet er bare forskjellige, men lignende, signaler for å optimalisere.

E er for å Tjene penger fra å la det verste folk hemmelighet skruen med alle andre

Massen atferd modifikasjon maskinen leies ut for å tjene penger. Den manipulasjoner er ikke perfekt, men de er kraftig nok til at det blir suicidal for merker, politikere, og andre konkurrerende foretak til å legge betalinger til Bummer foretak. Universelle kognitive utpressing følger, noe som resulterer i en stigende global bruke på Bummer.

Hvis noen ikke er å betale en plattform i penger, så må de slå seg inn i data-fuel for at plattformen for å ikke bli overveldet av det. Når Facebook vekt på “nyheter” i sitt fiskefôr, hele verden journalistikk måtte reformulate seg til Bummer standarder. For å unngå å bli tatt ut, journalister hadde å lage historier som understreket clickbait og var avtagbar fra kontekst. De ble tvunget til å bli Bummer for å ikke bli utslettet av det.

F er Fake mobber og faker samfunnet

Denne komponenten er nesten alltid til stede, selv om det vanligvis ikke var en del av det opprinnelige designet av en Bummer maskinen. Falske folk er til stede i ukjent, men stort antall og etablere atmosfære. Bots, AIs, agenter, falske anmeldere, falske venner, falske følgere, falske plakater, automatiserte catfishers: et menasjeri av spøkelser.

Usynlige sosiale hærverk følger. Sosialt press, som er så innflytelsesrike i menneskelig psykologi og adferd, er syntetisert.

Mer spesifikt kan vi tegne en linje rundt et problem, jo mer lar seg at problemet blir. Vårt problem er ikke internett, smarttelefoner, smart-høyttalere, eller art av algoritmer; problemet er Bummer maskinen. Og kjernen av maskinen er ikke en teknologi, akkurat, men en stil av forretningsplan som spews ut perverse insentiver og ødelegger mennesker.

Det er ikke engang en mye brukt forretningsplan. Utenfor Kina, bare tech giganter som fullt ut avhengige av dette systemet er Facebook og Google. De tre andre av the big five tech selskaper hengi seg til, fordi det er normalisert i disse dager, men de er ikke avhengig av det. Et par mindre Bummer selskaper er også innflytelsesrike, som Twitter, selv om de ofte strever med.

Hvilke selskaper er Bummer? En god måte å fortelle er at første rang Bummer selskaper er de som tiltrekker seg arbeid eller å tilbringe fra dårlig aktører, slik som russiske stat intelligens krigføring enheter. Denne testen avslører at det er pseudo-tjenester som bare inneholder undergrupper av komponentene, som Reddit og 4chan, men fortsatt spille viktige roller i Bummer økosystemet.

Jaron Lanier: ‘løsning er å doble ned på å være menneske’

Les mer

Men dette argumentet er ikke om bedrifter, det handler om deg. Fordi vi kan tegne en linje rundt maskinen, kan vi tegne en linje rundt hva du skal unngå.

Problemet med Bummer er ikke at det har noen spesiell teknologi, men at det er noen andres makt tur. Du kan velge å bli behandlet ved en kognitiv atferdsterapi terapeut, og dra nytte av det. Forhåpentligvis som terapeut vil ha sverget en ed på å opprettholde faglige standarder, og vil fortjene din tillit. Hvis, imidlertid, din terapeut er i takknemlighetsgjeld til en gigantisk, ekstern corporation og blir betalt for å få deg til å ta beslutninger som ikke nødvendigvis er i din egen interesse, da det ville være en Bummer.

Problemet er ikke noen spesiell teknologi, men bruk av teknologi for å manipulere folk, for å konsentrere seg makt på en måte som er så nøtter og skummel at det blir en trussel for overlevelsen av sivilisasjon.

Hvis du ønsker å hjelpe til med å gjøre verden tilregnelig, du trenger ikke å gi opp smarttelefonen, ved hjelp av datamaskinen cloud-tjenester, eller besøker nettsteder. Bummer er ting å unngå. Slette kontoene dine!

Dette er et redigert utdrag fra Ti Argumenter for å Slette Dine Sosiale Medier-Kontoer Akkurat Nå ved Jaron Lanier (Bodley Head, £9.99). For å bestille det for £8.49 gå til guardianbookshop.com eller ring 0330 333 6846

Seks grunner til hvorfor sosiale medier er en Bummer