Seks grunde til, at sociale medier er en Nedern

Jaron Lanier, pioneer vendte digital skeptiske, forklarer i et uddrag fra sin nye bog, hvorfor vi skal tage kontrollen tilbage

Søn 27 Maj 2018 09.00 BST

Computer scientist and musician Jaron Lanier at his home in Berkeley, California.

Datalog og musiker Jaron Lanier i sit hjem i Berkeley, Californien.
Foto: Saroyan Humphrey for Observatør

Det kan ikke virke som det i første omgang, men jeg er optimist. Jeg tror ikke, at vi er nødt til at kaste hele den digitale verden væk. Men der er et bestemt hi-tech ting, der er giftige, selv i små mængder.

Spørgsmålet er ikke kun, at internet-brugere er stuvet sammen i miljøer, der kan bringe det værste frem i os, eller at så meget magt er koncentreret i et meget lille antal af hænder, der styrer gigantiske sky computere. Et større problem er, at vi alle bærer rundt på enheder, der er egnet til masse-adfærd ændring. For eksempel, med gammeldags reklame, kan du måle, om et produkt, der gjorde det bedre efter en annonce, der blev kørt, men nu er virksomheder, der måler, om individer til at ændre deres adfærd, når de browser, og feeds for hver person, der hele tiden justeret for at få det ønskede resultat. Kort sagt, din adfærd er blevet forvandlet til et produkt – og corporate og politiske kunder står i kø for at ændre det.

Endelig, kan vi tegne en cirkel rundt om den reelle fare, vi står over for. Hvis vi bare kunne slippe af med de skadelige forretningsmodel, så den underliggende teknologi er måske ikke så dårlig.

Nogle har sammenlignet de sociale medier til at tobaksindustrien, men jeg vil ikke. Jo bedre analogi er maling der indeholder bly. Da det blev klart, at bly er skadelige, ingen erklæret, at husene skal aldrig males igen. I stedet, efter pres og lovgivning, bly-fri maling blev den nye standard.

Jeg taler som en datalog, ikke som en social forsker eller psykolog. Jeg kan se, at tiden er ved at løbe ud og gøre noget, er ikke en mulighed. Vi har ikke så meget i vejen for streng videnskab, som ville være ideel til at forstå vores situation, men vi har nok resultater til at beskrive det problem, vi skal løse, bare ikke en masse tid at løse det.

Virker som et godt tidspunkt at mønt, et akronym, så hvad med “Adfærd af Brugerne Ændres, og Gjort til et Imperium til Leje”? Nederen.

Nederen er en maskine, en statistisk maskine, der bor i skyerne. Da dens indflydelse er statistiske, truslen er lidt ligesom klimaændringer. Du kan ikke sige, at klimaændringerne er ansvarlig for en bestemt storm, oversvømmelse eller tørke, men du kan sige, det ændrer oddsene for at de vil ske. På længere sigt, er den mest forfærdelige ting som stigende vandstand og behovet for at flytte de fleste mennesker og finde nye kilder til fødevarer, der kan henføres til klimaændringer, men ved så det argument ville have været tabt.

På samme måde, kan jeg ikke bevise, at en bestemt person er blevet gjort værre af Nederen, jeg kan heller ikke bevise, at nogen særlig forringelse af vores samfund ville ikke være sket alligevel. Der er ingen bestemt måde at vide, om det har ændret din adfærd, men hvis du bruger Nederen platforme, har du sikkert været ændret sig mindst en smule.

Mens vi ikke kan vide, hvilke oplysninger i vores verden ville være anderledes uden Nederen, kan vi vide, om det store billede. Som klimaforandringer, vil det føre os ind i helvede, hvis vi ikke retter sig selv op.

Nederen er en maskine med seks bevægelige dele. Her er de seks komponenter i maskinen, og en beskrivelse af hver enkelt del…

Illustration by James Melaugh.

Facebook

Twitter

Pinterest

Illustration af James Melaugh.

En er for at få Opmærksomhed køb

Folk får ofte underlige og ubehagelige online. Dette bizarre fænomen overrasket alle i de tidligste dage af netværk, og det har haft en dybtgående indflydelse på vores verden. Ondskab også viste sig at være ligesom råolie til de sociale medier, virksomheder og andre adfærd manipulation imperier, der hurtigt kom til at dominere internettet, fordi det næres negative adfærdsmæssige feedback.

Hvorfor ondskab ske? I korte træk: almindelige mennesker er samlet i en ramme, hvor de vigtigste – og ofte den eneste – belønning, der er til rådighed, er opmærksomhed.

Med intet andet at søge, men opmærksomhed, folk har tendens til at blive røvhuller, fordi den største af dem, der får mest opmærksomhed. Denne iboende partiskhed mod assholedom smag virkningen af alle de andre dele af Nederen maskine.

B er for Butting ind i alles liv

Alle har været placeret under en grad af overvågning, lige ud i en dystopisk science fiction-roman.

Spionage opnås for det meste gennem forbundet personlige enheder – især nu, smartphones – at folk holder næsten limet til deres kroppe. Data er indsamlet om hver persons kommunikation, interesser, bevægelser, kontakt med andre, følelsesmæssige reaktioner på forhold, ansigtsudtryk, køb, vitale tegn: en evigt stigende, grænseløst bred vifte af data.

Algoritmer korrelere data fra hver person, og mellem mennesker. Korrelationerne er effektivt teorier om karakteren af hver person, og disse teorier er konstant målt og bedømt for, hvordan intelligent, de er. Ligesom alle veldrevet teorier, kan de forbedre gennem adaptive feedback.

C er til at Proppe indholdet ned i halsen

Algoritmer vælge, hvad hver person oplever gennem deres enheder. Denne komponent kan kaldes en feed, en henstilling engine, eller tilpasning. Det betyder, at hver person ser forskellige ting. Den umiddelbare motivation er at levere stimuli for individuel adfærd ændring.

Ikke alle tilpasning er en del af Nedern. Når Netflix anbefaler en film eller eBay anbefaler noget at købe, er det ikke Nederen. Det bliver Nederen i forbindelse med andre komponenter. Hverken Netflix eller eBay er betalt af tredjemand til at påvirke din adfærd, bortset fra den umiddelbare virksomhed, du gør med hvert websted.

D er for at Lede adfærd i sneakiest mulige måde

De ovennævnte elementer er forbundet til at oprette en måling og feedback maskine, der bevidst ændrer adfærd. Processen forløber således: skræddersyede feeds blevet optimeret til at “engagere sig” hver bruger, ofte med følelsesmæssigt potent stikord, som fører til afhængighed. Mennesker er ikke klar over, hvor de bliver manipuleret. Standard henblik på manipulation er at få folk mere og mere limet i, og at få dem til at tilbringe mere og mere tid i systemet. Men andre formål for manipulation er også testet.

For eksempel, hvis du læser på en enhed, din læsning adfærd vil være korreleret med de utallige andre mennesker. Hvis en person, der har en læsning mønster, der svarer til jeres købt noget efter at det var sat i en bestemt måde, så er odds bliver højere, at du vil få den samme plads. Du kan blive rettet inden et valg med underlige stillinger, der er blevet afprøvet for at bringe den indre kyniker i mennesker, der er lignende til dig, for at mindske risikoen for, at du vil stemme.

Nederen platforme er stolt rapporteret på at eksperimentere med at gøre folk ked af det, skiftende valgdeltagelse, og styrkelse af brand loyalitet. Ja, disse er nogle af de bedst kendte eksempler på forskning, der blev åbenbaret i de tidlige dage af Nedern. Den digitale netværk tilgang til adfærd ændring flader alle disse eksempler, alle disse forskellige skiver af liv, i en skive. Fra det synspunkt af den algoritme, følelser, glæde, lykke og brand loyalitet er bare forskellige, men lignende, signaler for at optimere.

E er for at Tjene penge på at lade de værste mennesker hemmeligt skrue med alle andre

Massen adfærd ændring maskine er lejet ud for at tjene penge. De manipulationer er ikke perfekte, men de er stærke nok til, at det bliver det rene selvmord for mærker, politikere, og andre konkurrerende enheder til at give afkald på betalinger til Nedern virksomheder. Universel kognitiv afpresning ensues, hvilket resulterer i en stigende global bruger på Nederen.

Hvis en person ikke betaler en platform i kontanter, så må de vende sig i data-brændstof for denne platform for at ikke blive overvældet af den. Når Facebook understreget, “nyheder” i sit foder, hele verden for journalistik var nødt til at omformulere sig selv til at Nedern standarder. For at undgå at blive forladt ud, journalister havde til at skabe historier, der understregede, clickbait og var uadskilleligt fra kontekst. De var tvunget til at blive Nederen for ikke at blive smadret af det.

F er for Falske mobs og faker samfundet

Denne komponent er næsten altid til stede, selvom det typisk var ikke del af det oprindelige design af en Bummer maskine. Falske mennesker er til stede i ukendt, men stort antal og skabe den stemning. Bots, AIs, agenter, falske anmeldere, falske venner, falske followers, falske plakater, automatiseret catfishers: et menageri af ånder.

Usynlige sociale hærværk til følge. Sociale pres, som er så stor indflydelse på menneskets psykologi og adfærd, er syntetiseret.

Mere specifikt kan vi trække en streg omkring et problem, jo mere kan løses, der bliver problemet. Vores problem er ikke, internettet, smartphones, smart højttalere, eller kunsten af algoritmer; problemet er Nederen maskine. Og kernen af maskinen er ikke en teknologi, præcis, men en stil af forretningsplan, der spyer ud af uhensigtsmæssige incitamenter og korrumperer mennesker.

Det er ikke engang et meget anvendt forretningsplan. Uden for Kina, er den eneste tech-giganter, der helt afhænger af dette system er Facebook og Google. De andre tre af de fem store tech firmaer, forkæle dig selv indimellem, fordi det er normaliseret i disse dage, men de ikke er afhængige af det. Et par mindre Nederen virksomheder er også indflydelsesrige, som Twitter, selvom de ofte svært.

Hvilke virksomheder er Nederen? En god måde at fortælle, er, at første rang Nederen virksomheder er dem, der tiltrækker indsats eller udgifter fra dårlig aktører, såsom russiske stat intelligens krigsførelse enheder. Denne test afslører, at der er pseudo-tjenester, der kun indeholder delmængder af de komponenter, som Reddit og 4chan, men stadig spiller en betydelig rolle i den Nederen økosystem.

Jaron Lanier: “Den løsning er at fordoble ned på det at være menneske’

Læs mere

Men dette argument handler ikke om, at selskaber, det handler om dig. Fordi vi kan trække en linje rundt om den maskine, kan vi tegne en streg rundt om hvad man skal undgå.

Problemet med Nederen er ikke, at den indeholder en bestemt teknologi, men at det er en andens magt-trip. Du kan vælge at blive behandlet af en kognitiv adfærdsterapi terapeut, og drage fordel af det. Forhåbentlig terapeut vil have svoret en ed at opretholde det faglige niveau og vil tjene din tillid. Men hvis din terapeut er i et afhængighedsforhold til en gigant, fjernbetjening corporation og bliver betalt for at få dig til at træffe visse beslutninger, som ikke nødvendigvis er i din egen interesse, så ville det være en Nederen.

Problemet er ikke nogen bestemt teknologi, men brugen af teknologi til at manipulere folk til at koncentrere magten på en måde, der er så nødder og uhyggeligt, at det bliver en trussel mod overlevelsen af civilisation.

Hvis du ønsker at bidrage til at gøre verden rask, behøver du ikke at opgive din smartphone, via computer cloud-tjenester, eller besøger websites. Nederen er de ting, man skal undgå. Slet dine konti!

Dette er et redigeret uddrag fra Ti Argumenter for at Slette Dine Konti på de Sociale Medier Lige Nu ved at Jaron Lanier (Bodley Head, £9.99). At bestille den til £8.49 gå til guardianbookshop.com eller ring 0330 333 6846


Date:

by