Jaron Lanier, pionjär vände digital skeptiker, förklarar i ett utdrag ur sin nya bok varför vi måste ta tillbaka kontrollen
Sön 27 Maj 2018 09.00 BST
Dator vetenskapsman och musiker Jaron Lanier i sitt hem i Berkeley, Kalifornien.
Foto: Saroyan Humphrey för Observatör
Det kanske inte verkar som det först, men jag är en optimist. Jag tror inte att vi måste kasta hela den digitala världen bort. Men det är en viss hi-tech sak som är giftigt även i små mängder.
Problemet är inte bara att internet-användare är inklämda i miljöer som kan ta fram det värsta i oss, eller att så mycket makt koncentreras till ett litet antal händer som styr gigantiska moln datorer. Ett större problem är att vi alla bär omkring enheter som är lämpliga för massa beteende modifiering. Till exempel, med gammaldags reklam, du kan mäta om en produkt klarade sig bättre efter en annons var kört, men nu företag är att mäta om individer förändra sina beteenden när de besöker, och feeds för varje person som ständigt fixade för att få önskat resultat. Kort sagt, ditt beteende har förvandlats till en produkt – och företags-och politiska klienter i kö för att ändra det.
Slutligen, vi kan rita en cirkel runt den verkliga faran vi står inför. Om vi bara kunde bli av med de skadliga affärsmodell, då den bakomliggande tekniken kanske inte är så dåligt.
Vissa har jämfört sociala medier för att tobaksindustrin, men jag kommer inte. Bättre analogi är färg som innehåller bly. När det blev onekligen att leda var skadligt, ingen förklarade att husen bör aldrig målas igen. Istället, efter påtryckningar och lagstiftning, blyfria färger blev den nya standarden.
Jag talar som en dator vetenskapsman, inte som en beteendevetare eller psykolog. Jag kan se att tiden rinner ut och göra någonting är inte ett alternativ. Vi har inte så mycket i vägen för en rigorös vetenskap som skulle vara perfekt för att förstå vår situation, men vi har tillräckligt med resultat för att beskriva de problem som vi måste lösa, bara inte en hel del tid på oss att lösa det.
Verkar som ett bra tillfälle att mynt en akronym, så vad sägs om “Beteenden hos Användare Ändras och Göras om till ett Imperium för Hyra”? Besvikelse.
Besvikelse är en maskin, en statistisk maskin som bor i design och moln. Sedan dess inflytande är statistiska, hotet är lite som att klimatförändringarna. Du kan inte säga att klimatförändringarna är ansvarig för ett visst storm, översvämning eller av torka, men kan du säga att det ändras oddsen att de kommer att hända. På längre sikt, det mest hemska saker som att havsnivån stiger och behovet av att flytta de flesta människor och hitta nya källor av mat skulle vara hänförliga till klimatförändringen, men då argumentet skulle ha gått förlorad.
På samma sätt, jag kan inte bevisa att en viss person har förvärrats av Besvikelse, jag kan inte heller bevisa att någon viss nedbrytning av vårt samhälle inte skulle ha hänt ändå. Det finns inget säkert sätt att veta om det har förändrat ditt beteende, men om du använder Besvikelse plattformar, som du har förmodligen ändrats åtminstone lite.
Medan vi kan inte veta vad som detaljer i vår värld skulle vara annorlunda utan Besvikelse, vi kan veta om den stora bilden. Som klimatförändringar, kommer det att leda oss in i helvete om vi inte korrigerar sig själva.
Besvikelse är en maskin som har med sex rörliga delar. Här är de sex komponenter i maskinen och en beskrivning av varje del…
Illustration av James Melaugh.
En är för Uppmärksamhet, förvärv
Människor får ofta konstiga och elaka på nätet. Denna bisarra fenomen som förvånade alla i de tidigaste dagarna av nätverk, och det har haft en stor inverkan på vår värld. Äckliga saker också visade sig vara som råolja för sociala medier för företag och andra beteende manipulation imperier som snabbt kom att dominera internet, eftersom det drivs negativa beteendemässig respons.
Varför gör äckliga saker att hända? I korthet: vanliga människor förs samman i en miljö som huvud – eller ofta den enda belöning som finns är uppmärksamhet.
Med inget annat att söka, men uppmärksamhet, människor tenderar att bli skitstövlar, eftersom de största företagen får mest uppmärksamhet. Denna inneboende partiskhet assholedom smaker åtgärder av alla andra delar av Besvikelse maskinen.
B är för Stångas i allas liv
Alla har hänförts till en nivå av övervakning rakt ut i en dystopisk science fiction-roman.
Spioneri sker mestadels via ansluten personliga hjälpmedel – framför allt för nu, smartphones – att folk praktiskt taget limmade till sina kroppar. Data samlas in om varje persons kommunikation, intressen, rörelser, kontakt med andra, känslomässiga reaktioner på omständigheter, ansiktsuttryck, inköp, vitala tecken: en ständigt växande, gränslös mängd data.
Algoritmer korrelera data från varje person och mellan människor. Sambanden är effektivt teorier om naturen av varje person, och dessa teorier är ständigt mätt och de är specificerade för hur prediktiva de är. Som alla väl lyckats teorier, de förbättras genom adaptiva feedback.
C är för att Plugga innehållet i din hals
Algoritmer välja vad varje person upplever genom sina enheter. Denna del kan kallas ett flöde, en rekommendation motorn, eller anpassa. Det innebär att varje person som ser olika saker. Den omedelbara motivation är att ge stimuli för individuell kbt.
Inte alla anpassa är en del av Besvikelse. När Netflix rekommenderar en film eller eBay rekommenderar något att köpa, det är inte Besvikelse. Det blir bara Besvikelse i samband med andra komponenter. Varken Netflix eller eBay som betalas av tredje part för att påverka ditt beteende bortsett från närmaste affärer du gör med varje webbplats.
D är för att Styra beteenden i sneakiest möjliga sätt
Ovanstående faktorer är anslutna till skapa en mätning och feedback maskin som avsiktligt ändrar beteende. Processen går alltså: skräddarsydda flöden blivit optimerade för att “engagera sig” varje användare, ofta med känslomässigt kraftfulla signaler, som leder till missbruk. Människor inser inte hur de är att vara manipulerad. Standard syfte med manipulationen är att få människor mer och mer limmas på, och att få dem att tillbringa mer och mer tid i systemet. Men andra ändamål för manipulation är också testade.
Till exempel, om du läser på en enhet, din läsning beteenden kommer att vara korrelerad med mängder av andra människor. Om någon som har en att läsa mönster som liknar din köpte något efter det var lägrade sig på ett visst sätt, då oddsen blir större att du kommer att få samma tonhöjd. Du kan vara riktade före ett val med konstiga inlägg som har visat sig ge ut den inre cyniker i människor som är lik dig, för att minska risken att du kommer att rösta.
Bummer plattformar har stolt rapporterade på att experimentera med att göra människor ledsna, ändra valdeltagandet och stärka kundlojaliteten. Ja, dessa är några av de mest kända exemplen på forskning som visade på den formativa dagar av Besvikelse. Den digitala nätverk förhållningssätt till beteendeförändring slätar ut alla dessa exempel, alla dessa olika segment av liv, till en skiva. Ur synvinkel av algoritmen, känslor, lycka, och märkeslojalitet är bara olika, men likartade, signaler för att optimera.
E är för att Tjäna pengar på att låta de värsta människor som i hemlighet skruv med alla andra
Massan beteende modifiering maskinen hyrs ut för att tjäna pengar. Den manipulationer är inte perfekta, men de är starka nog att det blir självmordsbenägen för varumärken, politiker, och andra konkurrerande enheter för att avstå från utbetalningar till Besvikelse företag. Universella kognitiva utpressning uppstår, vilket resulterar i en ökande global spendera på Besvikelse.
Om någon inte betalar en plattform i kontanter, då de måste vända sig till data-bränsle för att plattformen för att inte överväldigas av det. När Facebook betonade “nyheter” i sitt foder, hela världen av journalistik hade att omformulera sig till Besvikelse standarder. För att undvika att lämnas ut, journalister hade för att skapa berättelser som betonas clickbait och var löstagbara från ramen. De var tvungna att bli en Besvikelse, för att inte förintas av det.
F är för Falska folkmassor och bluffmakare samhället
Denna komponent är nästan alltid närvarande, även om det oftast var inte del av den ursprungliga konstruktionen av en Besvikelse maskinen. Falska människor är närvarande okänt, men ett stort antal och skapa atmosfär. Bots, AIs, agenter, falska granskare, falska vänner, falska efterföljare, falska affischer, automatiserad catfishers: ett menageri av vålnader.
Osynliga sociala skadegörelse följer. Socialt tryck, som är så inflytelserik i mänsklig psykologi och beteende, är syntetiskt.
Mer specifikt kan vi dra en linje runt ett problem, mer lösbara som blir problemet. Vårt problem är inte internet, smartphones, smart-högtalare, eller art av algoritmer, problemet är Bummer maskinen. Och kärnan av maskinen är inte en teknik, exakt, men en stil av affärsplan som spyr ut perversa incitament och korrumperar människor.
Det är inte ens en allmänt använd affärsplan. Utanför Kina, den enda tech jättar som är helt beroende av att detta system är Facebook och Google. De övriga tre av de fem stora tech företag att skämma bort dig då och då, eftersom det är normaliserad i dessa dagar, men de behöver inte bero på det. Några mindre Besvikelse företag är också inflytelserika, som Twitter, även om de ofta kamp.
Som företag är ingen höjdare? Ett bra sätt att berätta är att först rangordna Besvikelse företagen är de som lockar insatser eller utgifter från dåliga aktörer, såsom ryska staten intelligens krigföring enheter. Detta test visar att det är pseudo-tjänster som innehåller bara en delmängd av de komponenter, som Reddit och 4chan, men fortfarande spelar en betydande roll i Besvikelse ekosystem.
Jaron Lanier: “lösningen är att dubbla ner på att vara mänsklig”
Läs mer
Men detta argument är inte om företag, det handlar om dig. Eftersom vi kan dra en linje runt maskinen, vi kan rita en linje runt vad man ska undvika.
Problemet med Besvikelse är inte att det finns någon viss teknik, utan att det är någon annans makt resa. Du kan välja att behandlas av en kognitiv beteende terapeut och dra nytta av det. Förhoppningsvis terapeut kommer att ha svurit en ed att upprätthålla professionella standarder och kommer att förtjäna ditt förtroende. Men om din terapeut är i tacksamhetsskuld till en jätte, remote corporation och som betalas för att få dig att fatta vissa beslut som inte nödvändigtvis är dina egna intressen, då det skulle vara en Besvikelse.
Problemet är inte någon särskild teknik, men användningen av teknik för att manipulera människor för att koncentrera makten på ett sätt som är så nötter och läskigt att det blir ett hot mot överlevnad som civilisation.
Om du vill hjälpa till att göra världen förnuftig, du behöver inte ge upp din smartphone, med hjälp av dator moln-tjänster, eller besöker webbplatser. Besvikelse är saker att undvika. Radera dina konton!
Detta är ett redigerat utdrag från Tio Argument för att ta Bort Dina Konton i Sociala Media Just Nu av Jaron Lanier (Bodley ‘ Huvud, £9.99). För att beställa den för £8.49 gå till guardianbookshop.com eller ring 0330 333 6846