Bruk av hvite supremacists av Reddit å organisere fjorårets voldelige rally i Virginia var en katalysator for endring i den digitale giganten. I et utdrag fra sin nye bok Vi Er Nerder, Christine Lagorio-Chafkin ser på hvordan de har forsøkt å avgifte seg selv
Søndag 23 September 2018 11.00 BST
Sist endret på Søndag den 23 Sep 2018 14.07 BST
Følgende vold mot en alt-høyre rally i Charlottesville, Virginia, Reddit har flyttet til en adresse beskyldninger om at den effektivt subsidises hvite rasistiske oppførsel ved hosting visse fora
Da klokken krysset opp til 9 pm fredag 11 August 2017, mer enn 200 menn gikk ned en mørk, lang expanse av gress i Charlottesville, Virginia, kalt Navnløs Feltet. Den sammensatte gruppen var helt hvite, og nesten likt kledd i trykket khakis og polo skjorter. Hver mann grep en tre torch fylt med parafin.
De dannet en kolonne, stilt opp to og to. De tente sine fakler. Arrangørene, iført ørepropper, tempo opp og ned linjen utstedelse retningene, forsterket av elektrisk bullhorn. “Nå! Nå! Gå!” bullhorns bestilt. Menn marsjerte, og begynte å synge. “Blod og jord!” de ropte, som et ekko av Nazistisk ideologi. “Jøder vil ikke erstatte oss! Jødene vil ikke erstatte oss!”
Journalister hadde blitt tipset til organisert hvit nasjonalistiske mars. De visste plasseringen, Navnløs Feltet, og timing, natten før “Forene Høyre” rally. De visste ikke at det ville være denne åpenlyst anti-svart, og antisemitic. Den fakler, natt-innstilling av klokkeslett, sammenstøt med student counterprotesters som oppstod ved foten av feltets sentrale statuen – Thomas Jefferson, som hadde grunnlagt University of Virginia – bebudet at dette ville bli en helg med terror.
Dette var en fysisk manifestasjon av mange fraksjoner av alt-høyre, som identiteter var så ofte maskert online på fora som 4chan eller Reddit, eller gjemt bort i private chat-grupper. Nå var de forsøker å bevise at de var mer enn en internett-meme machine bestående av kjeller-bolig troll som distribueres hat-sivet meldinger med et raskt utvikler visuelle og verbale morsmålet på fora som Reddit. For utenforstående, mye av memetic innhold var uforståelige. Men en inngangsport til å forstå det hadde blitt en tegneserie frosk bilder kjent som Pepe, som hadde vært målrettet fylt med antisemitic betydningen av 4channers, erklærte en hater symbol av Anti-Defamation League, og som hadde vært twitret ut av Donald Trump i oppkjøringen til hans gjenvalg som usas president.
Ulike fraksjoner av alt-høyre hadde plottet helt annen optikk for rally, ned til sine utstyrt krage skjorter. “Vi ønsker å se glatt og sexy,” skrev Andrew Anglin på Daglig Stormer, en alt-høyre nettstedet. Mangel på memetic symbolikk og hakekors på rally var bevisst. “Pepe bannere er en umulighet,” Anglin skrev. Tilhengere ble bedt om å holde seg hjemme hvis de var overvektige eller så ut som bustete troll.
Rally faktisk bebudet terror. Det lørdag, på gatene i Charlottesville, alt-høyre-justere demonstranter og hundrevis av counterdemonstrators oversvømte gatene. Demonstrantene kastet vann på flasker og sprayet kjemiske gasser på hverandre. Journalister ble angrepet med urin. “Vi er i ferd med å sakte avsløre en liten bit av vår strøm,” Robert “Azzmador” Ray, en neo-Nazi-skribent for Daglig Stormer, fortalte Vice Nyheter. “Du er ikke sett ingenting ennå.”
Høyre grupper som bærer fakler mars på tvers av University of Virginia campus i Charlottesville på 11 August 2017. Foto: Mykal McEldowney/AP
Sent på lørdag morgen, politiet beordret alle demonstranter å spre seg, og deeming forsamlingen ulovlig. Virginias guvernør erklærte unntakstilstand. Da en bil drevet av en 20-åring som hadde blitt fotografert timer tidligere bærer en hat-gruppe emblem nypløyd inn i en folkemengde av demonstranter, drepe Heather Heyer, en 32 år gammel lokal paralegal, og skadet minst 19 andre.
Steve Huffman, daglig leder av Reddit, som i 2005 hadde hånd-kodet nettstedets opprinnelige infrastruktur i løpet av uker for eksamen fra University of Virginia i Charlottesville, så denne åpne visning av terror utfolde seg fra en liten skjerm på et fly til San Francisco, og deretter hjemme i byen er i Mission-Distriktet. Det venstre ham incensed. Han var sint på hele rally og rasistiske vise, men også at Charlottesville, er en av hans favoritt steder på planeten, som han betraktet som en progressiv college town, ville bli oppfattet av andre som et fristed for rasistiske hevnere. Utgangspunktet for mars, den viktigste University of Virginia quadrangle, var et felt Huffman og hans tidligere samboer, Reddit co-grunnlegger Alexis Ohanian, hadde krysset ofte som undergrads. Det var mindre enn fem minutters spasertur fra UVA sovesal der de møttes for første gang.
Se utstilling av fysiske trusler utfolde seg, og den påfølgende vold, Huffman vokste mer rasende på alt-høyre er fraksjoner enn han hadde vært før, er det bare å se forsøk på å spre hat-drevet ideologier på Reddit. “Jeg var som, til helvete med alle disse menneskene. Forbudet dem alle!”
Andre Silicon Valley-selskapene, som for eksempel Airbnb og Uber, hadde allerede tatt rask handling for å forby hvite nasjonalister fra sine plattformer. Mens det var nesten umulig å spore individer på Reddit på grunn av pseudonyme brukernavn, fora espousing hvit nasjonalistisk, rasistisk, fremmedfiendtlig, misogynistic, og hatefulle ytringer av andre striper, var ikke vanskelig å finne, overvåke, og destruere – selv om Reddit er komplekse, tiår lange historie strever med sin egen grunnleggende fri-tale-ideologi hatt i det siste laget gjør det så nervøs.
Åpne rasisme og uttalelser er greit å legge ut på Reddit, sier administrerende DIREKTØR
Les mer
Rasende over nyheter, Huffman besøkte en Slakk meldinger kanalen som brukes av Reddit tillit og sikkerhet team. Medlemmene allerede hadde nøyaktig hvor på Reddit rally, eller dødelig krasj, ble bifalt. En subreddit, r/Physical_Removal, som talte for eliminering av liberale fra OSS, ofte skrevet memer med en alt-høyre bildet, kalt “Pinochet’ s Helikopter” (en tilslørt referanse til rykte om den tidligere Chilenske diktatoren er regimet for å kaste kommunistene ut av flyet og ut i havet). Forumet ble kjent for bashing kommunismen og sammenligne American venstreorienterte til Isis, og på lørdag i mars inneholdt en stor “Forene Høyre” banner og flere upvoted diskusjoner av ulykken. En moderator skrevet at drapet på en counterprotester var “etiske”.
Tillit og sikkerhet var allerede diskuterer et forbud mot r/Physical_Removal. “De var ikke snakk om hvis, men når,” Huffman-sa. Ved slutten av uken, de hadde sikret godkjenning fra generelle råd Melissa Tidwell ‘ s juridiske avdeling for å zappe hele samfunnet r/Physical_Removal fra Reddit.
Fjerning var rent, grei og – i motsetning til tidligere handlinger av Reddit som endret politikk eller forsøkt å stoppe selv den mest skadelige hjørnene av området – ikke utløse et massivt opprør av nettstedet er 250 millioner brukere.
Snuffing ut skadelige innholdet var ikke en helt ny ting for Reddit, men bevisst sin søken for å avgifte seg selv – og til å definere sin evne til å gjøre det – var frisk. Litt over to år tidligere, under ledelse av Ellen Pao, midlertidig Reddit administrerende DIREKTØR og venture kapitalist som hadde blitt en feministisk helten i Silicon Valley for å saksøke venture capital-selskapet Kleiner Perkins for diskriminering, Reddit laget sin første materielle flytte for å rydde opp. Det utestengt fem subreddits som deployerte hatefulle ytringer og bilder mot folk av farge, overvektige mennesker og transseksuelle mennesker. Det forbud ble møtt med bred gjengjeldelse ved redditors mot Pao og hennes medarbeidere, som ble truet, trakassert, og hadde som identifiserer personlig informasjon om dem som er postet, kjent som “doxed”. Meldinger til Pao er Reddit innboks truet med å skade hennes unge datter, og innlegg på Reddit sammenlignet henne til diktatorer. “Trusler bære litt mer vekt når folk truer deg også til å publisere e-postadressen din,” Pao skrev senere.
Ellen Pao trakk seg som konstituert administrerende DIREKTØR i Reddit etter at en bruker tilbakeslag mot hennes innsats for å løse hatefulle ytringer og bilder. Foto: Jeff Chiu/AP
Ikke lenge etterpå, om morgenen den 2 juli 2015, Reddit staffer elsket av nettstedets samfunnet var brått avskjediget fra sin stilling over et videoanrop utført av Ohanian. Ord Victoria Taylors oppsigelse spredte seg raskt på Reddit. Fjerntliggende moderatorer av subreddits av alle størrelser – fra store, polert “standard” subreddits som r/bøker til små nisje de var forvirret og sint. Ved ettermiddag, 300 subreddits, fra r/vitenskap til r/skrillex, hadde gjort sine snitt private, og utilgjengelig i protest. Tolv hundre subreddits i hovedsak var slått av. Begrepet “AMAgeddon” hadde blitt brukt til å beskrive en hendelse, og trykk tok til det. Den Daglige Prikk, et nettsted som rapporteres ofte på intrigene av Reddit, skrev: “Den store Reddit meltdown har begynt.”
I løpet av noen dager, det gikk fra å være en ikke-voldelig protest i stillhet av hundrevis av subreddits inn i en rasende hat-drevet heksejakt på ytringer. En change.org begjæringen kalt for Pao å fratre som administrerende direktør i Reddit, om at hun hadde innledet en “ny æra av sensur” på nettstedet. Som innlegg på Reddit oppmuntret flere medlemmer til å bli med i opprøret, signaturer, vokste. Det plukket opp 100,000 på en enkelt dag. Igjen, Pao, og hennes team ble gjenstand for omfattende trakassering. Tråder på en ny subreddit dedikert til å diskutere opprøret, r/Blackout2015, tilhørende hver fire-brev ord med Pao navn; innleggene var diskriminerende og rasistisk. Hennes innboks ble igjen satt seg fast med fornærmelser, nedsettende ord og uttrykk, og utilslørt trusler. En uke senere, Ellen Pao trakk seg som administrerende direktør.
Hvordan gjorde Reddit vokse inn i et fellesskap med hundrevis av millioner av brukere som kan snus seg selv ut i en enkelt dag? Hvordan fungerer en enkelt arbeidstakers oppsigelse lede hele selskapet en verdi på en halv milliard dollar til nesten implodere?
En del av svaret kan spores tilbake til Reddit er grunnleggende filosofi. Når Huffman og Ohanian satt ut for å bygge et nettsted med linker til det beste innholdet fra hele nettet, de hadde tenkt på det som “front-side på internett”. Bare, ingen redaktør i et tårn, ville finne ut hva som kan bli sett eller spres; i stedet, en algoritme ville hjelpe innhold stemt opp av brukere til å raketten til toppen av siden. En av de første underseksjoner Huffman åpnet opp på Reddit var r/NSFW, eller ikke trygt for arbeid. Nettstedet, selv i sine tidligste dager, var populistisk, rotete, og hadde en utpreget anti-etablering vibe.
Hvordan å håndtere et troll … og kastrere en sjøløve
Les mer
Stedet vokste til et hjem for tusenvis av fora for å få alt under solen, kalt subreddits, som alle brukere kan opprette og administrere seg selv. Reddit er lite seksjoner ble kuratert av en hær av tusenvis av frivillige moderatorer, som, i bytte for å opprettholde Reddit ‘ s retningslinjer for innhold (ingen spam, ingen doxing, og lignende), fikk lov til å kjøre sitt eget lille hjørner av Reddit med andre regler av deres valg.
Subreddits var omfattende: r/LifeProTips, der brukere kan poste ofte morsomt liv hacks, og r/todayilearned, som var fylt med fascinerende “aha” øyeblikk eller merkelige historiske tilfeldigheter. På r/personalfinance, enkeltpersoner ba om hjelp til å komme ut av gjeld, og fremmede stemte i med verdifulle tips. R/DIY, r/Nøysom, og r/HomeImprovement tatt en scrappy, self-starter vibe, spre råd og ros for avsluttede prosjekter. Det var en ny porno økosystemet, men det var også r/spaceporn, med vakre bilder av verdensrommet, og dens søster nettsteder, r/EarthPorn og r/FoodPorn. (Selvfølgelig, noen smarte pornographer måtte ta det til sin logiske tilbakeslag-til-den-tilbakeslag sted, og også opprette r/EarthPornPorn, der brukerne kan se på bilder av mennesker au naturel, midt i naturen.)
For alle lunefull og herlig skjevt innhold frivillige moderatorer geleidet inn i verden ved hjelp av sine subreddits’ tilhengere, disse så velvillig redditors hadde også koste folk jobbene sine, trakassert et seksuelt overgrep offeret, og lansert dusinvis av witch-jakter mot beviselig uskyldige mennesker. Det var et samfunn til venstre, i hovedsak politiet selv. Selv moderatorer, ansvaret for å lage regler for sine subreddits, og oppdager det eller forby regel-breakers, var noen ganger seg skyldige.
Daglig leder før Pao, Yishan Wong, som lederskap også flammet ut under merkelige omstendigheter, hadde referert til Reddit er store samfunnet som en “hivemind”, likening redditors å ustadig bier som oppmerksomhet og luner krever pleie – fordi de ikke kunne flykte fra eller slå på sine voktere. Han hadde ikke vært helt feil. Han hadde grunn til å frykte innfall av samfunnet, men den frykt som han nærmet seg Reddit-fellesskapet endte opp med å fjerne det. Han får hive for mye makt til å oppfatte sin egen virkelighet. Brukere anses Reddit som en lekeplass for å skyve og søker grensene for ytringsfrihet, og hvor pseudonyme brukere kan være herrer over sine egne merkelige online domener. Det sett av regler som gjaldt Reddit ble ansett som en ting – men utføres som en annen. Troen på systemet var incongruent. Sentrum kan ikke holde.
Chris Slowe, Reddit er første ansatte, som senere ble utplassert en annen – og kanskje mer behendig – metafor for å undersøke dette gapet i persepsjon. Han fortalte New York magazine: “Ting som bør bli behandlet som rettspraksis gang får slått inn i grunnloven.” Det han mente var at enkeltstående beslutninger som ga mening i øyeblikket, men ikke på lang sikt, for å tillate visse oppførsel eller innhold, endte opp med å bli hevet til å styre alt som skjedde på Reddit. Som usammenhengende og usammenhengende grunnloven så dikterte at når det er helt umoralsk innhold – for eksempel et bilde av Jennifer Lawrence naken, som invaderte hennes privatliv og hadde blitt stjålet fra hennes personlige iCloud-konto – dukket opp på nettstedet, dets formidling det ble ansett som ikke strengt “grunnlovsstridig”, slik barnemishandling bilder vil bli. Så, Reddit ville forsvare det.
Aldri ble denne spenningen mer tydelig enn når det i 2015, Huffman gikk tilbake til administrerende DIREKTØR rolle. Huffman var ikke bare den nye KONSERNSJEFEN, han var Reddit far i grunnloven, sin egen James Madison. Som Reddit er “skaperen”, forfatteren av det meste av området er første codebase, ble han fylt med kraft til å skrive – eller til og med avskaffe – sin oppfattet grunnloven.
Han kastet bort noe tid i å ta den store risikoen tidligere lederne ikke hadde. På sin femte dag som administrerende DIREKTØR, han lagt ut en kunngjøring til selskapets offentlig blogg som Reddit ble re-evaluere sin politikk på de fleste “støtende og pornografisk innhold”. “Verken Alexis eller jeg opprettet Reddit å være en bastion av det frie ord,” skrev han, “men snarere som et sted hvor åpen og ærlig diskusjon kan skje.” Kommentatorer gikk vill, som roper sensur og hykleri, giddily å merke seg at så sent som i 2012, Ohanian hadde faktisk referert til Reddit som en “bastion av det frie ord”.
Siste kommentarer kom tilbake for å hjemsøke Alexis Ohanian – sett her i Austin, Texas, i 2014 – når andre co-grunnlegger Steve Huffman-angi om å redefinere Reddit ‘ s grunnlov. Foto: Travis S Ball/Getty Images Nord-Amerika
Fra sin personlige datamaskin, Wong sett tusenvis av kommentarer komme tilbake på Huffman, og stemte i på tråden: “AYYYYYY LMAO. Hvor er alle gjør? Dette er KJEMPEBRA!”
Til tross for kritikken, Huffman ikke waver. På sitt syvende dag som administrerende DIREKTØR, Huffman lagt igjen på Reddit. “La oss snakke innhold, AMA” – en forkortelse for “be meg om noe,” Reddit spørsmål-og-svar-forum, skrev han – og er lagt ut en kort historie av det frie ord på Reddit, med seg selv i sentrum for det. “Som vi vokste, ble jeg stadig mer ubehagelig å projisere mitt verdensbilde på andre. Mer praktisk, jeg har ikke tid til å passere dom på alt, så jeg bestemte meg for å dømme ingenting.” Han døpte den påfølgende era “ikke Spør, ikke Fortell,” og sa det ikke gå bra. Det førte til ulogiske resonnement og politisk stagnasjon.
På denne dagen, 16 juli 2015, Huffman annonsert et nytt sett med “ytterligere begrensninger”, som ville forby innhold på Reddit offentlige sider som ble ansett for å oppfordre til vold eller vold mot en person eller gruppe, så vel som hva som helst annet trakassert, mobbet, eller skade på en person eller en gruppe, eller som er inkludert i seksuelt betont innhold med mindreårige.
Denne nye sett av begrensninger i hovedsak ga Huffman og hans team makt til å kutte ut en håndfull av de verste lovbrytere, som strekker seg over flere purviews. Forbud mot individer vokste til en lagdelt varslingssystem som kan bli automatisk opprettet for ett, tre eller syv dager. Virkelig grove brudd på retningslinjene resulterte i permanent brukernavn forbud. På samme måte, Huffman innført en ny karantene systemet under hvilke rettslige men generelt støtende subreddits bare kunne sees av abonnenter som hadde bedt om å registrere deg for dem – og de abonnenter som trengs for å gjøre det gjennom en bekreftet e-postadresse. Karantene et subreddit på denne måten også ment som Reddit viktigste annonser vil bli fjernet fra det, og sidene innlegg ville ikke dukke opp gjennom søk eller på r/populære. Flytt tillatt visse problematiske subreddits, som for eksempel r/SexWithDogs (som inneholdt nettopp det tittelen antyder) til å gå på eksisterende for nå, mens Reddit hemmet deres vekst og skjermet dem fra Google, vil annonsøren angrep, og øynene til intetanende nybegynnere.
Innen Reddit kontor, vedta de endringer som ble en kjempe seg på først. Huffman sa han og samfunnet personalet bestemte seg for å isolere åpenlyst rasistiske subreddit r/CoonTown og deretter diskutert sin eksistens for uker. Ikke lenge etter, han beskrev rygg-og-tilbake: “Dette er det frie ord. Dette er rasistiske. Dette er dårlig for samfunnet, det og det. Det er mange måter du kan argumentere for det.” Under debatten, Reddit fortsatte å bli kritisert i pressen for ikke å ta handling – det ble sagt at området ble i hovedsak subsidiere hvite rasistiske oppførsel ved å fortsette å være vert for r/CoonTown, med sine anslagsvis 200 000 sidevisninger om dagen.
Bare noen uker senere, i August 2015, Reddit til slutt utestengt subreddit. Ikke for å være åpenlyst rasistisk eller skjuler en gruppe av hvite supremacists som rivaliserte trafikk av Stormfront, flere tiår gamle og beryktet hvite rasistiske nettstedet. I stedet, Reddit sa det gjorde det bare som en del av en gruppe av lokalsamfunn, Huffman skrev, “eksisterer utelukkende for å irritere andre redditors, hindre oss fra å gjøre Reddit, og generelt gjøre Reddit verre for alle andre”. Også inkludert i listen av forbud som dagen var samfunn dedikert til animerte barnemishandling bilder og en subreddit kalt r/WatchN—ersDie. Selv om han ikke ville innrømme det på den tiden, i og med at tå av en offentlig begrunnelse for forbudet, Huffman hadde endret grunnloven.
Reddit-bruker data kompromittert i avansert hack
Les mer
Et par måneder senere, Huffman var fornøyd med resultatet av forbud og nye subreddit karantene system. “Vi karantene et par ekle de i går og ingen selv lagt merke til. Ikke trykk plukket opp på det,” sa han. En hadde blitt en forsøkt klone av r/CoonTown.
I løpet av det neste året, det handler om å kutte av giftige miljøer og brukere vil bli en reell prosess, en strømlinjeformet system der brukeren-rapportert kommentarer og tråder ville nå moderatorer og samfunnet team. Teamet, kalt “tillit og sikkerhet” ville utføre en analyse. Juridiske ville logger seg på forbudet eller karantene. Den subreddit er moderator teamet ville ha blitt advart flere ganger før forbudet, enten ved at et medlem av samfunnet, team, som identiteter er offentlige, eller av et brukernavn fra tillit og sikkerhet team, som identiteter er helt skjermet.
Likevel, til tross for en renere linje som trekkes, Reddit fortsatte å hvile på krav at samfunnet hadde brutt nettstedet politikk, heller enn, si, bryter menneskelig anstendighet, moral eller etikk.
Innen 2017, er følgende valg av Donald Trump, når Reddit fant frem og utestengt alt-høyre subreddits som ble opptre mer aggressivt, Huffman beskrevet handlingen av laget sitt, og ho-hum etterspill, som grei. “Like ved boken, ikke noe drama,” Huffman-sa. “Kult.”
For å Huffman, dagene etter Forene Høyre rally ble et vendepunkt for Reddit. Han sa personalet skjønte at hvis de ønsket å ha en hånd i å stoppe dette skjer igjen, de hadde behov for å være mer proaktive. Det ville ikke være lett. Det ville bety utvikler seg som et selskap, ansette opp, og utvikle mer kapasitet til å både lage og utføre viktige avgjørelser som dette.
Pepe Frosken: ja, en ufarlig tegneserie kan bli en alt-høyre maskot | Oren Segal
Les mer
Bare et år tidligere, Huffman betraktet som sin største utfordringene vedrørende Reddit fellesskapet skal være å skille de gode troll fra de dårlige, og prøver å navigere samtalen mellom ytringsfrihet og hatefulle. Tegning noen av linjene var ikke mulig, hadde han sagt. Men et og et halvt år inn i sin tid, hans tenkning hadde utviklet seg – som hadde som av samfunnet lag. Det, sammen med tillit og sikkerhet og juridisk, ville utvide paraplyen “ulovlige” atferd på Reddit – først og fremst med innhold som kan falle inn under paraplyen “oppfordring til vold”, en definisjon som de utvidet til å omfatte “innhold som oppfordrer til, forherliger, fremmer eller samtaler om vold eller fysisk vold mot en person eller gruppe av mennesker… eller oppfordrer til misbruk av dyr”. Den bredere definisjonen var et skritt i retning av å kutte av mobbing, trakassering og dyresex. “Det er en stor endring i filosofi som jeg tror har gjort selskapet bedre,” Huffman-sa.
Det åpnet døren for Reddit å forby en annen omfattende liste over subreddits. Disse var for det meste høyre-skjev og Nazi-sympathising fora, og de som forherliget skade eller dødsfall, som for eksempel r/selfharmpics og r/PicsOfDeadKids. De fleste var små fora, med færre enn tusen abonnenter hver, men listen er omfattende. Det følger med 70 ulike samfunn som har brutt oppdatert regelen.
Hvis Reddit hadde laget en slik bevegelse til enhver tid i sin fortid, og resultatene kunne blitt katastrofale. Dette var en ren blip. Pressen gjort oppmerksom på det, men verken brukere eller moderatorer gjorde opprør. Huffman ble avløst av mangel på oppmerksomhet. “Dette var litt av den siste av de store bølgen av lokalsamfunn som fikk meg angst,” sa han og lente seg tilbake i tilfredshet.
Et øyeblikk senere har han endret som tenkte: “Oh, pistol salg. Never mind, vi vil nok fortsatt se inn i pistolen salg.”• Dette er et redigert utdrag fra Vi Er Nerder av Christine Lagorio-Chafkin, utgitt av Lille, Brune on 2 oktober (gbp 14.99). For å bestille en kopi for £12.89 gå til guardianbookshop.com eller ring 0330 333 6846. Gratis UK s&p over kr 10, online bestillinger bare. Telefonen bestillinger min s&p for £1.99