Foto: Getty
Hver forferdelig øyeblikk forsterket av sosiale medier følger de samme grunnleggende skript, og fredag livestreamed dødelige terrorangrep i New Zealand, som venstre på minst 49 personer døde og flere titalls skadet, treffer alle de vanlige tomten poeng av hater å gå viral online.
Det drapsmannen lagt ut en livestream av hans massakren på Facebook, til syvende og sist streaming etter 17 minutter. Facebook slutt fjernet strømmen etter at politiet merket det, men videoen spres utover sitt opprinnelige publikum over YouTube, Reddit, Twitter, og andre plattformer, der det var hvile utallige ganger, og sprer vold og drapsmannen er hatefulle ideologi til ukjente millioner av mennesker. Selskapene, selvfølgelig, sier de jobber iherdig for å ta ned hvile videoer.
Vi har sett dette gang på gang, så nå må vi spørre: Hvorfor er disse store tech selskaper så dårlig på å holde på New Zealand moské skytterens videoer av deres plattformer? Hvorfor gjør de ikke klarer å holde den radicalizing, rasistiske og hatefulle innhold fra mette sine nettsteder? Hvorfor gjør Silicon Valley effektivt ikke politiet sine plattformer? Problemet går langt utover en video av massemord—og det går rett til hjertet av Silicon Valley, er rikdom og makt.
“Omfanget er problemet,” forfatteren Antonio Garcia Martinez, en tidligere Facebook-annonsering manager, sa på Twitter på fredag når jeg spurte hvorfor.
For Silicon Valley, omfanget av deres plattformer er det som gjør dem multibillionaires. Den enestående skala er en tilsiktet etableringen designet for enestående resultat. For ledende ansatte, aksjonærer. og ingeniører som leter etter en bonus, og øke omfanget er alt.
Skala er også alltid deres unnskyldning.
Av sin egen innrømmelse, disse selskapene er for store til å lykkes på effektivt moderere sine plattformer, spesielt i en sak som Friday ‘ s eksplosive video av masse vold. Så dersom de er altfor store til å løse dette problemet, kanskje det er på tide å redusere omfanget.
“Rask og bred spredning av denne hatsk innhold—live-streamet på Facebook, lastet opp på YouTube og forsterket på Reddit—viser hvor enkelt den største plattformene kan fortsatt bli misbrukt,” Senator Mark Warner sa i en e-post til Gizmodo. “Det er stadig tydeligere at YouTube, i særdeleshet, har ennå til å gripe med den rollen den har spilt i tilrettelegging av radikalisering og rekruttering.”
Hvis tech ledere selv, i sin egen rundkjøring måte, som erkjenner at deres selskaper er for stor, kanskje vi bør lytte til dem.
Det nøyaktige omfanget av disse selskapene er vanskelig å vite helt på grunn av deres mangel på åpenhet. Facebook ikke svare på en forespørsel om kommentar på saken, men selskapet sier at det har over 30 000 arbeidere og kunstig intelligens i oppdrag med å fjerne hatefulle innhold. YouTube, som tilsynelatende ser 500 minutter med video lastet opp hvert eneste sekund, sier i sin siste kvartalsrapport at det i fjerde kvartal 2018, siden fjernet 49,618 videoer og 16,596 kontoer for brudd på våre retningslinjer for markedsføring av vold eller voldelig ekstremisme. De har også fjernet 253,683 videoer brudd på våre retningslinjer på grafisk vold.
Bare i forrige uke, YouTube administrerende DIREKTØR Susan Wojcicki sa mye av det samme når journalisten Kara Swisher spurte executive hvorfor nynazister fortsette å trives og vokse på YouTube og hvorfor nettsiden kommentarer er en notorisk vile sted nylig rapportert, for eksempel, som skal brukes av pedofile nettverk. Hennes svar: målestokken er problemet.
Forsvare hennes selskap, Wojcicki sagt over 500 timer med video lastes opp til YouTube hvert eneste minutt, og at millioner av dårlige kommentarer er fjernet hvert kvartal. “Men du må innse det volumet vi har er veldig stor, og vi jobber for å gi skaperne flere verktøy som er godt for dem også til å være i stand til å håndtere det,” sa hun.
Vente, akkurat som ansvar er det å håndtere spredning av grupper som Nazistene og pedofile over nettsteder som YouTube? Er det brukerne? På YouTube, minst, svaret er åpenbart ja.
Når YouTube Twitter-konto lagt ut tidlig fredag at selskapet er “knust” over New Zealand drapene, er det vekket en reaksjon.
“Jeg beklager, men ingen bryr seg om YouTube er knust,” Jackie Luo, en ingeniør i Silicon Valley tech industrien, sa han. “Liv gikk tapt, mer vil bli. YouTube er delaktige—ikke så mye på grunn av gårsdagens opptak, men på grunn av den store rollen den har spilt og fortsatt spiller i normalisering og å spre denne form for voldelig retorikk. Det er irriterende å se et selskap som fortjeneste enormt fra å sende vanlige folk ned kanin hull som radikalisera dem til å ha disse typer tro deretter utføre sorg på sosiale medier når som modellen produserer ekte og forferdelige konsekvenser. Det er en hard ‘nei’ fra meg.”
YouTube er beryktet radikalisering problemet er brensel for ilden, som er skala. Målet er å få flere folk å se, laste opp, se på, laste opp og tidkrevende s hele tiden. Det er den hele virksomheten. Radikalisering bare skjer for å være en spesielt effektiv og lønnsom måte å oppnå det mål av vekst.
“Dette er ikke fordi et forbund av YouTube ingeniører planla å drive den første av en klippe,” den akademiske Zeynep Tufekci skrev siste året. “En mer sannsynlig forklaring har å gjøre med nexus av kunstig intelligens og Google’ s forretningsmodell. (YouTube eies av Google.) For alle sine høye retorikk, Google er en reklame megler, selger vår oppmerksomhet til selskaper som vil betale for det. Jo lenger folk bo på YouTube, jo mer penger Google gjør.”
Kjøring brukere til neste radikal stemme som er en del av den grunnleggende business—øyeepler pluss timer er lik ad dollar.
I en tid da Washington lovgivere snakker om å bryte opp store tech, det er veldig interessant å se en tech executive erkjenner at deres plattform er for stor til å håndtere sitt ansvar brakt på seg selv.
“Jeg beklager, men ingen bryr seg om YouTube er knust.”
Jeg har fått min egen lille erfaring med YouTube radikalisering forretningsmodell, om enn i en mye mer harmløs måte. Jeg er en løper som, inntil de siste årene, elsket rask 5K løp. Når jeg begynte å bruke YouTube-mer å se på, kjører videoer, er den anbefalte og auto-play videoer holdt presser meg videre og videre langs. Merkelig, det antas at en 5K runner ønsker å løpe maraton og deretter ultramarathons. Jeg pliktskyldig sett og sett på før jeg løp halvmaraton i forrige måned.
Hvis det betyr å se flere videoer, YouTube har som mål å gjøre ultramarathon-kjører radikaler av oss alle fordi, antagelig, radikalisering gjør for pålitelige og lønnsomme forbrukere av innhold.
På fredag, over 12 timer etter selve hendelsen, videoer av drapsmannen i Christchurch, New Zealand, drepe Muslimer i bønn i en moské fortsetter å spre seg over hele internett på nettsteder som Facebook, YouTube og Twitter som det er brukt som et propagandaverktøy for langt til høyre hvite nasjonalister.
“Skala er den viktigste problemet for både FB og YouTube,” media lærd Siva Vaidhyanathan twitret. “De ville være ufarlig på <50 millioner [brukere].”
Reaksjonen fra New Zealand, hvor angrepet skjedde, er mindre tilgivende.
“Unnlatelse av å håndtere dette raskt og besluttsomt representerer en total fornektelse av ansvar av sosiale medier for bedrifter,” Tom Watson, nestleder i New Zealand Arbeiderpartiet sa. “Dette har skjedd for mange ganger. Å unnlate å ta disse videoene ned med en gang, og forhindre at andre blir lastet opp er en svikt av anstendighet.”
Argumentet om at skalaen er problemet, og kan aldri være helt løst kommer implisitt pakket med ideen om at måten ting er slik det må være. Unnskyldning justerer pent med det faktum at rask hastighet, vekst og skalering som skjer for å gjøre disse allerede svært lønnsomme bedrifter enda mer penger.
“Jeg er lei for at status quo, som skjer for å gjøre oss svært rik, kan være så gud forferdelig,” de ser ut til å si. “Men hva kan vi eventuelt gjøre?”
Skala er en Rorschach-test i Silicon Valley. På den ene siden, er det et mål når en tech executive ligger på et inntekter samtale. På den annen side, det er en unnskyldning hvis det er en tech talsperson unnskyldning til media om selskapet er feil.
Hvis tech ledere selv, i sin egen rundkjøring måte, som erkjenner at deres selskaper er for stor, kanskje vi bør lytte til dem.
I Europa, myndigheter ser nøye på fining sosiale medier plattformer som ikke klarer å fjerne ekstremistisk innhold i løpet av en time. “En time er det avgjørende gang-vinduet, der de største skadene skjer,” Jean-Claude Juncker sa i fjorårets State of the Union-adressen til Eu-Parlamentet.
“Vi trenger en sterk og målrettet verktøy for å vinne dette online kamp,” Rettferdighet Commissioner Vera Jourova sa.
Problemet er å tiltrekke seg oppmerksomhet i Usa, så vel.
“Vi trenger en sterk og målrettet verktøy for å vinne dette online kamp.”
I økende grad, Amerikanske politikere ønsker å gjøre noe med vekten og kraften av tech selskaper. Nylig, Demokratisk presidentkandidat Senator Elizabeth Warren foreslått å bryte opp den store tech bedrifter. Å bryte opp America ‘ s store tech bedrifter ville presse “alle i markedet for å tilby bedre produkter og tjenester.”
Silicon Valley-selskapene har et innhold-moderasjon problem som er fundamentalt utover skalaen at de vet hvordan de skal håndtere,” Becca Lewis, en forsker ved Stanford University og tenketanken Data & Society, fortalte Washington Post. “Den økonomiske insentiver er i spill for å holde innholdet først og inntjeningsmulighetene første. Noen arbeider med de negative konsekvensene som kommer fra som er reaktive.”
Akkurat nå, insentiver linje opp så Silicon Valley vil fortsette å være dårlig på politiarbeid plattformer de har skapt. Insentiver kan bli endret. I språk som Silicon Valley kan forstå, er det innovative måter å forstyrre den sosiale media-industrien er nedadgående spiral. Den ene er kalt forskriften.
Deler Denne Historien