Hvordan Peppa Pig blev en video mareridt for børn

James Bidsel ‘ s essay om foruroligende YouTube-indhold, der er rettet mod børn gik viral sidste år. Problemet er gået væk – eller er det blevet værre?

Sun, 17 Jun 2018 08.00 BST

A Peppa Pig parody.

“Ud over den enkle, knock-offs, og den provokation, der findes en hel klasse af meningsløse, algoritme-genereret indhold” … En mørk Peppa Pig parodi som børnenes karakter går til tandlægen.
Foto: YouTube

I November sidste år, læste jeg en artikel i New York Times om at forstyrre videoer, som er målrettet mod børn, der blev distribueret via YouTube. Forældrene rapporterede, at deres børn blev oplever knock-off udgaver af deres favorit tegneseriefigurer i situationer med vold og død: Peppa Pig at drikke blegemiddel, eller Mickey Mouse blive kørt over af en bil. En kort Google på nogle af de vilkår, der er nævnt i artikel bragt op ikke kun mange flere konti af upassende indhold, i Facebook-indlæg, nyhedsgruppe, tråde, og andre aviser, men også foruroligende-konti og deres virkninger. Tidligere glade og veltilpassede børn blev bange for mørke, så tilbøjelige til at anfald af gråd, eller udvist voldelig adfærd og talte om selvskade – alle klassiske symptomer på misbrug. Men på trods af disse rapporter, YouTube og dets moderselskab, Google, ikke havde gjort meget for at løse dem. Desuden syntes der at være ringe forståelse af, hvor disse videoer var kommer fra, hvordan de blev fremstillet – eller endda hvorfor de har eksisteret i første omgang.

Jeg er en forfatter og kunstner, med fokus på de overordnede kulturelle og samfundsmæssige virkninger af de nye teknologier, og det er sådan, de fleste af mine kæpheste start: få mere og mere nysgerrig om noget og grave dybere, med et øje for skjult infrastruktur og skjulte processer. Det er en tilgang, der tidligere har ført mig til at undersøge Britain ‘s system for udvisning flyvninger eller dens avancerede road overvågning af netværk, og i denne tid, det tog mig ind i det skæve, surrealistiske, og ofte foruroligende bagland af YouTube ‘s children’ s videoer. Og disse videoer er bekymrende på flere niveauer. Så jeg brugte mere og mere tid med dem, jeg blev urolig, ikke blot ved deres indhold, men af den måde, systemet selv syntes at reproducere og forstærke deres mest usmagelige udskejelser, preying om børns værste frygt og samle dem op i mareridt afspilningslister, mens blindt at belønne deres skabere, for at øge deres mening tæller selv som de videoer i sig selv ned i meningsløs parodier og forvrøvlede historier.

For voksne, det er ren og skær skøre af mange af de videoer, der næsten synes mere foruroligende, end deres vold. Dette er den del, der er sværere at forklare – og sværere for folk at forstå – hvis du ikke fordybe dig i de videoer, som jeg ville næppe anbefale. Ud over den enkle, knock-offs, og den provokation, der findes en hel klasse af meningsløse, algoritme-genereret indhold, og millioner og atter millioner af videoer, der udelukkende tjener til at tiltrække synspunkter og producere indkomst, flikket sammen fra nursery rhymes, legetøj anmeldelser og kulturelle misforståelser. Nogle synes at være et produkt af tilfældige titel generatorer, andre – så mange andre – at inddrage virkelige mennesker, herunder unge børn, fordelt over hele verden, der handler ud uendelige vanvittige krav fra YouTube ‘ s henstilling algoritmer, selv om det giver ingen mening, selv hvis du er nødt til at nedbrydningen af dig selv fuldstændig til at gøre det.

A scene from Minnie Mouse Choked Pizza for Eating Too Much.

Facebook

Twitter

Pinterest

En scene fra Minnie Mouse Kvalt Pizza til at Spise For Meget. Foto: YouTube

Når jeg skrev et essay om videoer online, den offentlige reaktion i høj grad spejlede min egen. På den ene side, folk var forfærdet over at finde ud af, at disse videoer har eksisteret, og på den anden, helt weirded ud af de store og fremmedhed af, hvad de har fundet. Kombinationen sendt artiklen viral: det blev delt og læst på nettet millioner af gange, samlet op af hjemmesider og aviser rundt omkring i verden, og endda resulteret i spørgsmål, der bliver stillet i Europa-parlamentet. Endelig, YouTube er begyndt at reagere, selv om dens indsats og resultater, har været blandede.

YouTube ‘ s oprindelige forslag var at begrænse reklamer på foruroligende indhold, der er rettet mod børn – men det forslag har undladt at engagere sig ærligt med sin egen platform. Det er anslået, at 400 timer af indhold, der er uploadet til hjemmesiden hvert minut. Politiarbejde det i hånden, er umuligt; i stedet, YouTube bygger på udflagning af seerne til at drive officiel anmeldelse – der er næppe egnet, når de første mennesker til at se denne ting er små børn, og skaden er allerede sket. YouTube har også udråbt den teknologiske kur-alle af machine learning som sin foretrukne løsning – men i April er det endelig enige om, at de dedikerede YouTube Børn app ville skifte til et helt menneske moderation, effektivt at indrømme, at den strategi ikke virker.

Som et resultat, mens mange videoer, er siden blevet fjernet fra hjemmesiden, utallige numre, er der stadig. I Marts, Kabel katalogiseret en masse voldelige konti og vist, at det var muligt at gå fra en populær børne alfabet video til en Minnie Mouse snuff film i 14 trin, blot ved at følge Youtubes egne anbefalinger. Som i sidste uge, at Google titlen på en af de nu fjernede videoer, der er nævnt i artikel i New York Times (“PAW Patrulje Babyer Foregive at Dø, Selvmord ved Annabelle Hypnotiseret”) resulterer i et link til en nær-identiske video stadig hostet på hjemmesiden (“PAW PATRULJE Babyer Foregive At Dø MONSTER HÆNDER Fra SPEJLET! Paw Patrulje Animation Hvalpe Gem For Kids”), hvor de nuttede hvalpe endnu en freakish clip-art monster maske for at skræmme hinanden, inden de bliver lokket ud på en tagterrasse med en hjemsøgt dukke. Er “Gem For Børn” skulle læse “Sikkert For Børn”? Enten måde, det er det ikke, og det er indlysende, at bare spille whack-a-mole med søgeord og forbudt konti er aldrig kommer til at løse viklet ind i problemer for krænkelse af ophavsretten, algoritmisk henstilling, og ad-drevet monetære incitamenter på en milliard-view platform med nogen meningsfuld menneskelig kontrol.

YouTuber Elle Mills

Facebook

Twitter

Pinterest

YouTuber Elle Møller, der har sendt optagelser af sig selv, mid-angst angreb Foto: YouTube Elle Møller

Om disse videoer er bevidst skadelige, “blot” trolling, eller den emergente effekt af komplekse systemer, er det ikke det punkt. Det nye er, at systemet som sådan vold halvt siden formere er lige foran os, og synligt medskyldige, hvis vi vælger at se det for hvad det er. Jeg hedder, at oprindelige essay “der er Noget galt på internettet”, fordi det syntes og stadig synes, at de spørgsmål, der stilles åbenlyst af skandalen er ikke begrænset til børn indhold, eller til YouTube. Først blandt disse er, hvordan systemer af algoritmisk styring, i stedet for at føre os i retning af den solrige stat af ligestilling og styrkelse af kvinders stilling, konstant genskabe og styrke vores eksisterende fordomme, samtidig med at undertrykke dem med den mindste forståelse af, og dermed magt over, de systemer, de er viklet ind i.

Tag YouTube ‘ s anbefaling system for startere, der ikke kan skelne mellem Disney-film og en kornet animation kogt op med en bot gård i Kina. Stort set, hvad de tilsyneladende godartede “hvis du kan lide, du vil kunne lide denne mekanisme, som gør, at uddannelse af unge børn – næsten fra fødslen – til at klikke på den første ting, der kommer sammen, uanset kilden. Det er den samme mekanisme, der ser Facebook slide falske politiske annoncer og konspirationsteorier i feeds af millioner af utilfredse vælgere, og resultatet – stadigt mere ekstreme indhold og opdelt synspunkter – er meget den samme. Tilføj ren og skær umulighed af at arbejde ud af, hvor disse videoer kommer fra (de fleste er anonyme konti med tusindvis af knap opdelte uploads) og seeren er i vildrede i et hav af eksistentiel usikkerhed, som begynder at føle sig foruroligende bekendt i en verden, hvor uigennemsigtig og uansvarlige-systemer i stigende grad kontrol kritiske aspekter af vores daglige liv.

Vi har set, hvordan edb-programmer, der er designet til at give en afbalanceret strafudmåling anbefalinger i AMERIKANSKE domstole, var mere tilbøjelige til fejlagtigt etiket sort tiltalte som sandsynligt, at reoffend – fejlagtigt at markere dem på næsten det dobbelte af den sats, der for hvide mennesker (45% til 24%). Vi har set, hvordan algoritmisk systemer, der er rettet mod mænd over for kvinder prestigefyldte stillinger: i en undersøgelse, Google ‘ s annonce systemet viste den højeste betalende job 1,852 gange til mænd — men bare 318 gange, at en kvinde gruppe med samme præferencer. Og vi har også set, hvor svært det er at appellere til disse systemer. Når den Australske regering indførte “robo-gæld”, en automatiseret gæld-recovery program, er det forkert og ulovligt, straffes de mest sårbare i samfundet, der havde ikke mulighed for at støtte eller rådgivning til at udfordre systemet.

A scene from a parody video.

Facebook

Twitter

Pinterest

‘Det store skøre af mange af de YouTube-videoer, der næsten synes mere foruroligende, end deres vold.’

I måneder siden første gang skrev om YouTube ‘ s weird video problem, jeg har mødt et par folk fra den virksomhed, såvel som fra andre platforme, der er blevet fanget i samme position. Mens de fleste er velmenende, nogle synes at have meget af en forståelse af større strukturelle problemer i samfundet, som deres systemer både fortjeneste og forværre. Ligesom de fleste mennesker, der arbejder i store tech firmaer, de tror, at disse problemer kan løses ved anvendelse af mere teknologi: ved bedre algoritmer, mere mådehold, tungere engineering. Mange uden at tech-boble – især i vesten og i højere indkomstgrupper – er simpelthen rystet over, at nogen ville lade deres børn bruge YouTube i første omgang. Men vi vil ikke løse disse problemer ved at skyde skylden på de virksomheder, eller opfordre dem til at gøre det bedre, lige som vi ikke vil løse fedme krise ved at dæmoniseringen af fast food, men ved at løfte mennesker ud af fattigdom. Hvis YouTube er at slå bro over et hul i børnepasning, svaret er flere midler til børnepasning og uddannelse i almindelighed, ikke om fastsættelse YouTube.

Hvor meget tv-tid er for meget for børn? Det er kompliceret

Læs mere

Hvad sker der med børn, på YouTube, at tiltalte i algoritmisk forbedret retssager, og til dårlige debitorer i Australien, er på vej til os alle. Alle vores job, life support-systemer og sociale kontrakter, der er sårbare over for automation – der behøver ikke at betyde, faktisk er ved at blive erstattet af robotter, men blot at blive på deres nåde. YouTube giver en anden positiv lektion her: i sidste uge blev det rapporteret, at YouTube ‘ s mest succesfulde unge stjerner – “YouTubers” fulgt og beundret af millioner af deres jævnaldrende – er ved at brænde ud og bryde ned i massevis. Polygon magazine havde, blandt mange andre eksempler af Rubén “El Rubius” Gundersen, den tredje mest populære YouTuber i verden med lige under 30 millioner abonnenter, der for nylig gik live til at tale med sine seere om frygt for en forestående sammenbrud, og hans beslutning om at tage en pause fra YouTube, og Elle Mills, som er et populært YouTuber med 1,2 millioner tilhængere, som har sendt optagelser af sig selv, mid-angst angreb i en video med titlen Brænde Ud på 19.

YouTuber Ruben Doblas Gundersen at a film premiere

Facebook

Twitter

Pinterest

YouTube-stjernede Rubén Gundersen har talt om sin frygt for sammenbrud. Foto: Carlos Alvarez/Getty Images

Det ville være nemt at spotte på disse unge berømtheder, var det ikke for det faktum, at deres erfaring er blot de mest karismatiske eksempel på den form for algoritmisk beskæftigelse i henhold til, hvor mange andre, der allerede er på arbejdsmarkedet. De karakteristika, der, efter alt, er de samme: lang arbejdstid, uden at ferie, ydelser, eller institutionel støtte, og presset til at arbejde i det tempo af maskinen i et system, hvis mål og mekanismer, der er uklar og foranderlig, og til hvilken dens emner har ingen appel. (I en deprimerende twist, mange af disse samme YouTubers har været ramt af fald i indtægterne, der er forårsaget direkte af YouTube ‘ s forsøg på at demonetise “upassende” indhold for børn – at løse et problem i systemet, kun forværrer andre.)

Det skøre af YouTube-videoer, ekstremisme af Facebook og Twitter mobs, den latente fordomme af algoritmisk systemer: alle disse har én ting til fælles med selve internettet, der er der – med et par beskidte undtagelser – ingen bevidst designet dem på denne måde. Dette er måske den mærkeligste og mest gavnlige ting, vi kan lære fra disse eksempler, hvis vi vælger at lære. Det skøre og vold, de producerer, synes at være en direkte sammenhæng til, hvor lidt vi forstår deres arbejde – og hvor meget, der er skjult fra os, bevidst eller på anden måde, af de krav om effektivitet og brugervenlighed, virksomheder og nationale tavshedspligt, og i sheer, planet-skala, der spænder over. Vi lever i en tidsalder præget af vold og fordeling af sådanne systemer, fra den globale kapitalisme til balance med klimaet. Hvis der er noget håb for dem, der udsættes for sine udskejelser fra holderen, kan det være, at de vil være den første generation, der er i stand til at tænke om global kompleksitet i måder at stige, snarere end at reducere, agenturet for os alle.

James Tøjlen er forfatter til en Ny Mørk Tidsalder, (Verso, £16.99). For at bestille en kopi til £14.44 gå til guardianbookshop.com eller ring 0330 333 6846


Date:

by