Foto: AP
YouTube er siste push til å stenge ute terrorist-propaganda i de allestedsnærværende video plattform er å få en grov start. Tidligere denne uken, bemerket undersøkende journalist og forsker Alexa O ‘ Brien våknet for å finne at ikke bare hadde hun blitt utestengt fra YouTube, men at hennes Gmail og Google Drive kontoer hadde blitt suspendert som godt. Hun skulle senere vite at en anmelder som jobber for Google hadde feilaktig identifisert henne kanal, i ordene til en YouTube-representant, som “å være dedikert til terrorist-propaganda.”
Denne drastiske enforcement handling som følges måneder av varsler fra YouTube, der O ‘ Brien ble fortalt at tre av hennes videoer hadde vært flagget for som inneholder “umotivert vold.” Ingen av videoene, men skildrer et faktisk scener av vold, bortsett fra én som inneholder opptak av Amerikansk helikopter piloter gunning ned sivile i Irak, som har vært allment sett på YouTube for et halvt tiår.
Mens tiltalende YouTube avgjørelse, O ‘ Brien lært at mekanismen for å korrigere disse feilene kan være utfordrende, og at et rettferdig utfall er langt fra garantert. Onsdag morgen, hennes kanalen ble planlagt for sletting. Google Disk-kontoen hun ble låst ut av inneholdt hundrevis av timer med research—eller år igjen av sitt arbeid—og ble brått tatt i frakoblet modus. Hun ble da fortalt at hun var “forbudt fra å få tilgang til, besittelse eller skape andre YouTube-kontoer.” Forbudet ble for livet, og med litt forklaring og null menneskelig samhandling, O ‘Brien’ s forskning, mye av det som ikke er tilgjengelige andre steder, var bundet til Googles skitt.
Med kunnskapen om at YouTube har møtt økt press fra AMERIKANSKE og Europeiske myndigheter å slå ned på spredning av terrorist-propaganda—en konsekvens av noe som har ført til bortfall av innhold som er samlet av konflikt journalister—det var ikke vanskelig å utlede hva som hadde skjedd til O ‘Brien’ s konto.
Problemet ble til slutt tatt opp og representanter fra både Google og YouTube senere kalt O ‘ Brien å unnskylde og forklare feil. Da hun ble fortalt at hennes kanalen hadde blitt feilaktig identifisert som et utløp for terrorist-propaganda, hun kunne nesten ikke inneholde hennes latter. “Det var en serie uheldige hendelser”, en YouTube-rep fortalte henne. Feil, de forklarte, var feil av en menneskelig person som er ansatt av Google.
En talsperson for Google fortalte Gizmodo på fredag: “Med det enorme volumet av videoer på nettstedet vårt, noen ganger gjør vi feil samtalen. Når det er brakt til vår oppmerksomhet at en video eller kanal har blitt fjernet ved en feiltakelse, kan vi handle raskt for å gjenopprette det.”
“Er dette for arkivering. Dette er ikke for propaganda formål.”
Dette året, YouTube har i økende grad begynt å stole på machine learning for å finne og kratt ekstremistisk innhold fra sider—en beslutning blir bedt om det av vellykket online rekruttering innsats av ekstremistiske grupper som ISIS. Med over 400 timer med innhold som lastes opp til YouTube hvert minutt, Google har lovet utvikling og implementering av systemer for å målrette og fjerne det de kaller “terror innhold.”
Siste måned, en YouTube-talsmann tillatt, men at dets programmer “er ikke perfekt,” eller noe som er “riktig for hver innstilling.” Men i mange tilfeller, talsmann sa, er det AI har bevist “mer nøyaktige enn det mennesker ved flagging videoer som må fjernes.” I en samtale onsdag, en YouTube-representant fortalte Alexa: “Mennesket vil fortsette å gjøre feil, akkurat som en hvilken som helst maskin system ville åpenbart være feil.” Maskinen, som prioriterer innhold anmeldt av menneskelige øyne, var ikke “ganske klar,” sa hun, for å anerkjenne den sammenheng under som kontroversielt innhold som er lastet opp.
O ‘ Brien hendelsen viser at Google har mange kilometer å gå før sin AI og menneskelige anmeldere er dyktige nok til å skille mellom ekstremistisk propaganda og den undersøkende arbeid som Google selv mener er nødvendig for å øke publikums kunnskap om den intrikate militære, diplomatiske og politi politikk på spill i hele den globale krigen mot terror.
Al-Qaida, og Som-Sahāb Tape
Det bedt om en Google-anmelder til å utpeke O ‘ Brien som en tradisjons-terrorist innhold? Vel, for en, hennes kanal inneholder faktiske al-Qaida-propaganda. Men at propaganda er også en viktig del av AMERIKANSK historie: for noen år siden, er det nesten kostet tidligere AMERIKANSKE Hæren Privat Chelsea Bemanne en livstidsdom.
O ‘Brien’ s kanal inneholde deler av juni 2011 videoen presentert av al-Qaida stikkontakten-Saḥāb Media med Adam Yahiye Gadahn, en AMERIKANSK-født al-Qaida operative på den Arabiske Halvøy, som—i tidligere jihadi propaganda bånd rediffuser av OSS network news—henviste til seg selv som “Azzam den Amerikanske.” I 2006, Gadahn dukket opp i en al-Qaida-dokumentar som inneholder en innføring av Ayman al-Zawahiri, al-Qaida, co-grunnlegger og nåværende leder av organisasjonen som har lyktes Bin Laden i 2011.
I januar 2015, Gadahn ble drept i Pakistan i en serie av OSS drone streik, noe som også krevde livet til utenlandske hjelpearbeidere Giovanni Lo Porto og Warren Weinstein.
O ‘Brien’ s interesse i Gadahn har ingenting å gjøre med å spre sitt syn på “den Store Satan” eller hans profeterer av Amerikanske gater kjøre med blod. Opptakene hun bevart ved hjelp av YouTube-tjenesten, som også var forankret i en off-site analyse, ble brukt av militære påtalemyndigheten å støtte straffbare handlinger ved krigsrett av Chelsea Bemanning. Den straffesak mot Manning manglet samtidige tilgang til domstolen ta opp. Bare arbeidet med journalister, som O ‘ Brien, som personlig deltok i rettssaken, er tilgjengelig for publikum.
-Saḥāb video med Gadahn kom inn i bildet etter at den AMERIKANSKE regjeringen anklaget Bemanning av “hjelpe fienden,” en kostnad som, i motsetning til de fleste stammer fra det militære code of justice, kan brukes til sivile. Og det bærer en livstidsdom.
Manning ble anklaget for å hjelpe Gadahn, definert i krigsrett som en fiende av OSS, fordi den Som Saḥāb video siterer både WikiLeaks og State Department kabler som Manning lekket. En uidentifisert mann forteller i Gadahn video referanser, for eksempel, den “åpenbaringer av WikiLeaks,” og hevder de utsetter “underdanighet herskere av den Muslimske verden for sine master-Amerika.” Videoen inneholder også deler av den beryktede “Collateral Murder” tape, som viser Amerikansk Apache-piloter skyte på en gruppe menn i Bagdad, drap, blant dem to Reuters-journalister.
“Utdrag som finnes i alle tre videoene var rett i offentlig interesse…”
En fastsettelse i straffesaken avslører at den AMERIKANSKE regjeringen hevdet at Osama bin Laden selv hadde vært i mottak, og dermed hjulpet av det, intelligens Manning lekket. Bevis for å støtte dette, imidlertid, er klassifisert—alt det som samles inn under den Mai 2, 2011, raid på hans Abbottabad sammensatte. En analyse utført av O ‘ Brien, som omfatter de deler av den Som Saḥāb video hun lastet opp til YouTube, tyder på at Bin Laden kan ha noe mottatt en kopi av videoen mens de gjemmer seg i Pakistan. En digital kopi av båndet i seg selv kan også ha blitt hentet ut av US Navy SEALs som brutt sin sammensatte under CIA-ledede operasjonen som endte med Bin Ladens død.
Video av Gadhan allerede hadde blitt inngått bevis for å støtte den hjelpe fienden kostnad—men for å hindre vitnesbyrd, som har involvert en forseggjort satt opp til å skjule identiteten til et vitne knyttet til Bin Laden bevis, Manning ‘ s defense enige om å fastsette at Bin Laden var i besittelse av informasjon knyttet til WikiLeaks. CIA gjenopprettet, for eksempel et brev fra Bin Laden hvor han forespørsler fra et medlem av al-Qaida, US Department of Defense materiale utgitt av WikiLeaks. I et annet brev, en al-Qaida operative festet en rekke lekket battlefield rapporter. Forsvaret videre fastsatt at Bin Laden var i besittelse av “Department of State informasjon”, som O ‘Brien’ s analyse antyder er sannsynlig As-Saḥāb tape seg selv.
Til syvende og sist, kostnad ikke holder seg. Manning ble frikjent for å hjelpe fienden og dømt i stedet for “vilter publisering,” en belastning, som O ‘ Brien notater, “hadde aldri vært brukt før, og er ikke bundet til noe eksisterende føderale lov eller artikkel i den Uniformerte Code of Military Justice.” Hele kompleksiteten i saken, minutt detaljer som er tynt forstått av publikum, illustrerer et behov for oppføringer, for eksempel de som er kategorisert av O ‘ Brien til å bli opprettholdt, selv kanskje ved hjelp av YouTube, på tross av sin pysete holdning mot terrorisme-relatert innhold.
Unektelig, deler av Gadahn video lastet opp av O ‘ Brien inneholder al-Qaida propaganda—og 75 prosent av innhold fjernet fra YouTube over en periode på én måned i sommer involvert “voldelig ekstremisme”—men det gjorde ikke inneholder scener av grafisk vold, andre enn den Sivile Drap tape, som, igjen, er allment tilgjengelig på YouTube. “Jeg vil personlig ikke har lastet opp materiale som inneholdt en halshuggingen av respekt for offeret og hans eller hennes familie,” sa hun til Gizmodo. “Det er et veldig personlig valg, fordi gitt kontekst slikt materiale er absolutt i den offentlige interesse. Videre, hvis ofrene skulle dø på en slik måte, jeg kan føle at jeg hadde et etisk eller et samfunnsansvar for å (i det minste) ikke å se bort.”
“Utdrag som finnes i alle tre videoene var rett i offentlig interesse, og jeg håndtert materialet på en ansvarlig måte,” O ‘ Brien sa. “Jeg hentet deler, og la dem ut på YouTube for å bruke i min analyse av saken, fordi jeg ikke ønsker å legge ut en hel time og førti fem minutters terrorist-propaganda-video”. Videre, hver video inkludert en beskrivelse som tilbys sammenheng om video offentlige relevans—selv om det kanskje ikke være synlig for andre på en mobil enhet.
“Materialet ble brukt på en krigsrett, som ikke bare ikke gi en samtidige offentlig registrering av proceedings,” O ‘ Brien sa, “men også som hadde juridisk presedens med store konsekvenser for befolkningen.”
Takedown meldinger
Den første takedown melding fra YouTube kom i juli 5 og gjaldt en Gadahn video med tittelen, “Delen av Som Shahab-video datert juni 6, 2011 fra OSS v Pfc Bemanning 2007 U S Bagdad Luftangrep Video”. En annen melding, og siterer et eget klipp fra 2011-video, kom Aug. 8. I begge tilfeller, O ‘ Brien ble advart om at videoene hadde blitt rapportert, og som, ved anmeldelse, YouTube hadde bestemt at de har brutt retningslinjer. Totalt tre videoer ble trukket ned. I alle fall, hun ble “tildelt en felles Retningslinjer streik,” ytterligere kvitteringer der, YouTube advart, kan føre til henne: “konto blir avsluttet.”
På September 12, O ‘ Brien ble informert via e-post som sin YouTube-konto hadde blitt suspendert på grunn av “gjentatte eller alvorlige brudd på [YouTube] for Fellesskapet.” På samme tid, Google deaktivert sin Gmail-konto. Hun ble bedt om å logge på igjen, og advarte: “Dersom du ikke foretar deg noe snart, vil din konto og alle dets innhold vil bli klargjort for sletting.” Hun umiddelbart anket avgjørelsen.
Ved hjelp av et elektronisk skjema som leveres av Google, O ‘ Brien forklart hvem hun var, at formålet med videoen ble arkivering, nyhetsstoff, og at det var innebygd i innlegg som beskriver hendelser av Manning er prøving, men på ingen måte var det ment å fremme Al-Qaida, sine ideologier, eller “umotivert vold.” Anken ble umiddelbart avvist i en e-post signert, “YouTube.”
Basert på sin erfaring, O ‘ Brien, sa den prosessen hvorved YouTube informerer sine brukere om hvordan deres videoer blir slettet fungerer fint, det er de appellerer prosess hvor ting ser ut til å falle fra hverandre.
Det var uklart, for eksempel om “streik” kontoen hennes hadde fått fortsatt sto. Etter å ha drøftet problemet med Google og YouTube representanter av telefonen—en form for oppreisning som normalt ikke ville være tilgjengelig til de fleste brukere—hun fått tilgang til sin YouTube-konto, kort tid etter at hun fikk en e-post som sier det var fortsatt suspendert, en åpenbar feil, gitt hennes konto er fortsatt online. Hun har også fått tilgang til sin gmail-kontoen og Google Drive, og bare en av tre videoer som er tatt ned forblir i frakoblet modus, men bisart det er ikke videoen inneholder helikopter angrep eller Gadahn snakker direkte til kameraet. Videoen fremdeles blokkert, er først og fremst nyheter klipp og videoopptak fra musikk-videoer som brukes av As-Saḥāb, som har voiceover diskuterer lekkasje av US State Department kabler.
“Dette er mer enn en brukervennlighet problemet,” sa hun. “Selskapet ikke klarte å gi uttrykk for sin politikk, og prosessen på en meningsfull måte.”
Fingeravtrykk terrorist innhold
Under en telefonsamtale, YouTube-og Google-reps åpenbart at problemene har oppstått mens du prøver å møte kravene som stilles av myndigheter i krig med internasjonale terrorgrupper. Tjenesten er økende kravene til borger journalister og undersøkende journalister—mens også konsultere med dem—for å rettferdiggjøre legger ut videoer relatert til ISIS, al-Qaida og andre terrorist antrekk.
Når opptakene treff nettstedet inneholder innhold som den AMERIKANSKE regjeringen kan objektet, den byrde faller på journalister for å sikre at den rette sammenheng, og det er tatt i bruk, og for å vise at videoen inneholder faktiske pedagogiske eller dokumentarisk verdi. “Noe som laster opp al-Qaida-opptak, for eksempel, uten noe i videoen i seg selv som gjør det veldig klart at dette er rapportering, noe du prøver å kaste lys på, noe du kritiserer, hva det er, skulle komme ned,” YouTube-rep sa.
YouTube avgjørelse treet bør ha mer enn to grener. Nuance er ikke binære…
I de kommende ukene, rep sa YouTube vil bli rullet ut nye funksjoner som en del av sin takedown system som vil spesielt be om at brukere legger til konteksten til videoer som involverer terror innhold for å demonstrere at dokumentarisk verdi. I henhold til rep, er en måte dette kan gjøres på er ved hjelp av YouTube ‘ s innebygde verktøy som tillater brukere å legge til bildetekster, kort eller endcards til sine videoer. O ‘ Brien spurte om det var tilstrekkelig for å legge til en bildetekst som leser noe sånt som “Dette for arkivering. Dette er ikke for propaganda formål.”
“Ja, akkurat,” rep svarte.
Selgeren bemerket at YouTube har jobbet med andre tech selskaper, slik som Twitter, Facebook og Microsoft, til å dele materiale med kjent tilknytning til terrororganisasjoner. “Men du bør ikke bli påvirket av at” rep fortalte O ‘ Brien, og legger til: “Det er mulig at videoen du delte inkluderer al-Qaida propaganda opptakene som er i vår felles database allerede.” Med andre ord, det er mulig O ‘Brien’ s videoer inneholde et fingeravtrykk som YouTube AI er direkte opplært til å oppdage, og at informasjon har blitt delt med andre selskaper å hjelpe i kampen mot radikalisering og terrorist-propaganda,” sa hun.
For at politiet og etterretningsorganer, tilegne seg tilgang til informasjon om fingerprinted videoer, eller identiteten til folk som har skrevet dem, krever fortsatt en juridisk avtale, vanligvis en stevning. Selvfølgelig, det er flere bedrifter som har tilgang til data, er det flere muligheter FBI, for eksempel, har til å skaffe seg det.
“YouTube er en viktig global plattform for nyheter og informasjon, og vi har klare retningslinjer som gir en oversikt over hva slags innhold som er akseptabelt å publisere,” en Google-talsmann fortalte Gizmodo. “Noen ganger grafisk materiale er avgjørende for vår forståelse av verden, enten det er skrevet for å dokumentere wars eller revolusjoner, å avdekke en ugjerning, eller for å sikre lokale arrangementer er globalt sett. For alle typer innhold på YouTube, men spesielt med grafisk innhold, legge til konteksten er viktig i å hjelpe YouTube gjennomgå en video når det er flagget. Legge til sammenheng i en video, som kommentarer eller tekst, hjelper oss å forstå bakgrunn og hensikt.”
YouTube håp om å forhindre at andre journalister fra å bli utestengt som O ‘ Brien var av “whitelisting” sine kontoer, noe som betyr at de vil bli merket slik at Googles anmeldere ikke forveksler dem for terrorist-kjøre-tv. Google rep fortalte O ‘ Brien at hennes kanal ville bli lagt til i hvitelisten. Enkelte videoer, men er fortsatt underlagt normal rapportering og gjennomgang prosedyrer, så det er fortsatt mulig at noen av hennes videoer kan tas ned.
“Jeg er ikke feil selskapet for å komme til enighet med terrorist-propaganda på sine plattformer,” O ‘ Brien sa. “Men YouTube avgjørelse treet bør ha mer enn to grener. Nuance er ikke binære. Det er heller ikke visdom. Jeg tror det er humoristiske og skremmende at en uidentifisert menneskelige fast bestemt på at min kanal støttes terrorist-propaganda.”
“Utenfor YouTube eller Google’ s bekymringer om sitt offentlige image eller offentlige sikkerhet, selskapet har et ansvar for å engasjere sine brukere om sin samfunns-og etiske ansvar, sa hun. “Det må engasjere seg og utforme sin politikk, og hvis den ikke kan gjøre det, så det har egentlig ikke opptjent troverdighet, eller ville det fortjener den makt som det har for å påvirke samfunnet. Det har også et etisk ansvar for å varsle brukere om det er risiko, juridisk eller på annen måte, for å bli identifisert i sine protokoller som en tradisjons upassende innhold.”