Foto: AP
YouTube ‘ s nyeste tryk for at forbyde terrorpropaganda i hele dens allestedsnærværende video platform er at komme ud til en hård start. Tidligere i denne uge, bemærkes, undersøgende journalist og forsker Alexa O ‘ Brien vågnede for at finde ud af, at det ikke kun var hun blevet udelukket permanent fra YouTube, men at hendes Gmail og Google Drev konti var blevet suspenderet, så godt. Hun ville senere lære, at en anmelder, der arbejder for Google havde fejlagtigt identificeret hende kanal, med ordene fra en YouTube-repræsentant, som “at være dedikeret til terror-propaganda.”
Dette drastiske håndhævelsesforanstaltninger, der blev fulgt på måneder af meddelelser fra YouTube, hvor O ‘ Brien fik at vide, at tre af hendes videoer var blevet markeret til at indeholde “umotiveret vold.” Ingen af de videoer, men afbilde nogen faktiske scener af vold, bortset fra en enkelt, der indeholder optagelser af Amerikansk helikopter piloter skyde ned civile i Irak, som har været meget, der ses på YouTube for et halvt årti.
Mens tiltalende YouTube ‘s beslutning om, O’ Brien lært, at den mekanisme til at korrigere disse fejl kan være irriterende, og der er en rimelig resultatet er langt fra garanteret. Fra onsdag morgen, hendes kanal blev dømt for sletning. Google Drive-konto, blev hun låst ud af, der er indeholdt i hundredvis af timer af forskning—eller år til en værdi af sit arbejde—og pludselig blev taget offline. Hun fik så at vide, at hun var “forbudt adgang, besiddelse eller skabe en anden YouTube-konti.” Forbuddet blev for livet, og med lidt forklaring og nul menneskelig interaktion, O ‘Brien’ s forskning, at meget af det ikke er tilgængeligt andre steder, var bundet til Google ‘ s skraldespanden.
Med den viden, at YouTube har været udsat for et øget pres fra USA og de Europæiske regeringer til at slå ned på spredningen af terrorpropaganda—en konsekvens af, at der har ført til udryddelsen af indhold, der er indhøstet af konflikten journalister—det var ikke svært at udlede, hvad der var sket, at O ‘Brien’ s konto.
Problemet var, at der i sidste ende rettet til, og repræsentanter fra både Google og YouTube-senere kaldet O ‘ Brien til at undskylde og forklare fejlen. Da hun fik at vide, at hendes kanal var blevet fejlidentificeret som en afsætningsmulighed for terrorpropaganda, hun kunne næsten ikke indeholde hendes latter. “Det var en række uheldige begivenheder,” en YouTube-rep fortalte hende. Den fejl, de forklarede, var skyld i en menneskelig læser, der er ansat af Google.
En talsmand for Google fortalte Gizmodo på fredag: “Med den massive mængde af videoer på vores websted, nogle gange gør vi forkerte opkald. Når det er bragt til vores opmærksomhed, at en video eller kanal er blevet fjernet ved en fejl, skal vi handle hurtigt for at genopføre det.”
“Dette til arkiveringsformål. Dette er ikke i propaganda-øjemed.”
Dette år, YouTube er begyndt i stigende grad afhængige af machine learning til at finde og krat ekstremistisk indhold fra dens sider—en beslutning, foranlediget af den succesfulde online-rekruttering indsats af ekstremistiske grupper som ISIS. Med over 400 timer af indhold, som uploades til YouTube hvert minut, Google har lovet udvikling og implementering af systemer til at målrette og fjerne hvad den kalder “terror indhold.”
Sidste måned, en YouTube-talsmand indrømmede dog, at dens programmer “er ikke perfekt,” de er heller ikke “til højre for hver indstilling.” Men i mange tilfælde, talsmand sagde, sin AI har bevist, “mere nøjagtig end mennesker, ved at markere videoer, der skal fjernes.” I et opkald onsdag YouTube, som er en repræsentant fortalte Alexa: “Mennesker vil fortsætte med at lave fejl, ligesom enhver maskine-system ville naturligvis være behæftet med fejl.” Maskinen, der prioriterer indholdet anmeldt af menneskelige øjne, var ikke “helt klar”, sagde hun, at genkende den kontekst, hvorunder kontroversielle indhold er uploadet.
O ‘ brien hændelse viser, at Google har mange km at gå, før sin AI og menneskelige vurderinger er dygtige nok til at skelne mellem ekstremistisk propaganda og undersøgende arbejde, at selv Google er enige om er nødvendige for at udvide befolkningens kendskab til det indviklede militære, diplomatiske, og lov håndhævelse af politikker, der er på spil i hele den globale krig mod terror.
Al-Qaeda, og Som-Sahāb Tape
Hvad fik en Google-anmelder til at udpege O ‘ Brien som en formidler af terrorisme indhold? Godt, for én, hendes kanal indeholder egentlige al-Qaeda-propaganda. Men at propaganda er også en vigtig brik i USA ‘ s historie: for Et par år siden, er det næsten koste den tidligere AMERIKANSKE Hær Private Chelsea Manning en livstidsdom.
O ‘Brien’ s kanal indeholder dele af juni 2011 video præsenteres af al-Qaeda stikkontakt, Som-Saḥāb Medier med Adam Yahiye Gadahn, en amerikansk-født i al-Qaeda-medlem i den Arabiske Halvø, der i tidligere jihad-propaganda bånd genudsendt af OS network news, henviste til sig selv som “Azzam den Amerikanske.” I 2006, Gadahn dukkede op i en al-Qaeda-dokumentar, der har en introduktion af Ayman al-Qaeda, al-Qaeda-medstifter og nuværende leder af organisationen, der lykkedes Bin Laden i 2011.
I januar 2015, Gadahn blev dræbt i Pakistan i en serie af AMERIKANSKE droneangreb, der også kostet udenlandske hjælpearbejdere Giovanni Lo Porto og Warren Weinstein.
O ‘Brien’ s interesse i Gadahn har intet at gøre med at sprede sit syn på “den Store Satan”, eller hans profetier af Amerikanske gader køre med blod. De optagelser, hun bevaret ved hjælp af YouTube ‘ s service, som også var indlejret i en off-site analyse, der blev brugt af militære anklagere til at støtte kriminelle handlinger, ved en krigsret Chelsea Manning. Retssagen mod Manning manglede samtidig adgang til straffeattest. Kun det arbejde, journalister, som O ‘ Brien, der personligt har deltaget i forsøget, er tilgængelig for offentligheden.
Som Saḥāb video med Gadahn kom i spil, efter at den AMERIKANSKE regering anklagede Bemanding af “bistand til fjenden”, en afgift, som, i modsætning til de fleste stammer fra den militære straffelov, kan anvendes til civile. Og det bærer en livstidsdom.
Manning er anklaget for medvirken Gadahn, juridisk defineret i den krigsret som en fjende af OS, fordi den Som-Saḥāb video cites både WikiLeaks og State Department kabler, at Manning lækkede. En uidentificeret mand fortæller i Gadahn video henvisninger, for eksempel, “afsløringer på WikiLeaks,” og hævder, de udsætter “den underdanighed af herskerne i den Muslimske verden for deres master Amerika.” Videoen indeholder også dele af den berygtede “Collateral Murder” tape”, som viser de Amerikanske Apache piloter affyring af skud mod en gruppe mænd i Bagdad, dræbte heriblandt to Reuters journalister.
“Det uddrag, der er indeholdt i alle tre videoer var helt og holdent i den offentlige interesse…”
En bestemmelse i den kriminelle sag viser, at den AMERIKANSKE regering har gjort gældende, at Osama bin Laden selv havde modtaget, og dermed hjulpet af, at den intelligens Manning lækkede. De beviser til støtte for denne, imidlertid, er klassificeret,—alt det, der er indsamlet under den Maj 2, 2011, raid på hans Abbottabad sammensatte. En undersøgelse af O ‘ brien, der omfatter dele af det Saḥāb hun video uploadet til YouTube, tyder på, at Bin Laden kan en eller anden måde har modtaget en kopi af den video, mens de gemmer sig i Pakistan. En digital kopi af båndet i sig selv måske endda er blevet inddrevet af US Navy SEALs, der misligholdt sin forbindelse i den CIA-ledet mission, der endte i osama Bin Laden ‘ s død.
Video af Gadhan allerede havde indgået beviser til støtte for medvirken fjenden charge—men for at forhindre vidnesbyrd, som har involveret en omfattende set-up til at skjule identiteten af et vidne, der er knyttet til Bin Laden beviser, Manning ‘ s forsvar blev enige om at præcisere, at Bin Laden var i besiddelse af oplysninger, der er knyttet til WikiLeaks. CIA inddrives, for eksempel et brev fra Bin Laden, hvor han anmoder et medlem af al-Qaeda US Department of Defense materiale, der er frigivet af WikiLeaks. I et andet brev, en al-Qaeda operative knyttet en række lækkede battlefield rapporter. Forsvaret er yderligere fastsat, at Bin Laden var i besiddelse af “Department of State information”, som O ‘Brien’ s analyse peger på, er sandsynligvis den, Som-Saḥāb tape selv.
I sidste ende, er den afgift, ikke holde. Manning blev frikendt for medvirken fjenden og dømt i stedet for “hensynsløse publikation,” en afgift, der, som O ‘ Brien bemærker, “aldrig havde været brugt før, og er ikke bundet til nogen eksisterende føderale lov eller artikel i den Uniformerede Code of Military Justice.” Den store kompleksitet i de tilfælde, i det øjeblik detaljer, som er tyndt forstået af offentligheden, illustrerer et behov for registreringer, såsom dem, der er katalogiseret af O ‘ Brien til at blive vedligeholdt, måske endog af YouTube, på trods af sit sarte holdning til terror-relateret indhold.
Unægtelig, at dele af Gadahn video, der er uploadet af O ‘ Brien ikke indeholder al-Qaeda-propaganda—og 75 procent af indhold, der er fjernet fra YouTube i løbet af en periode på en måned, denne sommer, der er involveret “voldelig ekstremisme”—men det gjorde ikke indeholde scener af grafisk vold, andre end Collateral Murder tape, som, igen, stadig er bredt tilgængelige på tværs af YouTube. “Jeg ville personligt ikke har uploadet materiale, der indeholdt en halshugning af respekt for offeret, og hans eller hendes familie,” fortalte hun Gizmodo. “Det er et meget personligt valg, fordi fastsat forbindelse sådant materiale er helt sikkert i den offentlige interesse. Desuden, hvis ofre skulle dø på en sådan måde, jeg kunne føle, at jeg havde et etisk eller samfundsmæssigt ansvar, at (minimum) ikke at kigge væk.”
“Det uddrag, der er indeholdt i alle tre videoer var helt og holdent i den offentlige interesse, og jeg håndterede materiale ansvarligt,” O ‘ Brien sagde. “Jeg uddrag de dele, og uploadet dem til YouTube til at bruge i min analyse af sagen, fordi jeg ikke ønsker at skrive en hel time og fyrre fem minutter terrorpropaganda video.” Desuden, hver video er medtaget en beskrivelse, der tilbydes i forbindelse med de video ‘ er offentlig relevans på—selvom det måske ikke være synlig for andre brugere, på en mobil enhed.
“Det materiale, der blev brugt ved en krigsret, som ikke alene ikke give et samtidigt offentlig registrering af sagen,” O ‘ Brien sagde, “men også som havde præcedens med bred konsekvenser for den brede offentlighed.”
Takedown meddelelser
Den første takedown meddelelse fra YouTube ankom den 5 juli og vedrørte en Gadahn video med titlen, “Del af Som Shahab video dateret juni 6, 2011 fra OS v Pfc Manning 2007 U S Bagdad Video af et Luftangreb.” En anden meddelelse, med henvisning til separate klip fra 2011-video, ankom til Aug. 8. I begge tilfælde, O ‘ brien blev advaret om, at de videoer var blevet markeret, og at der ved en gennemgang YouTube havde bestemt, at de har overtrådt retningslinjerne for brugere. I alt er der tre videoer, der blev trukket ned. I hvert tilfælde, at hun blev “tildelt et Ef-Retningslinjer strejken, yderligere indtægter, der, YouTube advarede om, kan føre til, at hendes “konto blive opsagt.”
På September 12, O ‘ brien blev informeret via e-mail, at hendes YouTube-konto var blevet suspenderet på grund af “gentagne eller alvorlige overtrædelser af [YouTube] Retningslinjer for Fællesskabet.” På samme tid, Google handicappede hendes Gmail-konto. Hun blev instrueret om at logge ind igen, og advarede: “Hvis du ikke gør noget snart, vil din konto og alle dets indhold vil blive planlagt til sletning.” Hun straks anket afgørelsen.
Via en online-formular, der leveres af Google, O ‘Brien forklaret, hvem hun var, at formålet med videoen var arkivalier, nyhedsværdi, og at det var indlejret i stillinger, der beskriver begivenheder på Manning’ s forsøg, men på ingen måde var det hensigten at fremme Al-Qaeda, dens ideologier, eller “umotiveret vold.” Appellen blev straks afvist i en e-mail underskrevet, “YouTube-Team.”
Baseret på hendes erfaringer, O ‘ Brien sagde den proces, hvorved YouTube meddeler sine brugere om, hvordan deres videoer bliver slettet virker fint, det er de klagesager, hvor tingene synes at falde fra hinanden.
Det var uklart, for eksempel om “strejker” hendes konto havde fået stadig stod. Efter at have drøftet problemet med Google og YouTube repræsentanter ved telefonen—en form for oprejsning, der normalt ikke ville være tilgængeligt for de fleste brugere—hun igen har fået adgang til hendes YouTube-konto, kort efter modtog hun endnu en e-mail siger, at det stadig var suspenderet, en åbenlys fejl, da hendes konto er stadig online. Hun har også igen fået adgang til hendes gmail-konto og Google Drive, og kun en af de tre videoer taget ned forbliver offline, men mærkeligt nok er det ikke den video, som indeholder den helikopter-angreb eller Gadahn, der taler direkte ind i kameraet. Video stadig er blokeret, er primært nyheder klip, og klip fra musik videoer, der anvendes af Som-Saḥāb, som har voiceover diskutere læk af AMERIKANSKE udenrigsministerium kabler.
“Dette er mere end et usability problem,” sagde hun. “Virksomheden har undladt at formulere sin politik og proces på en meningsfuld måde.”
Fingeraftryk terrorist indhold
Under et opkald, YouTube og Google reps afsløret, at problemerne er opstået, mens de forsøger at opfylde de krav til regeringerne i krig med internationale terror-grupper. Den service er stigende krav borger journalister og undersøgende journalister—og samtidig også rådføre sig med dem—til at begrunde, at uploade videoer, der er relateret til ISIS, al-Qaeda og andre terrorister udstyr.
Når optagelser rammer websted, der indeholder indhold, som den AMERIKANSKE regering måske objekt, den byrde falder på journalister til at sikre, at den rette sammenhæng er anvendt, og for at vise, at videoen indeholder konkrete uddannelses-eller dokumentarisk værdi. “Noget, som du uploader al-Qaeda-optagelser, for eksempel, uden at der er noget i selve videoen, der gør det klart, at det er rapportering, er noget du forsøger at kaste lys på, er noget du kritisere, hvad det er, ville komme ned,” YouTube-rep sagde.
YouTube ‘ s beslutning træet skal have mere end to grene. Nuance er ikke binære…
I de kommende uger, rep sagde, at YouTube vil være rullende med nye funktioner som en del af sin takedown system, der specifikt vil bede brugerne om at tilføje forbindelse til videoer med terror indhold til at vise, at dokumentarisk værdi. I henhold til rep, en måde, hvorpå dette kan gøres er ved at bruge YouTube ‘ s indbyggede værktøjer, som tillader brugere at tilføje billedtekster, kort eller endcards til deres videoer. O ‘ Brien spurgte, om det var tilstrækkeligt at tilføje en billedtekst, der lyder noget i retning af: “Dette til arkiveringsformål. Dette er ikke i propaganda-øjemed.”
“Ja, netop,” rep svarede.
Repræsentanten bemærkede, at YouTube er blevet til i samarbejde med andre tech-virksomheder, såsom Twitter, Facebook og Microsoft, til at dele materiale med kendt forbindelser til terrororganisationer. “Men du bør ikke blive påvirket af, at” rep fortalte O ‘ Brien, og tilføjer: “Det er muligt, at den video, du har delt omfatter al-Qaeda-propaganda-optagelser, der er i vores fælles database, der allerede er.” Med andre ord, er det muligt, O ‘Brien’ s videoer indeholder et fingeraftryk, at YouTube ‘ s AI er direkte uddannet til at opdage, og at disse oplysninger er blevet delt med andre selskaber, for at hjælpe i kampen mod radikalisering og terror-propaganda,” sagde hun.
For de retshåndhævende myndigheder og efterretningstjenester at erhverve adgang til oplysninger om fingeraftryk videoer, eller identiteten af de personer, der har indsendt dem, der stadig kræver en juridisk anmodning—typisk en stævning. Selvfølgelig, jo flere virksomheder, der har adgang til de data, flere muligheder for FBI, for eksempel, er nødt til at erhverve det.
“YouTube er en vigtig global platform for nyheder og information, og vi har en klar politik, der beskriver, hvad indholdet er acceptabelt at skrive” en Google-talsmand fortalte Gizmodo. “Nogle gange er grafisk materiale, der er afgørende for vores forståelse af verden, uanset om det er sendt til dokumentet krige eller revolutioner, at udsætte en uretfærdighed, eller til at sikre, at lokale begivenheder, set på verdensplan. For alle typer af indhold på YouTube, men især med grafisk indhold, tilføje kontekst er vigtig for at hjælpe YouTube team gennemgå en video, når det er markeret. Tilføjelse af rammer, inden for den video, som kommentar eller tekst, hjælper os til at forstå baggrunden og hensigter.”
YouTube håber at forhindre andre journalister i at blive forbudt, som O ‘ Brien var ved at “whiteliste” deres regnskaber, hvilket betyder, at de vil være markeret, så at Google ‘ s anmeldere vil ikke forveksler dem med terrorist-run-kanaler. Google rep fortalte O ‘ Brien, at hendes kanal, der skal føjes til whitelisten. Enkelte videoer, er dog stadig omfattet af de normale rapportering og revision af procedurerne, så det er stadig muligt, at nogle af hendes videoer, der kunne være taget ned.
“Jeg vil ikke fejl den virksomhed, der kommer til udtryk med terrorpropaganda på deres platforme,” O ‘ Brien sagde. “Men YouTube er beslutningstræ skal have mere end to grene. Nuance er ikke binære. Hverken visdom. Jeg synes, det er morsomt og skræmmende, at en uidentificeret menneskelige besluttet, at min kanal støttet terror propaganda.”
“Udenfor YouTube eller Google’ s bekymringer om sit offentlige image eller den offentlige sikkerhed, virksomheden har et ansvar for at engagere sine brugere om sin samfundsmæssige og etiske ansvar,” tilføjede hun. “Det skal engagere sig og formulere sin politik, og hvis det ikke kan gøre det, så det har virkelig ikke fortjent troværdighed, og det ville heller ikke fortjener den magt, som det har til at påvirke samfundet. Det har også et etisk ansvar for at informere brugere, hvis der er risici, juridisk eller på anden måde, for at blive identificeret i deres protokoller, som en formidler af upassende indhold.”