Google å ansette tusenvis av moderatorer etter ramaskrik over YouTube misbruk videoer

5

Selskapet, som eier YouTube, har måttet tåle en strøm av negative trykk over voldelig og aggressivt innhold

YouTube has faced scrutiny in the wake of reports it allows violent content to slip past filters on YouTube Kids, its app for children.

YouTube har møtt gransking i kjølvannet av rapporter det lar voldelig innhold for å slippe forbi filtre på YouTube Barn, sin app for barn.
Foto: Artur Debat/Øyeblikk Redaksjonelle/Getty Images

YouTube

Google å ansette tusenvis av moderatorer etter ramaskrik over YouTube misbruk videoer

Selskapet, som eier YouTube, har måttet tåle en strøm av negative trykk over voldelig og aggressivt innhold

@SamTLevin

e-post

Tirsdag 5. desember 2017 07.34 GMT

Første gang publisert på tirsdag 5. desember 2017 02.01 GMT

Google er å ansette tusenvis av nye moderatorer etter overfor omfattende tilbakeslag for at overgrep mot barn videoer og andre voldelige og støtende innhold for å blomstre på YouTube.

Google, som eier YouTube, kunngjorde mandag at neste år vil utvide sin totale arbeidsstokken til mer enn 10 000 personer som er ansvarlig for å gjennomgå innhold som kan krenke sin politikk. Nyheter fra YouTube ‘ s administrerende DIREKTØR, Susan Wojcicki, etterfulgt av en jevn strøm av negative trykk omkringliggende området rolle i å spre sjikane videoer, feilinformasjon, hatefulle ytringer og innhold som er skadelig for barn.

Wojcicki sa at i tillegg til en økning i menneskelig moderatorer, YouTube fortsetter å utvikle avansert maskin-læring teknologi for å automatisk flagg problematisk innhold for fjerning. Selskapet sa den nye tiltak for å beskytte barn fra farlig og krenkende innhold og blokkere hatefulle ytringer på nettstedet var modellert etter selskapets pågående arbeidet for å bekjempe voldelig ekstremistisk innhold.

YouTube anklaget for ‘vold’ mot unge barn over barnas innhold

Les mer

“Menneskelig anmeldere fortsatt viktig å både fjerne innhold og opplæring machine learning systems fordi menneskelig dømmekraft er avgjørende for å gjøre contextualized beslutninger om innhold,” administrerende DIREKTØR skrev i innlegget, som sier at moderatorer har manuelt gjennomgått nesten 2m videoer for voldelig ekstremistisk innhold siden juni, og hjelper toget maskin-læring systemer for å finne lignende opptakene i fremtiden.

I de siste ukene, YouTube har brukt maskinen lære teknologi for å hjelpe menneskelige moderatorer finne og slå ned hundrevis av kontoer og hundrevis av tusenvis av kommentarer, i henhold til Wojcicki.

YouTube overfor økt gransking siste måned i kjølvannet av rapportene at det var slik at voldelig innhold for å slippe forbi YouTube-Barn-filter, som er ment å blokkere innhold som ikke er egnet til unge brukere. Noen foreldre har nylig oppdaget at YouTube Barna var slik at barna til å se videoer med kjente figurer i voldelige eller utuktig scenarier, sammen med barnerim blandet med forstyrrende bilder, ifølge the New York Times.

Andre rapporter har avdekket “verifisert” tv med barn utnyttelse videoer, inkludert viral opptakene av skrikende barn blir mock-torturert og webkameraer av unge jenter i avslørende klær.

YouTube CEO Susan Wojcicki said human moderators ‘remain essential to removing content’.

Facebook

Twitter

Pinterest

YouTube administrerende DIREKTØR Susan Wojcicki sa menneskelige moderatorer ‘fortsatt viktig å fjerne innhold”. Foto: Taylor Hill/FilmMagic for YouTube

YouTube har også gjentatte ganger utløste raseri for sin rolle i å videreføre feilinformasjon og trakasserende videoer i kjølvannet av masse skytingen og andre nasjonale tragedier. The Guardian fant at overlevende og pårørende av ofre for en rekke skyteepisoder har vært gjenstand for et bredt spekter av online overgrep og trusler, noen knyttet til populære konspirasjonsteori ideer som er fremhevet på YouTube.

Noen foreldre mennesker drept i høy-profil skytingen har brukt utallige timer på å rapportere støtende videoer om sin avdøde barn, og har gjentatte ganger kalt på Google for å ansette flere moderatorer, og for bedre å håndheve sin politikk. Det er uklart, men hvordan utvidelsen av moderatorer annonsert på mandag vil kunne påvirke denne typen innhold, ettersom YouTube sa det ble fokusert på hatefulle ytringer og sikkerhet for barn.

OSS pistol vold gyter en ny epidemi: konspirasjonsteoretikere trakassering av ofrene

Les mer

Selv om den siste skandaler har vist at det er begrensninger av algoritmer i å oppdage og fjerne innhold som bryter retningslinjene, Wojcicki gjort det klart at YouTube vil fortsette å stole tungt på machine learning er en nødvendig faktor gitt omfanget av problemet.

YouTube-sa maskin læring var å hjelpe de menneskelige moderatorer fjerner nesten fem ganger så mange videoer som de var tidligere, og at 98% av videoer fjernet for voldelig ekstremisme er nå flagget av algoritmer. Wojcicki hevdet at fremskritt i teknologi tillatt stedet for å ta ned nesten 70% av voldelig ekstremistisk innhold innen åtte timer etter at det er lastet opp.

Uttalelsen sa også YouTube ble også reformert sin annonsering, og sier at det ville gjelde strengere kriterier, gjennomføre mer manuell bevaring og utvide sitt team av annonsen anmeldere. Forrige måned, med en rekke profilerte merker suspendert YouTube-og Google-annonsering etter rapporter viste at de var plassert ved siden av videoer som er fylt med utnyttende og seksuelt eksplisitte kommentarer om barn.

I Mars, en rekke selskaper også trukket sine YouTube-annonser etter å ha lært at de var knyttet til videoer med hatefulle ytringer og ekstremistisk innhold.

Kontakt forfatter: sam.levin@theguardian.com