Sørgende på Mars 19, 2019 vigil utenfor Al Noor-moskeen i Christchurch, New Zealand, som sammen med Linwood Islamske Senter, ble angrepet av en hvit rasistiske hvem som drepte 50 mennesker på Mars 15, 2019.Foto: Vincent Yu (AP)
Microsoft har kalt for tech industrien for å angi en enhetlig tilnærming til voldelig ekstremistisk innhold etter kvalmende massakre av Muslimer deltar moské i Christchurch, New Zealand med en hvit rasistiske tidligere denne måneden. Minst 50 mennesker ble brutalt myrdet, dusinvis av andre ble skadet, og opptakene live-streamet på Facebook av skytteren gikk viral på et mage-churning skala.
I et blogginnlegg på søndag, Microsoft president Brad Smith skrev at “Ord alene er ikke nok. Over tech sektoren, må vi gjøre mer. Spesielt for de av oss som bruker sosiale nettverk eller digital kommunikasjon verktøy eller plattformer som ble brukt til å forsterke vold, det er klart at vi må lære av og ta ny handling basert på hva som skjedde i Christchurch.”
Du skriver at Microsoft hadde allerede identifisert hvordan tjenestene ble brukt til å spre videoen, og selskapet hadde “identifisert forbedringer vi kan gjøre, og beveger seg raskt å implementere dem,” Smith lagt til, “til syvende og Sist, vi trenger å utvikle en industrywide tilnærming som vil være prinsipiell, omfattende og effektiv. Den beste måten å ivareta dette på er å ta nye og konkrete tiltak raskt på måter som bygger på det som allerede eksisterer.”
Mens Smith sa i innlegget at “ingen ennå har alle svarene,” han gjorde foreslår flere konkrete tiltak. Først, han foreslo forbedringer for å meisle teknologi—en teknikk der en bestemt fil, for eksempel et bilde eller en video, er tildelt en unik id som kan brukes til å spore kopier av det som er lastet opp andre steder. Smith skrev at mens dette systemet har vært effektiv, plattformer bør være i stand til å automatisk fange redigerte versjoner av disse videoene. Han foreslo også at nettlesere burde inkluderer safe search-lignende funksjoner for å blokkere tilgang til slikt innhold på det punktet når folk forsøker å vise og laste det ned.”
Smith la til at selskaper som opererer web-plattformer bør bli enige om en kategori av “avtalt ‘bekreftet hendelser’” som vil utløse samarbeid mellom bedrifter, og kalles for tech samfunnet for å fremme en “sunnere online-miljøet mer generelt.”
Noen av disse ideene er sannsynlig å være kontroversiell, og ikke utelukkende innenfor deler av internett fiendtlig innstilt til regler mot hatefulle ytringer, samtaler til vold, og ekstremistisk innhold. For en, nummerering fungerer ved å identifisere spesifikke deler av innholdet, som lett kan bli gamed ved å redigere sa innhold før du laster opp. Å identifisere redigerte versjoner av en video som er mer komplisert, og gitt at automatiserte systemer som mange store plattformer bruke til å administrere troves innhold er et rot, kan man være skeptisk til at et slikt system kunne rense relativt godartet innhold av design eller ulykke.
En teoretisk eksempel: En plattform å skrubbe opptak av nyhets-sendinger som inneholder klipp av et terrorangrep. Politisk media kritiker Jack Schafer, for eksempel nylig sammenlignet Christchurch video til opptak av September 11, 2001 angrepene på World Trade Center.
Schafer er kanskje ikke en helt samstemt sammenligningen; opptakene av 9/11-angrepene ble tatt opp av uskyldige, mens Christchurch opptakene ble eksplisitt ment som terroristiske propaganda. Men den linjen er ikke alltid rent kutt for hva som er greit å luft, og en leksjon av de siste årene er at store tech selskaper er ikke immune mot politisk press da å ta disse avgjørelsene. (Som en side, en annen mulighet er at slik teknologi kan brukes til å ytterligere draconian copyright tvangstiltak.)
I motsatt fall, Smith ‘ s safe search-som forslaget virker mindre problematisk—nettlesere vanligvis tillate brukere å gå videre til flagget innholdet på egen risiko. Og nå, det er tydelig at hans kall for tech selskaper til å ta mer ansvar for sine plattformer er garantert, gitt at de rutinemessig hevder at deres skala gjør det umulig å moderere innhold… selv som de rake i fortjeneste.
En undersøkelse i fjor viste at høyre og hvite rasistiske YouTubers har kapitalisert på influencer metoder for å spre seg vidt og bredt. Facebook og Google har blitt kritisert for å spre anti-vax konspirasjonsteorier. Hatefulle ytringer går amok, ikke bare på steder som 4chan og 8chan, men mer mainstream web destinasjoner som Reddit. Twitter bekreftet vitriolic rasister som Richard Spencer og bare gikk tilbake etter intens medieoppmerksomhet (og folk liker det rene hvite rasistiske og tidligere Ku Klux Klan-leder David Duke fortsette å tweet på en daglig basis). Som New York Times redaksjon skrev i en op-ed siste året, er det noen bevis for at den grunnleggende utformingen av sosiale medier fremmer giftig ideer.
Det er selvsagt ikke noe enkelt svar på disse spørsmålene! Men på den annen side, det betyr ikke at de er så hardt som garanterer vask hendene av dem. (I en nylig MarketPlace Tech podcast, Harvard Kennedy School forsker og tidligere Facebook personvern og offentlig politikk staffer Dipayan Ghosh foreslått behandling ekstremistisk innhold som useriøs e-post.) Det er ikke et binært valg mellom et totalitært internett og en viltvoksende kloakk. Det er nok det verste folk på nettet vil at du skal tenke.
[Microsoft via Randen]
Deler Denne Historien