Foto: Mark Lennihan (AP Billeder), Grafisk: Gizmodo
I går Tumblr forpligtet til at gøre sit sociale netværk, som er fuld af boobs, dongs, og teenagere åbent at fantasere om de to, et mere børnevenligt sted. Den meddelelse, delt via Personale konto lovet en “bedre, mere positive Tumblr” fri for ting som seksuelle handlinger, kønsorganer, og “kvinde-at præsentere brystvorter.”
“Vi vil ikke altid få denne ret, især i begyndelsen,” CEO Jeff D ‘ Onofrio sagde i den post, “men vi er fast besluttet på at gøre din oplevelse til en positiv.”
Den første del af denne erklæring, har vist sig at være meget sandt.
Som det fremgår af, hvad jeg så, da jeg hoppede på Tumblr efter vi kom hjem i går aftes. Selvom websted vil ikke forbyde porno og andre krænkende indhold, indtil December 17th, det er allerede markering af indhold, som kan være genstand for censur. Et indlæg om den historie af Milli Vanilli havde været registreret, som havde en gifset af sunde kid vis She-Ra, og en dum Star Trek meme.
I mellemtiden, en kvinde, der skrev en populær indlæg om attraktive seler for personer med Ehlers Danlos Syndrom fandt indlæg markeret som eksplicit—formentlig fordi den algoritme, der ikke kan se forskel på en finger og en penis.
Og dette indlæg af en kvinde i en Victoriansk kjole blev også udpeget til at være for slibrige, når det var endda ikke slibrige af 19 århundredes Britiske vilkår.
Great British Bake Off? Formentlig bare fyldt med bryster og røv.
Ja, Jesus blev ikke sparet.
Nogle af disse stillinger er siden blevet fundet til at være acceptabel, enten gennem langsom forbedringer af eller på grund indlæg skabere er systematisk tiltalende hvert indlæg, de har produceret, der har været registreret. Enten måde, det er et rod, og et klart eksempel på, hvorfor bygger på “automatiserede værktøjer til at identificere indhold, og mennesker, til at hjælpe med at uddanne og holde vores systemer i ind” er i sagens natur behæftet med fejl.
Det generelle forbud mod seksuelt indhold ikke redde børn fra porno, men dens vilkårlige hånd gør skade kunstnere og marginaliserede befolkningsgrupper, som søger at udtrykke sig. Der er ingen nem vej til moderat internettet—carving ud en særlig form for ytringsfrihed kan ikke ske, og slet ikke med en algoritme, der er programmeret af mennesker til at opføre sig som en person kan.
Vi har set denne manglende automatiseret online moderation før. Facebook stolede på algoritmer og blev et bytte for udenlandske aktører. London ‘ s Metropolitan Police forsøgt at lave en algoritme, der ville finde ulovlige nøgenbilleder, der i stedet holdes tilbage billeder af sandklitter.
Tumblr, i mellemtiden, har aldrig været særligt begavede på kodning sin egen hjemmeside. Den har så mange mangler, at almindelige brugere stole på, browser add-ons som XKit, som løser en bred vifte af irritationsmomenter herunder brudt kommunikation funktioner og whitelisting eller sortlistning kontroversielle emner via Tumblr ‘ s tag-system. Sin iOS app, inden de blev fjernet fra Apple store på grund af børnepornografi bekymringer, var kendt for at være ude af stand til faktisk at indlæse billederne for brugerne at dele—du ved, det hele punkt af platformen. Det er gentagne gange kæmpet for at beskæftige sig med, at skadelige børneporno problem og en Nazi-problemet ved hjælp af algoritmer. Det er regelmæssigt forbudt populære (og afgørende) – tags som “lesbisk,” “trans”, og “LBGTQ” i et forsøg på at standse skadelige indhold og samtidig lade op “nekrofili.” Hvordan i Alverden kunne det forventes, at korrekt flag en “kvinde-præsentation af brystvorten” ved blot at se et billede? Fjolser.
Det er også usandsynligt, at få det bedre, til enhver tid snart. Netværk som Tumblr og Facebook anvender computer algoritmer til at fungere som moderatorer, fordi det er meget billigere end at ansætte de faktiske mennesker, og Tumblr, især, har haft en cash flow problemet i nogen tid. Netværket har undladt at tjene penge på sin anseelige publikum i den måde, Facebook, eller endda Reddit, har, og dets moderselskab, Ed, har faktisk aldrig forstået, hvad det er, hvorfor det er populært, eller hvad det kunne være. Det er klart, det er stadig tilfældet.
Dele Denne Historie