Foto: Mark Lennihan (AP Foto), Grafische: Gizmodo
Gisteren Tumblr toegewijd aan het maken van haar sociale netwerk, die vol is van tieten, dongs, en tieners openlijk te fantaseren over de twee, een meer kind-vriendelijke plek. De aankondiging, die wordt gedeeld via het Personeel account, beloofde een “betere, meer positieve Tumblr” gratis dingen, zoals seksuele handelingen, genitaliën, en “vrouw-presentatie tepels.”
“We zullen het niet altijd dit recht, in het bijzonder in het begin,” CEO Jeff D ‘ Onofrio zei in de post, “maar we zijn vastbesloten om uw ervaring een positieve.”
Het eerste deel van de verklaring heeft bewezen zeer waar, zoals blijkt uit wat ik zag toen sprong ik op Tumblr na thuiskomst afgelopen nacht. Hoewel de site zal geen verbod op porno en andere aanstootgevende content tot en met 17 December, het is al het markeren van inhoud die kan worden onderworpen aan censuur. Een post over de geschiedenis van Milli Vanilli was gemarkeerd, was een gifset van het gezonde kind toon She-Ra, en een domme Star Trek meme.
Ondertussen, een vrouw die schreef een populaire post over aantrekkelijke braces voor mensen met Ehlers Danlos Syndroom vinden het bericht gemarkeerd als expliciete—vermoedelijk omdat het algoritme kan het verschil niet zien tussen een vinger en een penis.
En dit bericht van een vrouw in de Victoriaanse jurk was ook gemarkeerd voor te salacious toen was het zelfs niet salacious door de 19e eeuwse Engelse termen.
Great British Bake Off? Vermoedelijk gewoon geladen met tieten en kont.
Zelfs Jezus werd niet gespaard.
Sommige van deze berichten zijn inmiddels gevonden om aanvaardbaar te zijn, hetzij door middel van langzame verbeteringen aan het instrument of omdat de post makers zijn systematisch aantrekkelijk elke post die ze hebben geproduceerd, is gemarkeerd. Één van beide manier, het is een puinhoop en een duidelijk voorbeeld van waarom vertrouwen op “geautomatiseerde tools om inhoud voor volwassenen en mensen te helpen bij het trainen en houden onze systemen controleren” is inherent gebrekkig.
Het algemene verbod op inhoud voor volwassenen niet opslaan kinderen van porno, maar de ongenuanceerde hand schade kunstenaars en gemarginaliseerde gemeenschappen die behoefte om zich te uiten. Er is geen makkelijke manier om matige internet—houtsnijwerk uit een specifieke vorm van expressie kan niet worden gedaan, en zeker niet met een algoritme dat wordt geprogrammeerd door mensen zich te gedragen als een persoon zou kunnen.
We hebben gezien dat dit falen van de geautomatiseerde online matiging voordat. Facebook gebruikt op algoritmen en ten prooi aan buitenlandse actoren. De londense Metropolitan Police probeerde te maken van een algoritme dat zou vinden illegale naakten, die in plaats van steeds terug te keren beelden van duinen.
Tumblr, ondertussen, heeft nog nooit in het bijzonder begaafde bij de codering van de eigen website. Het heeft zo veel fouten dat regelmatige gebruikers vertrouwen op de browser add-ons zoals XKit, waarin een breed scala van ergernissen, waaronder gebroken communicatie functies en whitelisting of zwarte lijst controversiële onderwerpen via Tumblr tag-systeem. De iOS-app, voordat het wordt verwijderd uit de Apple store wegens kinderporno betreft, was opmerkelijk omdat het niet in staat eigenlijk het laden van de afbeeldingen die gebruikers delen—weet u het hele punt van het platform. Het is herhaaldelijk moeite om te gaan met die verderfelijke kinderporno probleem en een Nazi-probleem met behulp van algoritmes. Het is regelmatig verboden populaire (en beslissende) tags zoals “lesbische,” “trans” en “LBGTQ” in een poging om te stoppen met schadelijke inhoud, terwijl up “necrophilia.” Hoe op Aarde kan worden verwacht dat juist vlag een “vrouw-presentatie tepel” door simpelweg het zien van een afbeelding? Dwazen.
Het is ook onwaarschijnlijk dat het beter elk moment snel. Netwerken zoals Tumblr en Facebook gebruiken algoritmes om op te treden als moderators omdat het een stuk goedkoper dan de tewerkstelling van mensen, en Tumblr, in het bijzonder, heeft een cash flow probleem voor bepaalde tijd. Het netwerk heeft nagelaten om geld te verdienen met het grote publiek in de manier waarop Facebook, of zelfs Reddit heeft, en haar moedermaatschappij, Ede, heeft nooit echt begrepen wat het is, waarom het populair is, of wat het zou kunnen zijn. Duidelijk is dat nog steeds het geval.
Deel Dit Verhaal