Vi måste göra våra onlineutrymmen mer lika våra offline för att begränsa räckvidden för dåliga skådespelare och hålla människor säkra. Av
20 december 2021
Andrea Daquino
Att vara på sociala medier kan känns lite som att bo i en ny typ av stad. Det är den största staden i världen. Miljontals människor kan göra saker som deras föräldrar aldrig drömt om. De kan bo tillsammans, leka tillsammans, lära tillsammans. Staden är ett under.
Men det är också ruttet. Rått avlopp rinner på gatorna. Då och då tar en massfrenzy sig. Medborgare fördömer medborgare. Relationer bryts oåterkalleligt.
Mitt jobb brukade vara att skydda staden. Jag var medlem i Facebooks Civic Integrity-team. Jag och mina medarbetare undersökte och fixade integritetsproblem – missbruk av plattformen för att sprida bluff, hatretorik, trakasserier, uppmaningar till våld och så vidare. Med tiden blev vi experter, tack vare alla människor, timmar och data som kastades på problemet. Som i alla expertgrupper hade vi alla åtminstone lite olika sätt att se på problemet. För min del började jag tänka som en stadsplanerare. Staden måste utformas rätt från början. Det behöver stadsdelar som är byggda så att människor, samhällen och demokratier kan frodas.
Detta är ett annat tillvägagångssätt, ett som växer fram i företag över hela det sociala medielandskapet: integritetsdesign. Integritetsarbetare som jag försöker försvara ett system från angripare som har hittat och lärt sig att missbruka buggar eller kryphål i dess regler eller design. Vårt jobb är att systematiskt stoppa de onlineskador som användare åsamkar varandra. Vi hamnar inte (ofta) i att försöka fatta beslut om något specifikt inlägg eller person. Istället tänker vi på incitament, informationsekosystem och system i allmänhet. Sociala medieföretag måste prioritera integritetsdesign framför innehållsmoderering, och allmänheten måste hålla dem ansvariga för om de gör det.