Facebook har for første gang gjort tilgjengelige data på omfanget av fornærmende kommentarer postet til nettstedet sitt. Dette kan ha blitt gjort under det økende trykket av organisasjoner for sosiale medier selskaper å være mer gjennomsiktig om online misbruk, eller å få troverdighet etter Cambridge Analytica dataskandal. Uansett gir figurene ikke anledning til behagelig lesing.
In en seks måneders periode fra oktober 2017 til mars 20178, 21m seksuelt eksplisitte bilder, 3.5m grafisk voldelige innlegg og 2.5m former for hate-tale ble fjernet fra nettstedet. Disse tallene hjelper til med å avsløre noen slående punkter.
Som forventet indikerer dataene at problemet blir verre. For eksempel var det mellom januar og mars anslått at for hver 10,000-melding på nettet, mellom 22 og 27 inneholdt grafisk vold, opp fra 16 til 19 i de foregående tre månedene. Dette legger til rette for at i Storbritannia har påtale om online misbruk blitt redusert, som vist i grafen nedenfor.
Likevel, hva Facebook ikke har fortalt oss, er like viktig.
Det sosiale nettverket har vært under voksende press å bekjempe misbruk på nettstedet, spesielt fjerning av terrorist propaganda etter hendelser som 2017 Westminster-angrepet og Manchester Arena-bombingen. Her har selskapet vært proaktiv. Mellom januar og mars 2018 fjernet Facebook 1.9m-meldinger som oppmuntret til terrorpropaganda, en økning på 800,000-kommentarer sammenlignet med de foregående tre månedene. Totalt 99.5% av disse meldingene ble lokalisert ved hjelp av teknologisk fremskritt.
Ved første øyekast ser det ut til at Facebook har utviklet programvare som kan fjerne dette innholdet fra serveren. Men Facebook har ikke gitt ut tall som viser hvordan utbredt terrorist propaganda er på sin side. Så vi vet egentlig ikke hvor vellykket programvaren er i denne forbindelse.
Fjerner voldelige innlegg
Facebook har også brukt teknologi for å hjelpe til med å fjerne grafisk vold fra nettstedet. Mellom de to tre månedersperiodene var det en økning på 183% i mengden poster som ble merket grafisk voldelig. Totalt 86% av disse kommentarene ble flagget av et datasystem.
Men vi vet også at Facebooks tall også viser at opptil 27 ut av hver 10,000-kommentar som gjorde det forbi detekteringsteknologien, inneholdt grafisk vold. Det høres ikke ut som mange, men det er verdt å ta i betraktning det rene antallet av totalt antall kommentarer som er lagt ut på nettstedet av sine mer enn 2 milliarder aktive brukere. Ett estimat antyder at 510,000 kommentarer blir lagt ut hvert minutt. Hvis det er korrekt, vil det bety at 1,982,880 voldsomme kommentarer legges ut hver 24-time.
For å gjøre opp for feilene i deteksjonsprogramvaren, har Facebook, som andre sosiale nettverk, i årevis vært avhengig av selvregulering, med brukerne oppfordret til å rapporter kommentarer de tror ikke bør være på nettstedet. For eksempel fjernet Facebook 2018 fra januar og mars 2.5 kommentarer som ble vurdert som hate speech, men bare 950,000 (38%) av disse meldingene var flagget av systemet. De andre 62% ble rapportert av brukere. Dette viser at Facebooks teknologi ikke klarer å bekjempe hattekst på sitt nettverk, til tross for den økende bekymringen om sosiale nettverk er drivstoff hater kriminalitet i den virkelige verden.
Hvor mange kommentarer er rapportert?
Dette bringer oss til den andre signifikante figuren som ikke er inkludert i dataene som er utgitt av Facebook: totalt antall kommentarer rapportert av brukere. Siden dette er en grunnleggende mekanisme for å takle online misbruk, bør mengden rapporter som gjøres til selskapet bli offentliggjort. Dette vil tillate oss å forstå den fulle omfanget av fornærmende kommentarer gjort på nettet, mens du fjerner totalt antall meldinger, Facebook fjerner ikke fra nettstedet.
Facebooks beslutning om å frigjøre data som viser omfanget av misbruk på nettstedet, er et viktig skritt fremover. Twitter ble derimot bedt om lignende opplysninger men nektet å frigjøre det og hevde at det ville være misvisende. Det er klart at ikke alle kommentarer som er merket av brukere av sosiale nettverk, vil bryte vilkårene. Men Twitters manglende frigjøring av denne informasjonen antyder at selskapet ikke er villig til å avsløre omfanget av misbruk på sitt eget nettsted.
Men selv Facebook har fortsatt en lang vei å gå for å få til total gjennomsiktighet. Ideelt sett vil alle sosiale nettverkssider løslate årlige rapporter om hvordan de takler misbruk online. Dette ville gjøre det mulig for regulatorer og offentligheten å holde firmaene mer direkte for å ta hensyn til feil for å fjerne misbruk fra deres servere.
Men selv Facebook har fortsatt en lang vei å gå for å få til total gjennomsiktighet. Ideelt sett vil alle sosiale nettverkssider løslate årlige rapporter om hvordan de takler misbruk online. Dette ville gjøre det mulig for regulatorer og offentligheten å holde firmaene mer direkte for å ta hensyn til feil for å fjerne misbruk fra deres servere.Om forfatteren
Laura Bliss, PhD kandidat i sosial media lov, Edge Hill University
Denne artikkelen ble opprinnelig publisert på Den Conversation. Les opprinnelige artikkelen.
Relaterte bøker:
at InnerSelf Market og Amazon
