Donald Trump er kontroversiell fjerning fra sosiale medieplattformer har gjenopprettet debatt rundt sensur av informasjon publisert på nettet. Men spørsmålet om desinformasjon og manipulering på sosiale medier går langt utover en manns Twitter-konto. Og det er mye mer utbredt enn tidligere antatt.
Siden 2016 har teamet vårt ved Oxford Internet Institute overvåket den raske globale spredningen av kampanjer for manipulering av sosiale medier, som vi definerer som bruk av digitale verktøy for å påvirke online atferd. I løpet av de siste fire årene har manipulering av sosiale medier utviklet seg fra en nisjeproblematikk til en global trussel mot demokrati og menneskerettigheter.
Vår siste rapport fant ut at organiserte kampanjer for manipulering av sosiale medier nå er vanlige over hele verden - identifisert i 81 land i 2020, opp fra 70 land i 2019. Kartet nedenfor viser den globale distribusjonen av disse 81 landene, merket med mørkeblått.
I vår rapport fokuserer vi på bruken av “cyber tropper”, som er team fra regjeringen, de militære eller politiske partiene som er forpliktet til å manipulere opinionen på sosiale medier. Cyber-tropper gjennomfører regelmessig det vi kaller ”beregningspropaganda” -kampanjer.
Beregningspropaganda innebærer bruk av programmerte roboter eller mennesker for å spre målrettet villedende informasjon over internett, ofte på en industriell skala.
For å gjøre dette bruker beregningsmessige propagandister et omfattende verktøy med desinformasjonsverktøy. Politiske roboter forsterke hatytringer og skape inntrykk av trending politiske meldinger på Twitter og Facebook. De ulovlig høsting av data hjelper propagandister målmeldinger på bestemte, ofte sårbare individer og grupper. Trollhærerblir i mellomtiden jevnlig distribuert for å undertrykke politisk aktivisme og pressefrihet.
I 2020 identifiserte vi 62 land der statlige etater selv bruker disse verktøyene for å forme opinionen. I andre land som er inkludert i studien vår, brukes disse verktøyene av private organisasjoner eller utenlandske aktører.
Desinformasjon for utleie
Tross for Cambridge Analytica-skandalen Når vi avslører hvordan private firmaer kan blande seg i demokratiske valg, fant vår forskning også en alarmerende økning i bruken av "desinformation-for-hire" -tjenester over hele verden. Ved å bruke finansiering fra regjeringen og det politiske partiet er det cybertropper i den private sektoren blir stadig mer ansatt å spre manipulerte meldinger på nettet, eller å drukne andre stemmer ut på sosiale medier.
Vår forskning fant statlige aktører som jobbet med private beregningspropagandaselskaper i 48 land i 2020, opp fra 21 identifisert mellom 2017 og 2018, og bare ni slike tilfeller mellom 2016 og 2017. Siden 2007, nesten US $ 60 millioner (£ 49 millioner) er brukt globalt på kontrakter med disse firmaene.
I tillegg har vi avdekket forhold mellom innleide cybertropper og sivilsamfunnsgrupper som ideologisk støtter en bestemt sak, for eksempel ungdomsgrupper og sosiale medier. I USA, for eksempel ungdomsgruppen Pro-Trump Vendepunkt-handling ble brukt til å spre desinformasjon online og pro-Trump-fortellinger om både COVID-19 og innsendingsstemmer.
For å oppnå sine politiske mål er utstrykningskampanjer mot en politisk motstander den vanligste strategien som brukes av cybertropper, og inneholder 94% av alle landene vi undersøkte. I 90% av landene observerte vi spredning av pro-parti eller pro-regjerings propaganda. Å undertrykke deltakelse gjennom trolling eller trakassering var en funksjon i 73% av landene, mens 48% cybertroppenes meldinger forsøkte å polarisere innbyggerne.
Moderasjon av sosiale medier
Helt klart, debatter rundt sensurering av Trump og hans støttespillere på sosiale medier dekker bare en fasett av bransjens desinformasjonskrise. Ettersom flere land investerer i kampanjer som aktivt vil villede innbyggerne sine, vil selskaper i sosiale medier sannsynligvis møte økte samtaler om moderering og regulering - og ikke bare av Trump, hans tilhengere og relaterte konspirasjonsteorier som QAnon.
Donald Trump ble utestengt fra Twitter i etterkant av Capitol-opptøyene. pcruciatti / Shutterstock
Allerede i år har forekomsten av beregningsmessige propagandakampanjer i hele COVID-19-pandemi og i etterdønningen av det amerikanske valget har bedt mange sosiale medier firmaer om å begrense misbruk av plattformene sine ved å fjerne kontoer som de mener administreres av cybertropper.
For eksempel fant forskningen vår at mellom januar 2019 og desember 2020 fjernet 10,893 12,588 kontoer, 603 XNUMX sider og XNUMX grupper fra plattformen. I samme periode Twitter fjernet 294,096 XNUMX kontoer, og fortsetter å fjerne kontoer knyttet til ytterst til høyre.
Til tross for disse kontofjerningene har forskningen vår avslørt at mellom januar 2019 og desember 2020 ble nesten 10 millioner dollar brukt av cybertropper på politiske annonser. Og en viktig del av historien er at selskaper i sosiale medier fortsetter å tjene på markedsføring av desinformasjon på sine plattformer. Oppfordringer om strengere regulering og fastere politiarbeid vil trolig følge Facebook og Twitter til de virkelig får tak i tendensen til plattformene deres for å være vert, spre og formere desinformasjon.
Et sterkt, funksjonelt demokrati er avhengig av publikums tilgang til informasjon av høy kvalitet. Dette gjør at innbyggerne kan delta i informerte overveielser og søke konsensus. Det er klart at sosiale medieplattformer har blitt avgjørende i legge til rette for denne informasjonsutvekslingen.
Disse selskapene bør derfor øke sin innsats for å flagge og fjerne desinformasjon, sammen med alle cyber tropp-kontoer som brukes til å spre skadelig innhold på nettet. Ellers vil den fortsatte opptrappingen i beregningsmessige propagandakampanjer som vår forskning har avslørt, bare øke politisk polarisering, redusere tilliten til institusjoner og ytterligere undergrave demokratiet over hele verden.
om forfatteren
Hannah Bailey, PhD-forsker i sosial datavitenskap, University of Oxford
Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.
