En typisk sosial bot-konto. CC B
Sosiale medieplattformer har blitt mer enn bare verktøy for kommunikasjon. De har utviklet seg til travle arenaer hvor sannhet og usannhet kolliderer. Blant disse plattformene skiller X seg ut som en fremtredende slagmark. Det er et sted hvor desinformasjonskampanjer trives, foreviget av hærer av AI-drevne roboter programmert til å påvirke opinionen og manipulere fortellinger.
AI-drevne roboter er automatiserte kontoer som er designet for å etterligne menneskelig atferd. Bots på sosiale medier, chat-plattformer og samtale-AI er integrert i det moderne livet. De er nødvendige for å få AI-applikasjoner til å kjøre effektivt, for eksempel.
Men noen roboter er laget med ondsinnet hensikt. Sjokkerende nok utgjør bots en betydelig del av Xs brukerbase. I 2017 det ble anslått at det var omtrent 23 millioner sosiale roboter som sto for 8.5 % av de totale brukerne. Mer enn to tredjedeler av tweets stammet fra disse automatiserte kontoene, forsterker rekkevidden til desinformasjon og gjør vannet i offentlig diskurs.
Hvordan roboter fungerer
Sosial innflytelse er nå en vare som kan skaffes ved å kjøpe bots. Selskaper selger falske følgere for å kunstig øke populariteten til kontoer. Disse følgerne er tilgjengelige til bemerkelsesverdig lave priser, med mange kjendiser blant kjøperne.
I løpet av vår forskning oppdaget for eksempel kolleger og jeg en bot som hadde lagt ut 100 tweets som tilbyr følgere for salg.
Bruke AI-metodikk og en teoretisk tilnærming kalt aktør-nettverk teori, dissekerte kollegene mine og jeg hvordan ondsinnede sosiale roboter manipulerer sosiale medier, og påvirker hva folk tenker og hvordan de handler med alarmerende effekt. Vi kan fortelle om falske nyheter ble generert av et menneske eller en robot med en nøyaktighetsgrad på 79.7 %. Det er avgjørende å forstå hvordan både mennesker og AI sprer desinformasjon for å forstå måtene mennesker utnytter AI for å spre feilinformasjon.
For å ta ett eksempel, undersøkte vi aktiviteten til en konto kalt "True Trumpers" på Twitter.
Kontoen ble etablert i august 2017, har ingen følgere og ikke noe profilbilde, men hadde på undersøkelsestidspunktet lagt ut 4,423 tweets. Disse inkluderte en serie helt oppdiktede historier. Det er verdt å merke seg at denne boten stammer fra et østeuropeisk land.
En strøm av falske nyheter fra en bot-konto. Buzzfeed, CC BY
Forskning som dette påvirket X til å begrense aktivitetene til sosiale roboter. Som svar på trusselen om manipulering av sosiale medier, har X implementert midlertidige lesegrenser for å begrense dataskraping og manipulering. Verifiserte kontoer har vært begrenset til å lese 6,000 innlegg om dagen, mens ubekreftede kontoer kan lese 600 om dagen. Dette er en ny oppdatering, så vi vet ennå ikke om den har vært effektiv.
Kan vi beskytte oss selv?
Imidlertid påhviler det til syvende og sist brukerne å utvise forsiktighet og skjelne sannhet fra usannhet, spesielt i valgperioder. Ved å kritisk vurdere informasjon og sjekke kilder, kan brukere spille en rolle i å beskytte integriteten til demokratiske prosesser mot angrep fra roboter og desinformasjonskampanjer på X. Hver bruker er faktisk en frontlinjeforkjemper for sannhet og demokrati. Årvåkenhet, kritisk tenkning og en sunn dose skepsis er viktig rustning.
Med sosiale medier er det viktig for brukere å forstå strategiene som brukes av ondsinnede kontoer.
Ondsinnede aktører bruker ofte nettverk av roboter for å forsterke falske fortellinger, manipulere trender og raskt spre feilinformasjon. Brukere bør utvise forsiktighet når de møter kontoer som viser mistenkelig oppførsel, for eksempel overdreven innlegg eller gjentatte meldinger.
Desinformasjon spres også ofte gjennom dedikerte falske nyhetsnettsteder. Disse er designet for å etterligne troverdige nyhetskilder. Brukere anbefales å verifisere ektheten til nyhetskilder ved å kryssreferanser informasjon med anerkjente kilder og konsultere faktasjekkende organisasjoner.
Selvbevissthet er en annen form for beskyttelse, spesielt fra sosial ingeniørtaktikk. Psykologisk manipulasjon blir ofte brukt for å lure brukere til å tro usannheter eller delta i visse handlinger. Brukere bør være årvåken og kritisk vurdere innholdet de møter, spesielt i perioder med økt følsomhet som valg.
Ved å holde oss informert, engasjere seg i sivil diskurs og gå inn for åpenhet og ansvarlighet, kan vi i fellesskap forme et digitalt økosystem som fremmer tillit, åpenhet og informert beslutningstaking.
Nick Hajli, AI-strateg og professor i digital strategi, Loughborough University
Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.
Relaterte bøker:
On Tyranni: Twenty Lessons from the Twentieth Century
av Timothy Snyder
Denne boken tilbyr lærdom fra historien for å bevare og forsvare demokrati, inkludert viktigheten av institusjoner, rollen til individuelle borgere og farene ved autoritarisme.
Klikk for mer info eller for å bestille
Vår tid er nå: makt, formål og kampen for et rettferdig Amerika
av Stacey Abrams
Forfatteren, en politiker og aktivist, deler sin visjon for et mer inkluderende og rettferdig demokrati og tilbyr praktiske strategier for politisk engasjement og velgermobilisering.
Klikk for mer info eller for å bestille
Hvordan demokratier dør
av Steven Levitsky og Daniel Ziblatt
Denne boken undersøker varseltegnene og årsakene til demokratisk sammenbrudd, og trekker på casestudier fra hele verden for å gi innsikt i hvordan man kan ivareta demokratiet.
Klikk for mer info eller for å bestille
The People, No: A Brief History of Anti-Populism
av Thomas Frank
Forfatteren gir en historie om populistiske bevegelser i USA og kritiserer den "antipopulistiske" ideologien som han hevder har kvalt demokratisk reform og fremgang.
Klikk for mer info eller for å bestille
Demokrati i én bok eller mindre: Hvordan det fungerer, hvorfor det ikke gjør det, og hvorfor det er enklere enn du tror å fikse det
av David Litt
Denne boken gir en oversikt over demokratiet, inkludert dets styrker og svakheter, og foreslår reformer for å gjøre systemet mer responsivt og ansvarlig.
Klikk for mer info eller for å bestille
