Hvis du får nyheter fra sosiale medier, som de fleste amerikanere gjør det, du blir utsatt for en daglig dose hoaxes, rykter, konspirasjonsteorier og misvisende nyheter. Når alt er blandet inn med pålitelig informasjon fra ærlige kilder, kan sannheten være svært vanskelig å skille.

Faktisk er forskningsgruppens analyse av data fra Columbia Universitys Framvoksende ryktet tracker antyder at dette feilinformasjon er like sannsynlig å gå viral som pålitelig informasjon.

Mange spør om dette angrepet av digital feilinformasjon påvirket utfallet av 2016 USAs valg. Sannheten er at vi ikke vet, selv om det er grunner til å tro at det er fullt mulig, basert på tidligere analyse og kontoer fra andre land. Hvert stykke feilinformasjon bidrar til utformingen av våre meninger. Samlet sett kan skaden være veldig ekte.

Som forsker på spredning av feilinformasjon gjennom sosiale medier, vet jeg at begrensende nyhetskonkurranseres evne til å selge annonser, som nylig annonsert av Google og Facebook , er et skritt i riktig retning. Men det vil ikke bremse misbruk drevet av politiske motiver.

Utnytte sosiale medier

Om 10 år siden kjørte mine kolleger og jeg en eksperiment der vi lærte 72 prosent av studenter stolte lenker som syntes å stamme fra venner - til og med for å legge inn personlig påloggingsinformasjon på phishing-nettsteder. Denne utbredt sårbarheten foreslo en annen form for ondsinnet manipulering: Folk kan også tro på feilinformasjon de mottar når de klikker på en lenke fra en sosial kontakt.

For å utforske den ideen opprettet jeg en falsk nettside med tilfeldige, datastyrte sladdernyheter - ting som "Celebrity X fanget i seng med Celebrity Y!" Besøkende på nettstedet som søkte etter et navn ville utløse skriptet til å automatisk lage en historie om personen. Jeg inkluderte en ansvarsfraskrivelse på nettstedet og sa at nettstedet inneholdt meningsløs tekst og sammensatte "fakta". Jeg har også lagt annonser på siden. På slutten av måneden fikk jeg en innsjekk i posten med inntekt fra annonsene. Det var mitt bevis: Falske nyheter kunne tjene penger ved å forurense Internettet med falskhet.

Dessverre var jeg ikke den eneste med denne ideen. Ti år senere har vi en industrien av falske nyheter og digital feilinformasjon. Clickbait-nettsteder produserer hoaxes for å tjene penger på annonser, mens såkalte hyperpartiske nettsteder publiserer og sprer rykter og konspirasjonsteorier for å påvirke den offentlige mening.

Denne bransjen er styrket av hvor lett det er å skape sosiale bots, falske kontoer kontrollert av programvare som ser ut som ekte mennesker, og kan derfor ha reell innflytelse. Forskning i min lab avdekket mange eksempler på falske grassroots-kampanjer, også kalt politisk astroturfing.

Som svar har vi utviklet BotOrNot verktøy for å oppdage sosiale bots. Det er ikke perfekt, men nøyaktig nok å avdekke overtalelseskampanjer i Brexit- og antivaksbevegelsene. Ved hjelp av BotOrNot fant våre kolleger at a stor del av online chatter om 2016 valget ble generert av bots.

Opprette informasjon bobler

Vi mennesker er sårbare overfor manipulering ved digital feilinformasjon takket være et komplekst sett med sosiale, kognitive, økonomiske og algoritmiske forstyrrelser. Noen av disse har utviklet seg av gode grunner: Tillitssignaler fra våre sosiale sirkler og avvisning av informasjon som motsetter vår erfaring, har tjent oss godt når vår art er tilpasset for å unngå rovdyr. Men i dagens krympende nettverksnettverk bidrar en sosial nettverkstilkobling med en konspirasjonssteoretiker på den andre siden av planeten ikke til å informere mine meninger.

Kopiering av våre venner og ufølge dem med forskjellige meninger gir oss ekkokamre slik polarisert at forskere kan fortelle med høy nøyaktighet om du er liberale eller konservative ved bare å se på vennene dine. Nettverksstrukturen er slik tett at feilinformasjon spres nesten øyeblikkelig i en gruppe, og så segregeres at den ikke når den andre.

I vår boble er vi selektivt utsatt for informasjon i tråd med våre trosretninger. Det er et ideelt scenario for å maksimere engasjement, men en skadelig for å utvikle sunn skepsis. Bekreftelsestendens fører oss til å dele et overskrift uten å lese artikkelen.

Vårt laboratorium fikk en personlig leksjon i dette da vårt eget forskningsprosjekt ble gjenstand for a ondsinnet feilinformasjonskampanje i oppkjøringen til 2014 USAs midtveisvalg. Når vi undersøkte hva som skjedde, fant vi falske nyhetshistorier om at vår forskning hovedsakelig deles av Twitter-brukere innen ett partisk ekkokammer, et stort og homogent fellesskap av politisk aktive brukere. Disse menneskene var raske til å retweetes og ugjennomtrengelig for å debunking informasjon.

Viral uunngåelighet

Vår forskning viser at gitt struktur av våre sosiale nettverk og vår begrensede oppmerksomhet, er det uunngåelig det noen memes vil gå viral, uavhengig av deres kvalitet. Selv om enkeltpersoner har en tendens til å dele informasjon av høyere kvalitet, er nettverket som helhet ikke effektivt for å skille mellom pålitelig og fabrikkert informasjon. Dette bidrar til å forklare alle de virale hoaxene vi observerer i naturen.

De oppmerksomhet økonomi tar vare på resten: Hvis vi legger merke til et bestemt emne, vil mer informasjon om dette emnet bli produsert. Det er billigere å fremstille informasjon og overføre det som et faktum enn det er å rapportere sannheten. Og produksjon kan skreddersys for hver gruppe: Konservative leser at paven godkjente Trump, liberaler leser at han godkjente Clinton. Han gjorde det heller ikke.

Se til algoritmer

Siden vi ikke kan ta hensyn til alle innleggene i våre feeds, bestemmer algoritmer hva vi ser og hva vi ikke gjør. Algoritmer som brukes av sosiale medier-plattformer i dag, er utformet for å prioritere engasjerende innlegg - de vi sannsynligvis vil klikke på, reagere på og dele. Men en nylig analyse som oppdaget misvisende sider, har i det minste fått så mye online deling og reaksjon som ekte nyheter.

Denne algoritmiske forspenningen mot engasjement over sannhet styrker våre sosiale og kognitive forstyrrelser. Som et resultat, når vi følger koblinger som deles på sosiale medier, pleier vi å besøke en mindre, mer homogen sett med kilder enn når vi gjør et søk og besøker de beste resultatene.

Eksisterende forskning viser at å være i et ekkokammer kan gjøre folk mer gullible om å akseptere uverifiserte rykter. Men vi trenger å vite mye mer om hvordan forskjellige mennesker reagerer på en enkelt hoax: Noen deler det med en gang, andre faktum - sjekk det først.

Vi er simulerer et sosialt nettverk å studere denne konkurransen mellom deling og faktakontroll. Vi håper å hjelpe utrydde motstridende bevis om når feilsøking bidrar til å stoppe hoaxes fra å spre og når det ikke gjør det. Våre foreløpige resultater tyder på at jo mer segregerte samfunnet av hoax-troende, jo lengre hoax overlever. Igjen handler det ikke bare om hoaxet, men også om nettverket.

Mange prøver å finne ut hva skal jeg gjøre med alt dette. Ifølge Mark Zuckerbergs siste kunngjøring, Facebook-lag tester mulige alternativer. Og en gruppe studenter har foreslått en måte å enkelt merk delte lenker som "verifisert" eller ikke.

Noen løsninger forblir utenfor rekkevidde, i hvert fall for øyeblikket. For eksempel kan vi ennå ikke lære kunstig intelligens systemer hvordan skille mellom sannhet og løgn. Men vi kan fortelle rangeringsalgoritmer for å gi høyere prioritet til mer pålitelige kilder.

Studier spredningen av falske nyheter

Vi kan gjøre kampen mot falske nyheter mer effektiv hvis vi bedre forstår hvor dårlig informasjon sprer seg. Hvis for eksempel bots er ansvarlige for mange av falskhetene, kan vi fokusere oppmerksomheten på å oppdage dem. Hvis alternativet også er problemet med ekkokamre, kan vi kanskje designe anbefalingssystemer som ikke utelukker forskjellige synspunkter.

For det formål bygger vårt laboratorium en plattform som heter Hoaxy å spore og visualisere spredningen av ubekreftede krav og tilsvarende faktokontroll på sosiale medier. Det vil gi oss data i sanntid, som vi kan informere om våre simulerte sosiale nettverk. Da kan vi teste mulige tilnærminger for å bekjempe falske nyheter.

Hoaxy kan også vise folk hvor lett det er for deres meninger å bli manipulert av elektronisk informasjon - og selv hvor sannsynlig noen av oss er å dele falskheter på nettet. Hoaxy vil bli med en pakke med verktøy i vår Observatorium for sosiale medier, som gjør at noen kan se hvordan memes sprer seg på Twitter. Sammenkobling av verktøy som disse til menneskelige fakturakontrollere og sosiale medier-plattformer kan gjøre det lettere å minimere duplisering av innsats og støtte hverandre.

Det er viktig at vi investerer ressurser i studiet av dette fenomenet. Vi trenger alle hender på dekk: Datavitenskapere, samfunnsfagfolk, økonomer, journalister og industripartnere må arbeide sammen å stå fast mot spredningen av feilinformasjon.

Om forfatteren

Filippo Menczer, professor i datavitenskap og informatikk; Direktør for senter for komplekse nettverk og systemforskning, Indiana University, Bloomington

Denne artikkelen ble opprinnelig publisert på Den Conversation. Les opprinnelige artikkelen.

Relaterte bøker:

at InnerSelf Market og Amazon