Det er ikke bare et sosialt medieproblem - hvordan søkemotorer sprer feil informasjonSøkemotorer gir ofte en forvrengende blanding av informasjon og feilinformasjon. Crispin la valiente / Moment via Getty Images, CC BY-ND

Søkemotorer er en av samfunnets viktigste portaler til informasjon og mennesker, men de er også kanaler for feilinformasjon. Lik problematiske sosiale medialgoritmer, søkemotorer lærer å tjene deg det du og andre har klikket på før. Fordi folk blir tiltrukket av det oppsiktsvekkende, kan denne dansen mellom algoritmer og menneskelig natur fremme spredning av feilinformasjon.

Søkemotorselskaper, som de fleste elektroniske tjenester, tjener ikke bare penger ved å selge annonser, men også ved å spore brukere og selge dataene deres gjennom budgivning i sanntid på den. Folk blir ofte ført til feilinformasjon av deres ønske om oppsiktsvekkende og underholdende nyheter, samt informasjon som enten er kontroversiell eller bekrefter deres synspunkter. En studie fant at mer populære YouTube-videoer om diabetes er mindre sannsynlig å ha medisinsk gyldig informasjon enn mindre populære videoer om emnet, for eksempel.

Annonsedrevne søkemotorer, som sosiale medieplattformer, er designet for å belønne å klikke på lokkende lenker fordi det hjelper søkeselskapene å øke forretningsverdiene. Som forsker som studerer søke- og anbefalingssystemene, Jeg og mine kolleger viser at denne farlige kombinasjonen av bedriftsoverskuddsmotiv og individuell mottakelighet gjør problemet vanskelig å fikse.

Hvordan søkeresultatene går galt

Når du klikker på et søkeresultat, lærer søkealgoritmen at lenken du klikket på er relevant for søket ditt. Dette kalles relevans tilbakemelding. Denne tilbakemeldingen hjelper søkemotoren med å legge vekt på den lenken for spørringen i fremtiden. Hvis nok folk klikker på den lenken nok ganger, og dermed gir sterk relevans tilbakemelding, begynner nettstedet å komme opp høyere i søkeresultatene for det og relaterte spørsmål.


innerself abonnere grafikk


Folk er mer sannsynlig å klikke på lenker som vises høyere på søkeresultatlisten. Dette skaper en positiv tilbakemeldingsløyfe - jo høyere et nettsted dukker opp, jo flere klikk, og som igjen får nettstedet til å bevege seg høyere eller holde det høyere. Optimaliseringsteknikker for søkemotorer bruker denne kunnskapen for å øke synligheten til nettsteder.

Det er to aspekter ved dette feilinformasjonsproblemet: hvordan en søkealgoritme vurderes og hvordan mennesker reagerer på overskrifter, titler og utdrag. Søkemotorer, som de fleste online-tjenester, blir vurdert ved hjelp av en rekke beregninger, hvorav den ene er brukerengasjement. Det er i søkemotorenes interesse å gi deg ting du vil lese, se eller bare klikke. Derfor, når en søkemotor eller et hvilket som helst anbefalingssystem oppretter en liste over elementer å presentere, beregner det sannsynligheten for at du klikker på elementene.

Tradisjonelt var dette ment for å få frem informasjonen som ville være mest relevant. Imidlertid har ideen om relevans blitt uklar fordi folk har brukt søk for å finne underholdende søkeresultater samt virkelig relevant informasjon.

Tenk deg at du leter etter en pianostemmer. Hvis noen viser deg en video av en katt som spiller piano, vil du klikke på den? Mange ville, selv om det ikke har noe å gjøre med pianotuning. Søketjenesten føles validert med positiv tilbakemelding om relevans og lærer at det er OK å vise en katt som spiller piano når folk søker etter pianostemmere.

Det er faktisk enda bedre enn å vise relevante resultater i mange tilfeller. Folk liker å se morsomme kattevideoer, og søkesystemet får flere klikk og brukerengasjement.

Dette kan virke ufarlig. Så hva om folk blir distrahert fra tid til annen og klikker på resultater som ikke er relevante for søket? Problemet er at folk blir tiltrukket av spennende bilder og oppsiktsvekkende overskrifter. De har en tendens til å klikke på konspirasjonsteorier og sensasjonelle nyheter, ikke bare katter som spiller piano, og gjør det mer enn å klikke på virkelige nyheter eller relevant informasjon.

Berømte men falske edderkopper

I 2018 søker etter "ny dødelig edderkopp" spiket på Google etter et Facebook-innlegg som hevdet at en ny dødelig edderkopp drepte flere mennesker i flere stater. Mine kolleger og jeg analyserte de 100 beste resultatene fra Google-søk etter "ny dødelig edderkopp" i løpet av den første uken i dette populære spørringen.

Det er ikke bare et sosialt medieproblem - hvordan søkemotorer sprer feil informasjonDe to første sidene av Googles søkeresultater for 'ny dødelig edderkopp' i august 2018 (skyggelagt område) var relatert til det opprinnelige falske nyhetsinnlegget om dette emnet, ikke feilsøking eller på annen måte faktainformasjon. Chirag Shah, CC BY-ND

Det viste seg denne historien var falsk, men folk som lette etter det, ble i stor grad utsatt for feilinformasjon knyttet til det opprinnelige falske innlegget. Da folk fortsatte å klikke og dele den feilinformasjonen, fortsatte Google å tjene disse sidene øverst i søkeresultatene.

Dette mønsteret av spennende og ubekreftede historier dukker opp og folk som klikker på dem fortsetter, med folk som tilsynelatende enten ikke er bekymret for sannheten eller tror at hvis en pålitelig tjeneste som Google Søk viser disse historiene til dem, så må historiene være sanne. Mer nylig, a motbevist rapport hevder Kina la coronavirus lekke fra et laboratorium fikk grep på søkemotorer på grunn av denne onde syklusen.

Se feilinformasjonen

For å teste hvor godt folk skiller mellom nøyaktig informasjon og feilinformasjon, designet vi et enkelt spill kalt “Google eller ikke. ” Dette online spillet viser to sett med resultater for samme spørsmål. Målet er enkelt - velg settet som er pålitelig, pålitelig eller mest relevant.

Det er ikke bare et sosialt medieproblem - hvordan søkemotorer sprer feil informasjonI tester, omtrent halvparten av tiden, kan folk ikke se forskjellen mellom Googles søkeresultater som inneholder feilinformasjon og de med bare pålitelige resultater. Chirag Shah, CC BY-ND

Ett av disse to settene har ett eller to resultater som enten er bekreftet og merket som feilinformasjon eller en debunked historie. Vi gjorde spillet tilgjengelig offentlig og annonserte gjennom forskjellige sosiale mediekanaler. Samlet sett samlet vi 2,100 svar fra over 30 land.

Da vi analyserte resultatene, fant vi det omtrent halvparten av tiden folk feilaktig valgte som pålitelig sett med ett eller to feilinformasjonsresultater. Våre eksperimenter med hundrevis av andre brukere over mange iterasjoner har resultert i lignende funn. Med andre ord, omtrent halvparten av tiden folk velger resultater som inneholder konspirasjonsteorier og falske nyheter. Etter hvert som flere velger disse unøyaktige og villedende resultatene, lærer søkemotorene at det er det folk vil ha.

Spørsmål om Big Tech-regulering og selvregulering til side, det er viktig for folk å forstå hvordan disse systemene fungerer og hvordan de tjener penger. Ellers vil markedsøkonomier og menneskers naturlige tilbøyelighet til å bli tiltrukket av iøynefallende lenker holde den onde syklusen i gang.

Om forfatteren

Chirag Shah, lektor i informasjonsvitenskap, University of Washington

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.