Informasjon er en verdifull vare. Og takket være teknologien er det det millioner av terabyte av det på nett.

Kunstig intelligens (AI)-verktøy som ChatGPT administrerer nå denne informasjonen på våre vegne – samler den, oppsummerer den og presenterer den tilbake til oss.

Men denne "outsourcingen" av informasjonshåndtering til AI – praktisk som den er – kommer med konsekvenser. Det kan påvirke ikke bare hva tenker vi, men potensielt også hvordan vi tror.

Hva skjer i en verden der AI-algoritmer bestemmer hvilken informasjon som foreviges, og hva som blir liggende i veien?

Fremveksten av personlig AI

Generative AI-verktøy er bygget på modeller trent på hundrevis av gigabyte eksisterende data. Fra disse dataene lærer de hvordan de autonomt lager tekst, bilder, lyd- og videoinnhold, og kan svare på brukerforespørsler ved å lappe sammen det "mest sannsynlige" svaret.

ChatGPT brukes av millioner av mennesker, til tross for at de ble utgitt offentlig for mindre enn ett år siden. I juni ble det lagt til tilpassede svar gjorde den allerede imponerende chatboten enda mer nyttig. Denne funksjonen lar brukere lagre tilpassede instruksjoner som forklarer hva de bruker boten til og hvordan de vil at den skal svare.

Dette er ett av flere eksempler på "personalisert AI": en kategori av AI-verktøy som genererer innhold for å passe brukerens spesifikke behov og preferanser.

Et annet eksempel er Metas nylig lanserte virtuell assistent, Meta AI. Denne chatboten kan ha samtaler, generere bilder og utføre oppgaver på tvers av Metas plattformer inkludert WhatsApp, Messenger og Instagram.

Kunstig intelligensforsker og medgründer av DeepMind, Mustafa Suleyman, beskriver personlig AI som mer et forhold enn en teknologi:

Det er en venn. […] Det kommer virkelig til å være alltid tilstede og ved siden av deg, leve med deg – i utgangspunktet på laget ditt. Jeg liker å tenke på det som å ha en god trener i hjørnet ditt.

Men disse teknologiene er også kontroversielle, med bekymringer reist over data eierskap, Bias og feil~~POS=TRUNC.

Teknologiselskaper prøver å finne måter å bekjempe disse problemene. For eksempel har Google lagt til kildelenker til AI-genererte søkesammendrag produsert av Google Søk Generativ opplevelse (SGE) verktøyet, som kom under ild tidligere i år for byr opp unøyaktige og problematiske svar.

Teknologien har allerede endret tankegangen vår

Hvordan vil generative AI-verktøy – og spesielt de som er tilpasset oss – endre måten vi tenker på?

For å forstå dette, la oss se på begynnelsen av 1990-tallet da internett først kom inn i livene våre. Folk kunne plutselig få tilgang til informasjon om stort sett alt, enten det var bank, baking, undervisning eller reiser.

Nesten 30 år senere har studier vist hvordan det å være koblet til dette globale "hivesinnet" har endret vår kognisjon, hukommelse og kreativitet.

For eksempel å ha øyeblikkelig tilgang til tilsvarende 305.5 milliarder sider av informasjon har økt folks meta-kunnskap – altså deres kunnskap om kunnskap. En konsekvens av dette er "Google-effekt”: et fenomen der nettsøk øker vår evne til å finne informasjon, men reduserer vår hukommelse om hva den informasjonen var.

På den ene siden har det vist seg å avlaste vår tenkning til søkemotorer å frigjøre våre mentale reserver for problemløsning og kreativ tenkning. På den andre siden har elektronisk informasjonsinnhenting vært forbundet med økt distraherbarhet og avhengighet.

Forskning viser også at nettsøk – uavhengig av mengden eller kvaliteten på informasjonen som hentes – øker vår kognitiv selvtillit. Det øker med andre ord vår tro på våre egne "smarter".

Koble dette med det faktum at å stille spørsmål ved informasjon er anstrengende – og at jo mer vi stoler på søkemotoren vår, jo mindre kritisk blir vi engasjere seg i resultatene – og du kan se hvorfor det å ha tilgang til enestående mengder informasjon ikke nødvendigvis gjør oss klokere.

Bør vi "outsource" vår tenkning?

Dagens generative AI-verktøy går mye lenger enn bare å presentere oss med søkeresultater. De finner informasjonen for oss, evaluerer den, syntetiserer den og presenterer den tilbake til oss.

Hva kan implikasjonene av dette være? Uten å presse på for menneskestyrt kvalitetskontroll, er utsiktene ikke lovende.

Generativ AIs evne til å produsere svar som føles kjente, objektive og engasjerende betyr at den gjør oss mer sårbare overfor Kognitive forstyrrelser.

De automatiseringsskjevhet, for eksempel, er den menneskelige tendensen til å overvurdere integriteten til maskinbasert informasjon. Og ren eksponering effekten er når det er mer sannsynlig at vi stoler på informasjon som presenteres som kjent eller personlig.

Forskning på sosiale medier kan hjelpe oss å forstå virkningen av slike skjevheter. I en studie fra 2016 rapporterte Facebook-brukere føler seg mer "in the know" basert på mengden nyhetsinnhold som legges ut på nettet – og ikke hvor mye av det de faktisk leser.

Vi vet også at "filterbobler«skapt av sosiale medier-algoritmer – der feedene våre filtreres i henhold til våre interesser – begrenser mangfoldet av innholdet vi blir utsatt for.

Denne prosessen med informasjonsinnsnevring har vist seg å øke ideologisk polarisering ved å redusere folks tilbøyelighet til å vurdere alternative perspektiver. Det har også vist seg å øke sannsynligheten for å bli utsatt for falske nyheter.

Bruker AI for å vise opp, og ikke dumme ned

Generativ AI er uten tvil en revolusjonerende kraft med potensial til å gjøre store ting for samfunnet. Det kan omforme utdanningssystemet vårt ved å tilby personlig tilpasset innhold, endre vår arbeidspraksis ved å fremskynde skriving og informasjonsanalyse, og skyve grensene til vitenskapelig funn.

Den har til og med potensialet til å endre relasjonene våre positivt ved å hjelpe oss med å kommunisere og få kontakt med andre og kan til tider fungere som en form for syntetisk selskap.

Men hvis vår eneste måte å bedømme fremtiden på er å se til fortiden, er det kanskje på tide å reflektere over hvordan både internett og sosiale medier har endret vår erkjennelse, og bruke noen forebyggende tiltak. Utvikler AI-kunnskap er et godt sted å starte, og det samme er å designe AI-verktøy som oppmuntrer til menneskelig autonomi og kritisk tenkning.

Til syvende og sist må vi forstå begge våre egne og AI sine styrker og svakheter for å sikre at disse "tenkende" følgesvennene hjelper oss med å skape fremtiden vi ønsker – og ikke den som tilfeldigvis står øverst på listen.

Sarah Vivienne Bentley, forsker, ansvarlig innovasjon, Data61, CSIRO; Claire Mason, hovedforsker, CSIROog Einat Grimberg, postdoktor i teknologi og samfunnsvitenskap, CSIRO

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.