Fremtidige historikere kan godt betrakte 2023 som et landemerke i fremkomsten av kunstig intelligens (AI). Men om den fremtiden vil vise seg utopisk, apokalyptisk or et sted i mellom er noen gjetning.

I februar satte ChatGPT rekorden som den raskeste appen å nå 100 million brukere. Den ble fulgt av lignende "storspråklige" AI-modeller fra Google, Amazon, Meta og andre store teknologifirmaer, som samlet ser ut til å transformere utdanning, helsevesen og mange andre kunnskapsintensive felt.

Imidlertid ble AIs potensiale for skade understreket i mai av en illevarslende uttalelse signert av ledende forskere:

Å redusere risikoen for utryddelse fra AI bør være en global prioritet sammen med andre samfunnsmessige risikoer som pandemier og atomkrig.

I november, som svar på den økende bekymringen om AI-risiko, lovet 27 nasjoner (inkludert Storbritannia, USA, India, Kina og EU) samarbeid på et første AI Safety Summit i Bletchley Park i England, for å sikre sikker utvikling av AI for fordel for alle.

For å oppnå dette fokuserer forskerne på AI justering – det vil si hvordan sikre at AI-modeller er i samsvar med menneskelige verdier, preferanser og mål. Men det er et problem - AIs såkalte "mørk hemmelighet”: store modeller er så komplekse at de er som en svart boks, umulig for noen å forstå fullt ut.

AIs black box-problem

Selv om åpenheten og forklarbarheten til AI-systemer er viktige forskningsmål, virker det usannsynlig at slike anstrengelser vil holde tritt med det frenetiske innovasjonstakten.

Black box-metaforen forklarer hvorfor folks tro på AI er over hele kartet. Spådommer spenner fra utopi til utryddelse, og mange tror til og med at en kunstig generell intelligens (AGI) snart vil oppnå sansning.

Men denne usikkerheten forsterker problemet. AI-innretting bør være en toveis gate: vi må ikke bare sikre at AI-modeller er i samsvar med menneskelige intensjoner, men også at vår tro på AI er nøyaktig.

Dette er fordi vi er bemerkelsesverdig dyktige til å skape fremtider som samsvarer med disse troene, selv om vi ikke er klar over dem.

Såkalte “forventningseffekter”, eller selvoppfyllende profetier, er velkjente i psykologien. Og forskning har vist at manipulering av brukernes tro ikke bare påvirker hvordan de samhandle med AI, men hvordan AI tilpasser seg brukeren.

Med andre ord, hvordan vår tro (bevisst eller ubevisst) påvirker AI kan potensielt øke sannsynligheten for ethvert utfall, inkludert katastrofale.

AI, beregning, logikk og aritmetikk

Vi må sondere dypere for å forstå grunnlaget for AI – som Alice i Eventyrland, gå ned i kaninhullet og se hvor det tar oss.

For det første, hva er AI? Den kjører på datamaskiner, og det samme er automatisert beregning. Fra sin opprinnelse som "perceptron” – et kunstig nevron definert matematisk i 1943 av nevrofysiolog Warren McCulloch og logiker Walter Pitts – AI har vært sammenvevd med kognitiv vitenskap, nevrovitenskap og informatikk.

Denne konvergensen av sinn, hjerner og maskiner har ført til den utbredte troen på at fordi AI er beregning av maskin, så må naturlig intelligens (sinnet) være beregning av hjernen.

Men hva er beregning? På slutten av 19-tallet, matematikere Richard Dedekind og Giuseppe Peano foreslått et sett med aksiomer som definert aritmetikk i form av logikk, og inspirerte forsøk på å jorde all matematikk på en sikker formelt grunnlag.

Selv om logikeren Kurt Godel senere bevist dette målet var uoppnåelig, arbeidet hans var utgangspunktet for matematiker (og kodeknekker) Alan Turing. Hans "Turing maskin”, en abstrakt enhet i stand til universell beregning, er grunnlaget for informatikk.

Dyp struktur av persepsjon

Så, beregning er basert på matematiske ideer som sporer tilbake til forsøk på å definere aritmetikk i logikk. Men vår kunnskap om aritmetikk finnes før logikken. Hvis vi vil forstå grunnlaget for AI, må vi gå lenger og spørre hvor selve aritmetikken kommer fra.

Mine kolleger og jeg har nylig vist at aritmetikk er basert på "dyp struktur" av persepsjon. Denne strukturen er som fargede briller som former vår oppfatning på spesielle måter, slik at vår opplevelse av verden er ordnet og håndterlig.

Aritmetikk består av et sett med elementer (tall) og operasjoner (addisjon, multiplikasjon) som kombinerer par av elementer for å gi et annet element. Vi spurte: av alle muligheter, hvorfor er tall elementene, og addisjon og multiplikasjon operasjonene?

Vi viste innom matematisk bevis at når persepsjonens dype struktur ble antatt å begrense mulighetene, ble aritmetikk resultatet. Med andre ord, når sinnet vårt ser på den abstrakte verden gjennom de samme "fargede brillene" som former vår opplevelse av den fysiske verden, "ser" det tall og aritmetikk.

Fordi aritmetikk er grunnlaget for matematikk, er implikasjonen at matematikk er en refleksjon av sinnet - et uttrykk i symboler for dens grunnleggende natur og kreativitet.

Selv om den dype strukturen i oppfatningen deles med andre dyr og dermed et produkt av evolusjon, er det bare mennesker som har oppfunnet matematikken. Det er vår mest intime skapelse – og ved å muliggjøre utviklingen av AI, kanskje vår mest konsekvente.

En kopernikansk revolusjon av sinnet

Vår beretning om aritmetikkens opprinnelse stemmer overens med synspunkter fra 18-tallsfilosofen Immanuel Kant. Ifølge ham er vår kunnskap om verden strukturert av "rene intuisjoner" av rom og tid som eksisterer før sanseerfaring - analogt med de fargede brillene vi aldri kan fjerne.

Kant hevdet sitt filosofi var en "kopernikansk revolusjon av sinnet". På samme måte som gamle astronomer trodde at solen dreide rundt jorden fordi de ikke var klar over jordens bevegelse, hevdet Kant, filosofer som mente all kunnskap er avledet fra sanseopplevelse (John Locke og David Hume, for eksempel) overså hvordan sinnet former persepsjon.

Selv om Kants synspunkter ble formet av hans samtids naturvitenskap, har de bevist innflytelsesrik i moderne psykologi.

Erkjennelsen av at aritmetikk er en naturlig konsekvens av vår oppfatning, og dermed biologisk basert, antyder et lignende kantiansk skifte i vår forståelse av beregning.

Beregning er ikke "utenfor" eller atskilt fra oss i et abstrakt rike av matematisk sannhet, men iboende i sinnets natur. Sinnet er mer enn beregning; hjernen er ikke en datamaskin. Snarere er beregning – grunnlaget for AI –, i likhet med matematikk, et symbolsk uttrykk for sinnets natur og kreativitet.

Promethean brann

Hva er implikasjonene for AI? For det første er AI ikke et sinn og vil aldri bli sansende. Ideen om at vi kan transcendere vår biologiske natur og oppnå udødelighet ved å laste opp tankene våre til skyen er bare fantasy.

Men hvis sinnsprinsippene som AI er basert på deles av hele menneskeheten (og sannsynligvis andre levende skapninger også), kan det være mulig å overskride begrensningene til våre individuelle sinn.

Fordi beregning er universell, står vi fritt til å simulere og skape et hvilket som helst resultat vi velger i våre stadig mer tilkoblede virtuelle og fysiske verdener. På denne måten er AI virkelig vår Promethean brann, en gave til menneskeheten stjålet fra gudene som i gresk mytologi.

Som en global sivilisasjon er vi sannsynligvis ved et vendepunkt. AI vil ikke bli sansende og bestemme seg for det drepe oss alle. Men vi er veldig i stand til å "apokalypse" oss selv med det - forventning kan skape virkelighet.

Innsats for å sikre AI-tilpasning, sikkerhet og sikkerhet er svært viktig, men er kanskje ikke nok hvis vi mangler bevissthet og kollektiv visdom. Som Alice, må vi våkne opp fra drømmen og gjenkjenne virkeligheten og kraften i sinnet vårt.

Randolph Grace, Professor i psykologi, University of Canterbury

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.