AI vil sannsynligvis ikke slavebinde menneskeheten, men det kan ta over mange aspekter av livene våre. elenabs/iStock via Getty Images

Fremveksten av ChatGPT og lignende kunstig intelligens-systemer har blitt ledsaget av en skarp økt angst for AI. De siste månedene har ledere og AI-sikkerhetsforskere tilbudt spådommer, kalt "P(dom),” om sannsynligheten for at AI vil forårsake en storskala katastrofe.

Bekymringene toppet seg i mai 2023 da den ideelle forsknings- og påvirkningsorganisasjonen Center for AI Safety lanserte en uttalelse på én setning: "Å redusere risikoen for utryddelse fra AI bør være en global prioritet sammen med andre samfunnsmessige risikoer, som pandemier og atomkrig." Uttalelsen ble signert av mange nøkkelaktører på feltet, inkludert lederne av OpenAI, Google og Anthropic, samt to av de såkalte "gudfedrene" til AI: Geoffrey Hinton og Yoshua Bengio.

Du kan spørre hvordan slik eksistensiell frykt skal utspille seg. Et kjent scenario er "bindersmaksimering” tankeeksperiment artikulert av Oxford-filosofen Nick Bostrom. Tanken er at et AI-system som har i oppgave å produsere så mange binders som mulig kan gå ekstraordinært langt for å finne råvarer, som å ødelegge fabrikker og forårsake bilulykker.

A mindre ressurskrevende variasjon har en AI som har i oppgave å skaffe en reservasjon til en populær restaurant som stenger mobilnettverk og trafikklys for å forhindre at andre gjester får et bord.

Kontorrekvisita eller middag, den grunnleggende ideen er den samme: AI blir raskt en fremmed intelligens, flink til å oppnå mål, men farlig fordi den ikke nødvendigvis stemmer overens med de moralske verdiene til skaperne. Og i sin mest ekstreme versjon forvandles dette argumentet til eksplisitte bekymringer om AI-er slavebinde eller ødelegge menneskeheten.

En binders-lagende AI går amok er en variant av AI-apokalypse-scenariet.

Faktisk skade

I løpet av de siste årene har kollegene mine og jeg på UMass Bostons Applied Ethics Center har studert virkningen av engasjement med AI på folks forståelse av seg selv, og jeg tror disse katastrofale bekymringene er overdreven og feilrettet.

Ja, AIs evne til å lage overbevisende dypfalsk video og lyd er skremmende, og den kan misbrukes av folk med dårlige hensikter. Faktisk skjer det allerede: Russiske operatører forsøkte sannsynligvis å skamme Kreml-kritikeren Bill Browder ved å fange ham i en samtale med en avatar for den tidligere ukrainske presidenten Petro Porosjenko. Nettkriminelle har brukt AI-stemmekloning for en rekke forbrytelser – fra høyteknologiske ran til vanlig svindel.

AI beslutningssystemer som tilby lånegodkjenning og ansettelsesanbefalinger bærer risikoen for algoritmisk skjevhet, siden treningsdataene og beslutningsmodellene de kjører på reflekterer langvarige sosiale fordommer.

Dette er store problemer, og de krever oppmerksomhet fra politikere. Men de har eksistert en stund, og de er neppe katastrofale.

Ikke i samme liga

Uttalelsen fra Center for AI Safety klumpet AI inn med pandemier og atomvåpen som en stor risiko for sivilisasjonen. Det er problemer med den sammenligningen. COVID-19 resulterte i nesten 7 millioner dødsfall over hele verden, brakt på en massiv og vedvarende psykisk helsekrise og opprettet økonomiske utfordringer, inkludert kronisk forsyningskjedemangel og løpsk inflasjon.

Atomvåpen trolig drept mer enn 200,000 mennesker i Hiroshima og Nagasaki i 1945, krevde mange flere liv av kreft i årene som fulgte, skapte tiår med dyp angst under den kalde krigen og brakte verden til randen av utslettelse under Cubakrisen i 1962. De har også endret beregningene til nasjonale ledere om hvordan man skal svare på internasjonal aggresjon, som for tiden spiller ut med Russlands invasjon av Ukraina.

AI er rett og slett ikke i nærheten av å få muligheten til å gjøre denne typen skade. Papirklippscenarioet og andre lignende er science fiction. Eksisterende AI-applikasjoner utfører spesifikke oppgaver i stedet for å ta brede vurderinger. Teknologien er langt fra å kunne bestemme seg for og så planlegge ut målene og underordnede målene som er nødvendige for å stenge trafikken for å skaffe deg et sete på en restaurant, eller sprenge en bilfabrikk for å tilfredsstille kløen etter binders.

Ikke bare mangler teknologien den kompliserte kapasiteten for flerlagsvurdering som er involvert i disse scenariene, den har heller ikke autonom tilgang til tilstrekkelige deler av vår kritiske infrastruktur til å begynne å forårsake den typen skade.

Hva det betyr å være menneske

Egentlig er det en eksistensiell fare forbundet med bruk av AI, men den risikoen er eksistensiell i filosofisk snarere enn apokalyptisk forstand. AI i sin nåværende form kan endre måten folk ser på seg selv. Det kan forringe evner og erfaringer som folk anser som essensielle for å være menneske.

For eksempel er mennesker fordømmende skapninger. Folk veier rasjonelt detaljer og foretar daglige vurderinger på jobb og i fritiden om hvem de skal ansette, hvem som skal få lån, hva de skal se på og så videre. Men flere og flere av disse dommene er det blir automatisert og bygd ut til algoritmer. Når det skjer, vil ikke verden ende. Men folk vil gradvis miste kapasiteten til å gjøre disse vurderingene selv. Jo færre av dem folk lager, jo dårligere blir de sannsynligvis til å lage dem.

Eller tenk på tilfeldighetenes rolle i folks liv. Mennesker verdsetter serendipitate møter: å komme over et sted, en person eller en aktivitet ved et uhell, bli dratt inn i det og i ettertid verdsette rollen ulykken spilte i disse meningsfulle funnene. Men rollen til algoritmiske anbefalingsmotorer er å redusere den typen serendipity og erstatte det med planlegging og prediksjon.

Til slutt, vurder ChatGPTs skriveevner. Teknologien er i ferd med å eliminere rollen til å skrive oppgaver i høyere utdanning. Hvis det gjør det, vil lærere miste et sentralt verktøy for å undervise elever hvordan tenke kritisk.

Ikke død, men forminsket

Så nei, AI vil ikke sprenge verden. Men den stadig mer ukritiske omfavnelsen av det, i en rekke snevre sammenhenger, betyr gradvis uthuling av noen av menneskets viktigste ferdigheter. Algoritmer undergraver allerede folks evne til å foreta vurderinger, nyte serendipitate møter og finpusse kritisk tenkning.

Menneskearten vil overleve slike tap. Men vår måte å eksistere på vil bli utarmet i prosessen. De fantastiske bekymringene rundt den kommende AI-katastrofen, singulariteten, Skynet, eller hvordan du kanskje tenker på det, skjuler disse mer subtile kostnadene. Husk TS Eliots berømte avslutningslinjer med "De hule mennene": "Dette er måten verden ender på," skrev han, "ikke med et smell, men et klynk."

Om forfatteren

Nir Eisikovits, professor i filosofi og direktør, Applied Ethics Center, UMass Boston

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.