Getty Images

Kunstig intelligens (AI) beveger seg raskt og vil bli et viktig støtteverktøy i klinisk omsorg. Forskning tyder på at AI-algoritmer kan nøyaktig oppdage melanomer og forutsi fremtidige brystkreft.

Men før AI kan integreres i rutinemessig klinisk bruk, må vi takle utfordringen med algoritmisk skjevhet. AI-algoritmer kan ha iboende skjevheter som kan føre til diskriminering og personvernproblemer. AI-systemer kan også ta beslutninger uten nødvendig tilsyn eller menneskelig input.

 Et eksempel på de potensielt skadelige effektene av AI kommer fra en internasjonalt prosjekt som har som mål å bruke AI for å redde liv ved å utvikle banebrytende medisinske behandlinger. I et eksperiment snudde teamet sin "gode" AI-modell for å skape alternativer for en ny AI-modell for å gjøre "skade".

På mindre enn seks timers trening genererte den omvendte AI-algoritmen titusenvis av potensielle kjemiske krigføringsmidler, med mange farligere enn nåværende krigføringsmidler. Dette er et ekstremt eksempel på kjemiske forbindelser, men det fungerer som en vekker for å evaluere AIs kjente og tenkelig ukjente etiske konsekvenser.

AI i klinisk omsorg

I medisin har vi å gjøre med folks mest private data og ofte livsendrende beslutninger. Robuste AI-etiske rammer er avgjørende.

De Australsk epilepsiprosjekt har som mål å forbedre folks liv og gjøre klinisk behandling mer tilgjengelig. Basert på avansert hjerneavbildning, genetisk og kognitiv informasjon fra tusenvis av mennesker med epilepsi, planlegger vi å bruke AI for å svar på spørsmål som for øyeblikket ikke kan besvares.

Vil denne personens anfall fortsette? Hvilken medisin er mest effektiv? Er hjernekirurgi et levedyktig behandlingsalternativ? Dette er grunnleggende spørsmål som moderne medisin sliter med å løse.

Som AI-leder for dette prosjektet, er min største bekymring at AI beveger seg raskt og regulatorisk tilsyn er minimal. Disse problemene er grunnen til at vi nylig etablerte en etisk rammeverk for bruk av AI som et klinisk støtteverktøy. Dette rammeverket har til hensikt å sikre at AI-teknologiene våre er åpne, trygge og pålitelige, samtidig som de fremmer inkludering og rettferdighet i klinisk behandling.

Så hvordan implementerer vi AI-etikk i medisin for å redusere skjevhet og beholde kontroll over algoritmer? Datavitenskapsprinsippet "søppel inn, søppel ut" gjelder for AI. Anta at vi samler inn partiske data fra små prøver. Våre AI-algoritmer vil sannsynligvis være partiske og ikke replikerbare i en annen klinisk setting.

Eksempler på skjevheter er ikke vanskelig å finne i moderne AI-modeller. Populære store språkmodeller (for eksempel ChatGPT) og latente diffusjonsmodeller (DALL-E og Stable Diffusion) viser hvordan eksplisitte skjevheter angående kjønn, etnisitet og sosioøkonomisk status kan forekomme.

Forskere fant at enkle brukeroppfordringer genererer bilder som opprettholder etniske, kjønnede og klassestereotypier. For eksempel en oppfordring til en lege genererer det meste bilder av mannlige leger, noe som ikke stemmer overens med virkeligheten ettersom omtrent halvparten av alle leger i OECD-land er kvinner.

Sikker implementering av medisinsk AI

Løsningen for å forhindre skjevhet og diskriminering er ikke triviell. Å muliggjøre likestilling av helse og fremme inkludering i kliniske studier er sannsynligvis blant de primære løsninger å bekjempe skjevheter i medisinsk AI.

Oppmuntrende, US Food and Drug Administration foreslo nylig gjør mangfold obligatorisk i kliniske studier. Dette forslaget representerer et trekk mot mindre partiske og fellesskapsbaserte kliniske studier.

Et annet hinder for fremgang er begrensede forskningsmidler. AI-algoritmer krever vanligvis betydelige mengder data, noe som kan være dyrt. Det er avgjørende å etablere forbedrede finansieringsmekanismer som gir forskere de nødvendige ressursene for å samle klinisk relevante data som er egnet for AI-applikasjoner.

Vi argumenterer også for at vi alltid bør kjenne til den indre funksjonen til AI-algoritmer og forstå hvordan de når sine konklusjoner og anbefalinger. Dette konseptet blir ofte referert til som "forklarbarhet" i AI. Det er knyttet til ideen om at mennesker og maskiner må jobbe sammen for optimale resultater.

Vi foretrekker å se på implementeringen av prediksjon i modeller som «utvidet» snarere enn «kunstig» intelligens – algoritmer bør være en del av prosessen og medisinske profesjoner må ha kontroll over beslutningstakingen.

I tillegg til å oppmuntre til bruk av forklarbare algoritmer, støtter vi transparent og åpen vitenskap. Forskere bør publisere detaljer om AI-modeller og deres metodikk for å forbedre åpenhet og reproduserbarhet.

Hva trenger vi i Aotearoa New Zealand for å sikre sikker implementering av AI i medisinsk behandling? AI-etiske bekymringer ledes først og fremst av eksperter innen feltet. Imidlertid målrettede AI-forskrifter, slik som EU-baserte Lov om kunstig intelligens har blitt foreslått, og tar opp disse etiske hensyn.

Den europeiske AI-loven er velkommen og vil beskytte folk som jobber innenfor "sikker AI". Den britiske regjeringen ga nylig ut sine proaktiv tilnærming til AI-regulering, som fungerer som en blåkopi for andre myndigheters reaksjoner på AI-sikkerhet.

I Aotearoa argumenterer vi for å innta en proaktiv snarere enn reaktiv holdning til AI-sikkerhet. Det vil etablere et etisk rammeverk for bruk av AI i klinisk omsorg og andre felt, og gi tolkbar, sikker og objektiv AI. Følgelig vil vår tillit vokse at denne kraftige teknologien er til fordel for samfunnet samtidig som den beskytter den mot skade.

Om forfatteren

Mangor Pedersen, førsteamanuensis i psykologi og nevrovitenskap, Auckland University of Technology

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

Relaterte bøker:

Kroppen holder poengsummen: Hjernens sinn og kropp i helbredelsen av traumer

av Bessel van der Kolk

Denne boken utforsker sammenhengene mellom traumer og fysisk og mental helse, og tilbyr innsikt og strategier for helbredelse og bedring.

Klikk for mer info eller for å bestille

Pust: The New Science of a Lost Art

av James Nestor

Denne boken utforsker vitenskapen og praksisen med å puste, og tilbyr innsikt og teknikker for å forbedre fysisk og mental helse.

Klikk for mer info eller for å bestille

Planteparadokset: De skjulte farene i "sunn" mat som forårsaker sykdommer og vektøkning

av Steven R. Gundry

Denne boken utforsker koblingene mellom kosthold, helse og sykdom, og tilbyr innsikt og strategier for å forbedre generell helse og velvære.

Klikk for mer info eller for å bestille

Immunitetskoden: Det nye paradigmet for ekte helse og radikal antialdring

av Joel Greene

Denne boken tilbyr et nytt perspektiv på helse og immunitet, og trekker på prinsipper for epigenetikk og tilbyr innsikt og strategier for å optimalisere helse og aldring.

Klikk for mer info eller for å bestille

Den komplette guiden til faste: Helbred kroppen din gjennom periodisk, vekslende dag og forlenget faste

av Dr. Jason Fung og Jimmy Moore

Denne boken utforsker vitenskapen og praksisen med faste og tilbyr innsikt og strategier for å forbedre generell helse og velvære.

Klikk for mer info eller for å bestille