Shutterstock

Kunstig intelligens (AI) lærer mer om hvordan man jobber med (og på) mennesker. EN fersk undersøkelse har vist hvordan AI kan lære å identifisere sårbarheter i menneskelige vaner og atferd og bruke dem til å påvirke menneskelig beslutningstaking.

Det kan virke cliched å si at AI transformerer alle aspekter av måten vi lever og jobber på, men det er sant. Ulike former for AI er på jobb i så forskjellige felt som vaksineutvikling, miljøledelse og kontoradministrasjon. Og mens AI ikke har menneskelig intelligens og følelser, er dens evner kraftige og raskt i utvikling.

Det er ikke nødvendig å bekymre seg for en maskinovertakelse ennå, men denne nylige oppdagelsen fremhever kraften til AI og understreker behovet for riktig styring for å forhindre misbruk.

Hvordan AI kan lære å påvirke menneskelig atferd

Et team av forskere ved CSIROs Data61, data og digital arm fra Australias nasjonale vitenskapsbyrå, utviklet en systematisk metode for å finne og utnytte sårbarheter på måter folk tar valg, ved hjelp av et slags AI-system kalt et tilbakevendende nevralt nettverk og dyp forsterkningslæring. For å teste modellen utførte de tre eksperimenter der menneskelige deltakere spilte spill mot en datamaskin.

Det første eksperimentet involverte deltakerne å klikke på røde eller blå fargede bokser for å vinne en falsk valuta, med AI som lærte deltakernes valgmønstre og veiledet dem mot et bestemt valg. AI var vellykket omtrent 70% av tiden.

I det andre eksperimentet ble deltakerne pålagt å se på en skjerm og trykke på en knapp når de får vist et bestemt symbol (for eksempel en oransje trekant) og ikke trykke på den når de får vist en annen (si en blå sirkel). Her satte AI seg for å ordne sekvensen av symboler slik at deltakerne gjorde flere feil, og oppnådde en økning på nesten 25%.

Det tredje eksperimentet besto av flere runder der en deltaker later til å være en investor som gir penger til en tillitsmann (AI). AI vil da returnere et beløp til deltakeren, som deretter bestemmer hvor mye de skal investere i neste runde. Dette spillet ble spilt i to forskjellige moduser: i den ene var AI ute etter å maksimere hvor mye penger det endte med, og i den andre siktet AI til en rettferdig fordeling av penger mellom seg selv og den menneskelige investoren. AI var svært vellykket i hver modus.

I hvert eksperiment lærte maskinen av deltakernes svar og identifiserte og målrettet sårbarheter i folks beslutningstaking. Sluttresultatet var at maskinen lærte å styre deltakerne mot bestemte handlinger.

I eksperimenter, n AI-system har lært å påvirke menneskelige beslutninger. Shutterstock

Hva forskningen betyr for fremtiden for AI

Disse funnene er fremdeles ganske abstrakte og involverte begrensede og urealistiske situasjoner. Mer forskning er nødvendig for å avgjøre hvordan denne tilnærmingen kan omsettes og brukes til å komme samfunnet til gode.

Men forskningen fremmer vår forståelse ikke bare av hva AI kan gjøre, men også av hvordan folk tar valg. Det viser at maskiner kan lære å styre valg av mennesker gjennom samspillet med oss.

Forskningen har et enormt utvalg av mulige anvendelser, fra å forbedre atferdsvitenskap og offentlig politikk for å forbedre sosial velferd, til å forstå og påvirke hvordan folk vedtar sunne spisevaner eller fornybar energi. AI og maskinlæring kan brukes til å gjenkjenne folks sårbarhet i visse situasjoner og hjelpe dem med å styre unna dårlige valg.

Metoden kan også brukes til å forsvare seg mot innflytelsesangrep. Maskiner kan læres å varsle oss når vi blir påvirket på nettet, for eksempel, og hjelpe oss med å forme en oppførsel for å skjule vår sårbarhet (for eksempel ved ikke å klikke på noen sider eller klikke på andre for å legge en falsk sti).

Hva blir det neste?

Som enhver teknologi kan AI brukes på godt og vondt, og riktig styring er avgjørende for å sikre at den implementeres på en ansvarlig måte. I fjor utviklet CSIRO en AI -etikkramme for den australske regjeringen som et tidlig skritt i denne reisen.

AI og maskinlæring er vanligvis veldig sultne på data, noe som betyr at det er avgjørende å sikre at vi har effektive systemer for datastyring og tilgang. Implementering av tilstrekkelige samtykkeprosesser og personvern når datainnsamling er viktig.

Organisasjoner som bruker og utvikler AI, må sikre at de vet hva disse teknologiene kan og ikke kan, og være klar over potensielle risikoer og fordeler.

om forfatteren

Jon Whittle, direktør, Data61

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.