robot sitter ved en bærbar datamaskin med hendene på tastene
Bilde av Susan Cipriano 

Fra redaktøren:

Som fremhevet i denne artikkelen, kan utviklingen av AI-drevne politiske kampanjer, slik som den hypotetiske maskinen kalt Clogger, dypt undergrave integriteten til valg. Ved å utnytte automatisering, skreddersydd meldingstjenester og forsterkende læring, har disse maskinene potensialet til å manipulere og endre velgernes atferd i massiv skala.

I en tid hvor kunstig intelligens (AI) går raskt frem, må vi være på vakt mot de potensielle truslene den utgjør for våre demokratiske prosesser. Fremveksten av AI-drevne kampanjer utfordrer selve essensen av demokrati. I stedet for at valg bestemmes av kraften til ideer, politiske forslag og ekte velgervalg, kan de bli styrt av maskiner som kun fokuserer på seier. Innholdet som råder vil komme fra AI-språkmodeller uten hensyn til sannhet eller politiske prinsipper. I hovedsak vil valgresultatet være diktert av en kunstig intelligens, som eroderer den demokratiske prosessen.

For å forhindre fremveksten av et «klogokrati» og umyndiggjøring av innbyggere, er det avgjørende at vi tar grep. Forbedret personvern og sterke personvernlover kan bidra til å begrense tilgangen til AI-maskiner til personopplysninger, og redusere effektiviteten deres når det gjelder målretting og manipulering av enkeltpersoner. Valgkommisjoner bør også vurdere å forby eller strengt regulere AI-systemer designet for å påvirke velgerne. Implementere forskrifter som krever klare ansvarsfraskrivelser når AI-genererte meldinger brukes i politiske kampanjer. Dette kan gi åpenhet og hjelpe velgerne til å ta informerte beslutninger.

Det er avgjørende at vi tar opp disse utfordringene proaktivt og sikrer at kraften til AI utnyttes på en ansvarlig måte for å opprettholde prinsippene for demokrati. Ved å ivareta integriteten til valg og beskytte valgfriheten, kan vi navigere i kompleksiteten til AI og bevare grunnlaget for demokratisk styring.

Hvordan AI kunne ta over valg – og undergrave demokratiet

Written by Archon Fung, professor i statsborgerskap og selvstyre, Harvard Kennedy School og Lawrence Lessig, professor i jus og ledelse, Harvard University


innerself abonnere grafikk


Kan organisasjoner bruke kunstig intelligens språkmodeller som ChatGPT for å få velgere til å oppføre seg på bestemte måter?

Sen. Josh Hawley stilte OpenAI-sjef Sam Altman dette spørsmålet i en 16. mai 2023, høring i det amerikanske senatet om kunstig intelligens. Altman svarte at han virkelig var bekymret for at noen mennesker kan bruke språkmodeller for å manipulere, overtale og engasjere seg i en-til-en-interaksjoner med velgere.

Altman utdypet ikke, men han kan ha hatt noe slikt scenario i tankene. Tenk deg at politiske teknologer snart utvikler en maskin kalt Clogger – en politisk kampanje i en svart boks. Clogger forfølger nådeløst bare ett mål: å maksimere sjansene for at kandidaten – kampanjen som kjøper tjenestene til Clogger Inc. – vinner i et valg.

Mens plattformer som Facebook, Twitter og YouTube bruker former for AI for å få brukere til bruk mer tid på deres nettsteder ville Cloggers AI ha et annet mål: å endre folks stemmeatferd.

Hvordan Clogger ville fungere

Som en politiker og en juridisk stipendiat som studerer skjæringspunktet mellom teknologi og demokrati, tror vi at noe som Clogger kan bruke automatisering til å dramatisk øke omfanget og potensielt effektiviteten til atferdsmanipulasjon og mikromålrettingsteknikker som politiske kampanjer har brukt siden tidlig på 2000-tallet. Akkurat som annonsører bruker din nettleser- og sosiale mediehistorikk for å målrette individuelle kommersielle og politiske annonser nå, ville Clogger ta hensyn til deg – og hundrevis av millioner av andre velgere – individuelt.

Det vil gi tre fremskritt i forhold til den nåværende toppmoderne algoritmiske atferdsmanipulasjonen. For det første vil språkmodellen generere meldinger – tekster, sosiale medier og e-post, kanskje inkludert bilder og videoer – skreddersydd for deg personlig. Mens annonsører strategisk plasserer et relativt lite antall annonser, kan språkmodeller som ChatGPT generere utallige unike meldinger for deg personlig – og millioner for andre – i løpet av en kampanje.

For det andre ville Clogger bruke en teknikk kalt forsterkning læring å generere en rekke meldinger som øker sannsynligheten for å endre stemmen din. Forsterkende læring er en maskinlæring, prøv-og-feil-tilnærming der datamaskinen tar handlinger og får tilbakemelding om hva som fungerer best for å lære hvordan man oppnår et mål. Maskiner som kan spille Go, sjakk og mange videospill bedre enn noe menneske har brukt forsterkende læring.

Hvordan forsterkende læring fungerer.

 

For det tredje, i løpet av en kampanje, kan Cloggers meldinger utvikle seg for å ta hensyn til dine svar på maskinens tidligere utsendelser og hva den har lært om å endre andres mening. Clogger ville være i stand til å føre dynamiske "samtaler" med deg – og millioner av andre mennesker – over tid. Cloggers meldinger vil ligne annonser som følger deg på ulike nettsider og sosiale medier.

Arten av AI

Tre funksjoner til – eller feil – er verdt å merke seg.

For det første kan meldingene som Clogger sender ha eller ikke ha politisk innhold. Maskinens eneste mål er å maksimere stemmeandelen, og den vil sannsynligvis utarbeide strategier for å oppnå dette målet som ingen menneskelig forkjemper ville ha tenkt på.

En mulighet er å sende sannsynlige motstandervelgere informasjon om ikke-politiske lidenskaper som de har innen sport eller underholdning for å begrave de politiske meldingene de mottar. En annen mulighet er å sende skremmende meldinger – for eksempel inkontinensreklamer – tidsbestemt til å falle sammen med motstandernes meldinger. Og en annen er å manipulere velgernes vennegrupper på sosiale medier for å gi en følelse av at deres sosiale kretser støtter kandidaten.

For det andre har Clogger ingen hensyn til sannheten. Den har faktisk ingen måte å vite hva som er sant eller usant. Språkmodell "hallusinasjoner" er ikke et problem for denne maskinen fordi målet er å endre stemmen din, ikke å gi nøyaktig informasjon.

For det tredje fordi det er en sort boks type kunstig intelligens, ville folk ikke ha noen måte å vite hvilke strategier den bruker.

Feltet med forklarbar AI har som mål å åpne den svarte boksen til mange maskinlæringsmodeller slik at folk kan forstå hvordan de fungerer.

 

Klogokrati

Hvis den republikanske presidentkampanjen skulle utplassere Clogger i 2024, ville den demokratiske kampanjen sannsynligvis bli tvunget til å svare i natura, kanskje med en lignende maskin. Kall det Dogger. Hvis kampanjelederne trodde at disse maskinene var effektive, kan presidentkonkurransen godt komme ned til Clogger vs. Dogger, og vinneren ville være klienten til den mer effektive maskinen.

Statsvitere og forståsegpåere ville ha mye å si om hvorfor den ene eller den andre kunstig intelligensen seiret, men sannsynligvis ville ingen egentlig vite det. Presidenten vil ikke ha blitt valgt fordi hans eller hennes politiske forslag eller politiske ideer overtalte flere amerikanere, men fordi han eller hun hadde den mer effektive AI. Innholdet som vant dagen ville ha kommet fra en kunstig intelligens som kun var fokusert på seier, uten egne politiske ideer, snarere enn fra kandidater eller partier.

I denne svært viktige forstand ville en maskin ha vunnet valget i stedet for en person. Valget ville ikke lenger være demokratisk, selv om alle demokratiets ordinære aktiviteter – talene, annonsene, meldingene, stemmegivningen og opptellingen av stemmer – vil ha funnet sted.

Den AI-valgte presidenten kunne da gå en av to veier. Han eller hun kunne bruke valgets kappe til å føre republikansk eller demokratisk partipolitikk. Men fordi partiideene kan ha hatt lite å gjøre med hvorfor folk stemte som de gjorde – Clogger og Dogger bryr seg ikke om politiske synspunkter – vil ikke presidentens handlinger nødvendigvis gjenspeile velgernes vilje. Velgerne ville blitt manipulert av AI i stedet for å fritt velge sine politiske ledere og politikk.

En annen vei er for presidenten å følge meldingene, oppførselen og retningslinjene som maskinen spår vil maksimere sjansene for gjenvalg. På denne veien ville presidenten ikke ha noen spesiell plattform eller agenda utover å opprettholde makten. Presidentens handlinger, ledet av Clogger, vil være de som mest sannsynlig vil manipulere velgerne i stedet for å tjene deres genuine interesser eller til og med presidentens egen ideologi.

Unngå klogokrati

Det ville være mulig å unngå AI-valgmanipulasjon hvis kandidater, kampanjer og konsulenter alle forlot bruken av slik politisk AI. Det tror vi er usannsynlig. Hvis politisk effektive svarte bokser ble utviklet, ville fristelsen til å bruke dem være nesten uimotståelig. Faktisk kan politiske konsulenter godt se å bruke disse verktøyene som kreves av deres faglige ansvar for å hjelpe sine kandidater til å vinne. Og når én kandidat først bruker et så effektivt verktøy, kunne det neppe forventes at motstanderne skulle gjøre motstand ved å avvæpne ensidig.

Forbedret personvern ville hjelpe. Clogger vil være avhengig av tilgang til enorme mengder personopplysninger for å målrette mot enkeltpersoner, lage meldinger skreddersydd for å overtale eller manipulere dem, og spore og målrette dem på nytt i løpet av en kampanje. Hver bit av den informasjonen som selskaper eller beslutningstakere benekter maskinen, ville gjøre den mindre effektiv.

Sterke lover om personvern kan bidra til å styre AI unna å være manipulerende.

 

En annen løsning ligger hos valgkommisjoner. De kan prøve å forby eller strengt regulere disse maskinene. Det er en hard debatt om hvorvidt slike "repliserende" tale, selv om det er politisk i sin natur, kan reguleres. USAs ekstreme ytringsfrihetstradisjon får mange ledende akademikere til å si at det ikke kan det.

Men det er ingen grunn til automatisk å utvide beskyttelsen til det første tillegget til produktene til disse maskinene. Nasjonen kan godt velge å gi maskiner rettigheter, men det burde være en beslutning basert på dagens utfordringer, ikke den feilplasserte antagelsen at James Madisons synspunkter i 1789 var ment å gjelde for AI.

EU-regulatorer beveger seg i denne retningen. Politikere reviderte Europaparlamentets utkast til sin lov om kunstig intelligens for å utpeke "AI-systemer for å påvirke velgere i kampanjer" som "høy risiko" og underlagt regulatorisk gransking.

Ett konstitusjonelt sikrere, om mindre, trinn, allerede vedtatt delvis av Europeiske internettregulatorer og i California, er å forby roboter fra å utgi seg for å være mennesker. For eksempel kan regulering kreve at kampanjemeldinger kommer med ansvarsfraskrivelser når innholdet de inneholder er generert av maskiner i stedet for mennesker.

Dette vil være som reklameansvarsfraskrivelsen – «Betalt av Sam Jones for Congress Committee» – men modifisert for å gjenspeile AI-opprinnelsen: «Denne AI-genererte annonsen ble betalt av Sam Jones for Congress Committee.» En sterkere versjon kan kreve: "Denne AI-genererte meldingen sendes til deg av Sam Jones for Congress Committee fordi Clogger har spådd at å gjøre det vil øke sjansene dine for å stemme på Sam Jones med 0.0002 %." Vi mener i det minste at velgerne fortjener å vite når det er en robot som snakker til dem, og de bør også vite hvorfor.

Muligheten for et system som Clogger viser at veien mot menneskelig kollektiv deaktivering trenger kanskje ikke noe overmenneske kunstig generell intelligens. Det kan bare kreve overivrige kampanjer og konsulenter som har kraftige nye verktøy som effektivt kan trykke på millioner av menneskers mange knapper.

Om forfatterne

Archon Fung, professor i statsborgerskap og selvstyre, Harvard Kennedy School og Lawrence Lessig, professor i jus og ledelse, Harvard University

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.


Redaktørens tillegg: Potensialet til AI til å ta over valg og undergrave demokratiet er en presserende bekymring som krever vår oppmerksomhet. Som denne artikkelen har fremhevet, kan fremveksten av AI-drevne politiske kampanjer som Clogger omforme valgresultatene, med maskiner som påvirker velgeradferd i en enestående skala. Konsekvensene av et slikt skifte ville være vidtrekkende, med valg bestemt ikke av folkets vilje, men av effektiviteten til AI-manipulasjon.

For å forhindre denne umyndiggjøringen av innbyggerne og ivareta demokratiet, må vi ta proaktive tiltak. Robust personvern og reguleringer som begrenser AI-systemers innflytelse i valg er avgjørende. Ved å sikre åpenhet, håndheve klare ansvarsfraskrivelser for AI-generert innhold og fremme ansvarlig bruk av AI, kan vi opprettholde integriteten til demokratiske prosesser og beskytte de grunnleggende verdiene i samfunnet vårt.

Det er viktig at vi forblir årvåkne og jobber kollektivt for å navigere i utfordringene AI utgjør ved valg. Ved å gjøre det kan vi bevare de demokratiske idealene som ligger til grunn for våre samfunn og sikre en fremtid der teknologiens kraft stemmer overens med folkets interesser og ambisjoner.

bryte

Relaterte bøker:

On Tyranni: Twenty Lessons from the Twentieth Century

av Timothy Snyder

Denne boken tilbyr lærdom fra historien for å bevare og forsvare demokrati, inkludert viktigheten av institusjoner, rollen til individuelle borgere og farene ved autoritarisme.

Klikk for mer info eller for å bestille

Vår tid er nå: makt, formål og kampen for et rettferdig Amerika

av Stacey Abrams

Forfatteren, en politiker og aktivist, deler sin visjon for et mer inkluderende og rettferdig demokrati og tilbyr praktiske strategier for politisk engasjement og velgermobilisering.

Klikk for mer info eller for å bestille

Hvordan demokratier dør

av Steven Levitsky og Daniel Ziblatt

Denne boken undersøker varseltegnene og årsakene til demokratisk sammenbrudd, og trekker på casestudier fra hele verden for å gi innsikt i hvordan man kan ivareta demokratiet.

Klikk for mer info eller for å bestille

The People, No: A Brief History of Anti-Populism

av Thomas Frank

Forfatteren gir en historie om populistiske bevegelser i USA og kritiserer den "antipopulistiske" ideologien som han hevder har kvalt demokratisk reform og fremgang.

Klikk for mer info eller for å bestille

Demokrati i én bok eller mindre: Hvordan det fungerer, hvorfor det ikke gjør det, og hvorfor det er enklere enn du tror å fikse det

av David Litt

Denne boken gir en oversikt over demokratiet, inkludert dets styrker og svakheter, og foreslår reformer for å gjøre systemet mer responsivt og ansvarlig.

Klikk for mer info eller for å bestille