Den flyktige blandingen av deepfakes og politiske kampanjer er en god grunn til å være på vakt. Sean Anthony Eddy Creative/E+ via Getty Images
Tenk deg en oktober overraskelse som ingen andre: Bare en uke før 5. november 2024 avslører et videoopptak et hemmelig møte mellom Joe Biden og Volodymyr Zelenskyy. De amerikanske og ukrainske presidentene er enige om å umiddelbart innlede Ukraina i NATO under «den spesielle nødmedlemskapsprotokollen» og forberede seg på et atomvåpenangrep mot Russland. Plutselig er verden på kanten av Harmageddon.
Mens journalister kunne påpeke det ingen slik protokoll eksisterer og brukere av sosiale medier kan legge merke til merkelige videospilllignende kvaliteter ved videoen, andre kan føle det deres verste frykt har blitt bekreftet. Når valgdagen kommer, kan disse bekymrede innbyggerne la videoen svinge stemmene deres, uvitende om at de nettopp har blitt manipulert av en situasjon dyptfalsket – en hendelse som faktisk aldri skjedde.
Situasjonsdeepfakes representerer neste trinn av teknologier som har allerede rystet publikums oppfatning av virkeligheten. I vår forskning ved DeFake-prosjektet, mine kolleger på Rochester Institute of Technologyden University of Mississippi, Michigan State University og jeg studere hvordan deepfakes lages og hvilke tiltak velgerne kan ta for å forsvare seg mot dem.
Tenk på hendelser som aldri skjedde
En deepfake skapes når noen bruker et kunstig intelligensverktøy, spesielt dyp læring, for å manipulere eller generere en ansikten stemme eller – med fremveksten av store språkmodeller i likhet med ChatGPT - samtalespråk. Disse kan kombineres for å danne "situasjonsdeepfakes".
Den grunnleggende ideen og teknologien til en situasjonsdeepfake er den samme som med alle andre deepfake, men med en dristigere ambisjon: å manipulere en virkelig hendelse eller finne opp en fra løse luften. Eksempler inkluderer skildringer av Donald Trumps perp walk og Trump klemmer Anthony Fauci, ingen av disse skjedde. Klemskuddet ble promotert av en Twitter konto knyttet til presidentkampanjen av Trump-rival Ron DeSantis. An angrepsannonse rettet mot Joe Bidens 2024-kampanje publisert av den republikanske nasjonalkomiteen var laget utelukkende med AI.
På DeFake-prosjektet, Vår forskning har funnet at deepfakes, inkludert situasjoner, vanligvis skapes av en blanding av legge til ett stykke medie med et annet; ved hjelp av en video for å animere et bilde eller endre en annen video, kalt dukkespill; trylle et stykke media til eksistens, vanligvis ved hjelp av generativ AI; eller en kombinasjon av disse teknikkene.
For å være tydelig, er mange situasjonsdeepfakes laget for uskyldige formål. For eksempel, Infinite Odyssey Magazine produserer falske stillbilder fra filmer som ble aldri produsert or kunne aldri ha eksistert. Men selv uskyldige dype forfalskninger gir grunn til pause, som i tilfellet med nesten troverdige falske fotografier som viser Apollo Moon landing som en filmproduksjon.
Deepfaking et valg
Sett deg nå i posisjonen til noen som prøver å påvirke det kommende valget. Hva er de mulige situasjonene du kanskje vil skape?
For det første vil det ha betydning om du ønsker å vippe stemmegivningen mot eller bort fra et bestemt resultat. Kanskje du ville fremstilt en kandidat som opptrer heroisk ved å trekke en fotgjenger ut av veien for en fartsfylt bil eller omvendt gjøre noe støtende eller kriminelt. Formatet på situasjonen deepfake ville også ha betydning. I stedet for en video kan det være et fotografi, kanskje med uskarphet og vinkler som simulerer et smarttelefonkamera eller den forfalskede logoen til et nyhetsbyrå.
Målgruppen din vil være nøkkelen. I stedet for å sikte på den generelle velgermassen eller et partis base, kan du sikte mot konspirasjonsteoretikere i viktige stemmedistrikter. Du kan fremstille kandidaten eller deres familiemedlemmer som engasjerte i en satanisk ritual, deltar på en festival på eksklusivt og kontroversielt Bohemian Grove, eller å ha en hemmelig møte med en utenomjordisk.
Hvis du har ambisjoner og evner til det, kan du til og med prøve å deepfake selve valget. I juni 2023 ble Russlands TV- og radiostasjoner hacket og kringkaste en full mobiliseringsordre av en dypfalsk av Russlands president Vladimir Putin. Selv om dette ville være vanskeligere å gjøre i et amerikansk valg, kan i prinsippet ethvert nyhetsutsalg bli hacket for å kringkaste dype forfalskninger av deres ankere som kunngjør feil resultater eller en kandidat som innrømmer.
Forsvarer virkeligheten
Det finnes en rekke teknologiske og psykologiske måter å oppdage og forsvare seg mot situasjonsdeepfakes.
På den teknologiske fronten inneholder alle deepfakes noen bevis på deres sanne natur. Noen av disse fortellingene kan sees av det menneskelige øyet – som for glatt hud eller merkelig belysning eller arkitektur – mens andre kan være kan bare oppdages av en dypfalsk-jaktende AI.
Vi bygger DeFakesin detektor for å bruke kunstig intelligens for å fange opp de avslørende tegnene på deepfakes, og vi jobber med å prøve å ha den klar i tide til valget i 2024. Men selv om en tilstrekkelig kraftig deepfake-detektor som vår ikke kan brukes innen valgdagen, finnes det psykologiske verktøy som du, velgeren, kan bruke for å identifisere deepfakes: bakgrunnskunnskap, nysgjerrighet og sunn skepsis.
Hvis du møter medieinnhold om en person, et sted eller en hendelse som virker ukarakteristisk, stol på bakgrunnskunnskapen din. For eksempel i en nylig svindel av en brann i Pentagon, bygningen som vises ser mer firkantet ut enn femkantet, noe som kan være en giveaway.
Prøv imidlertid å ikke stole helt på bakgrunnskunnskapen din, som kan være feilaktig eller usammenhengende. Vær aldri redd for å lære mer fra pålitelige kilder, som faktasjekkede nyhetsrapporter, fagfellevurderte akademiske artikler eller intervjuer med godkjente eksperter.
Vær i tillegg oppmerksom på at deepfakes kan brukes til å dra nytte av det du er tilbøyelig til å tro om en person, et sted eller en hendelse. En av de beste måtene å håndtere dette på er å ganske enkelt være klar over dine skjevheter og vær litt på vakt mot alt medieinnhold som ser ut til å bekrefte dem.
Selv om det blir mulig å skape perfekte situasjonsdeepfakes, vil hvor troverdig emnet deres er, sannsynligvis forbli deres akilleshæl. Så, med eller uten en teknologisk løsning, har du fortsatt makten til å forsvare valget mot påvirkning fra falske hendelser.
Om forfatteren
Christopher Schwartz, postdoktor for datasikkerhet, Rochester Institute of Technology
Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.
Relaterte bøker:
On Tyranni: Twenty Lessons from the Twentieth Century
av Timothy Snyder
Denne boken tilbyr lærdom fra historien for å bevare og forsvare demokrati, inkludert viktigheten av institusjoner, rollen til individuelle borgere og farene ved autoritarisme.
Klikk for mer info eller for å bestille
Vår tid er nå: makt, formål og kampen for et rettferdig Amerika
av Stacey Abrams
Forfatteren, en politiker og aktivist, deler sin visjon for et mer inkluderende og rettferdig demokrati og tilbyr praktiske strategier for politisk engasjement og velgermobilisering.
Klikk for mer info eller for å bestille
Hvordan demokratier dør
av Steven Levitsky og Daniel Ziblatt
Denne boken undersøker varseltegnene og årsakene til demokratisk sammenbrudd, og trekker på casestudier fra hele verden for å gi innsikt i hvordan man kan ivareta demokratiet.
Klikk for mer info eller for å bestille
The People, No: A Brief History of Anti-Populism
av Thomas Frank
Forfatteren gir en historie om populistiske bevegelser i USA og kritiserer den "antipopulistiske" ideologien som han hevder har kvalt demokratisk reform og fremgang.
Klikk for mer info eller for å bestille
Demokrati i én bok eller mindre: Hvordan det fungerer, hvorfor det ikke gjør det, og hvorfor det er enklere enn du tror å fikse det
av David Litt
Denne boken gir en oversikt over demokratiet, inkludert dets styrker og svakheter, og foreslår reformer for å gjøre systemet mer responsivt og ansvarlig.
