Hvordan forskere forbereder seg på den kommende bølgen av Deepfake Propaganda

Hvordan forskere forbereder seg på den kommende bølgen av Deepfake Propaganda
AI-drevne detektorer er de beste verktøyene for å oppdage AI-genererte falske videoer.
The Washington Post via Getty Images

En undersøkende journalist mottar en video fra en anonym varsleren. Det viser en kandidat til president som erkjenner ulovlig aktivitet. Men er denne videoen ekte? I så fall ville det være enorme nyheter - livets scoop - og kunne snu helt rundt det kommende valget. Men journalisten kjører videoen gjennom et spesialisert verktøy, som forteller henne at videoen ikke er som den ser ut. Det er faktisk en “deepfake, ”En video laget med kunstig intelligens med dyp læring.

Journalister over hele verden kan snart bruke et verktøy som dette. I løpet av få år kan et verktøy som dette til og med brukes av alle til å utrydde falskt innhold i deres sosiale medier.

As forskere som har studert detektering av dyptfalske og utvikle et verktøy for journalister, ser vi en fremtid for disse verktøyene. De løser imidlertid ikke alle problemene våre, og de vil bare være en del av arsenalet i den bredere kampen mot desinformasjon.

Problemet med deepfakes

De fleste vet at du ikke kan tro på alt du ser. I løpet av de siste tiårene har kyndige nyhetsforbrukere blitt vant til å se bilder manipulert med fotoredigeringsprogramvare. Videoer er imidlertid en annen historie. Hollywood-regissører kan bruke millioner av dollar på spesialeffekter for å utgjøre en realistisk scene. Men ved å bruke deepfakes, kunne amatører med noen få tusen dollar datautstyr og noen uker å tilbringe gjøre noe nesten like tro mot livet.

Deepfakes gjør det mulig å sette folk inn i filmscener de aldri var i - tror Tom Cruise spiller Iron Man - som gir underholdende videoer. Dessverre gjør det det også mulig å lage pornografi uten samtykke av folket avbildet. Så langt er disse menneskene, nesten alle kvinner, de største ofrene når deepfake-teknologi blir misbrukt.

Deepfakes kan også brukes til å lage videoer av politiske ledere som sier ting de aldri sa. Det belgiske sosialistpartiet ga ut en ikke-falsk, men fortsatt falsk video av lav kvalitet av President Trump fornærmer Belgia, som fikk nok av en reaksjon for å vise potensielle risikoer ved dypfakes av høyere kvalitet.


University of California, Berkeley's Hany Farid forklarer hvordan deepfakes blir laget.

Få det siste fra InnerSelf


Kanskje skummelst av alt, de kan brukes til å lage tvil om innholdet i ekte videoer, ved å antyde at de kan være dype forfalskninger.

Gitt disse risikoene, ville det være ekstremt verdifullt å kunne oppdage deepfakes og merke dem tydelig. Dette vil sikre at falske videoer ikke lurer publikum, og at ekte videoer kan mottas som autentiske.

Spotting av forfalskninger

Deepfake-deteksjon som forskningsfelt ble påbegynt litt over tre år siden. Tidlig arbeid fokuserte på å oppdage synlige problemer i videoene, for eksempel deepfakes som ikke blinket. Med tiden imidlertid forfalskninger har blitt bedre på å etterligne ekte videoer og bli vanskeligere å få øye på for både mennesker og gjenkjenningsverktøy.

Det er to hovedkategorier av deepfake-deteksjonsforskning. Den første innebærer ser på atferden til mennesker i videoene. Anta at du har mye video av noen berømte, som president Obama. Kunstig intelligens kan bruke denne videoen til å lære seg mønstrene hans, fra håndbevegelser til pauser i talen. Det kan da se på en dypfake av ham og legg merke til hvor det ikke samsvarer med disse mønstrene. Denne tilnærmingen har fordelen av å muligens fungere selv om selve videokvaliteten er perfekt.


SRI Internationals Aaron Lawson beskriver en tilnærming til å oppdage deepfakes.

Andre forskere, inkludert teamet vårt, har vært fokusert på forskjeller Det alle deepfakes har sammenlignet med ekte videoer. Deepfake-videoer opprettes ofte ved å slå sammen individuelt genererte rammer for å danne videoer. Når vi tar det i betraktning, trekker teamets metoder ut viktige data fra ansiktene i individuelle bilder av en video, og sporer dem deretter gjennom sett med samtidige bilder. Dette lar oss oppdage inkonsekvenser i informasjonsflyten fra en ramme til en annen. Vi bruker en lignende tilnærming også for vårt falske lyddeteksjonssystem.

Disse subtile detaljene er vanskelig for folk å se, men viser hvor deepfakes ikke er helt perfekt ennå. Detektorer som disse kan fungere for enhver person, ikke bare noen få verdensledere. Til slutt kan det være at begge typer dype falske detektorer vil være nødvendig.

Nyere deteksjonssystemer fungerer veldig bra på videoer som er spesielt samlet for evaluering av verktøyene. Dessverre gjør selv de beste modellene det dårlig på videoer funnet på nettet. Å forbedre disse verktøyene for å være mer robuste og nyttige er det viktigste trinnet.

Hvem skal bruke dype falske detektorer?

Ideelt sett bør et dybfalske verifiseringsverktøy være tilgjengelig for alle. Imidlertid er denne teknologien i de tidlige stadiene av utviklingen. Forskere må forbedre verktøyene og beskytte dem mot hackere før de slipper dem bredt.

Samtidig er imidlertid verktøyene for å lage deepfakes tilgjengelig for alle som ønsker å lure publikum. Å sitte på sidelinjen er ikke et alternativ. For teamet vårt var den rette balansen å jobbe med journalister, fordi de er den første forsvarslinjen mot spredning av feilinformasjon.

Før journalister publiserer historier, må journalister verifisere informasjonen. De har allerede prøvde og sanne metoder, som å sjekke med kilder og få mer enn én person til å verifisere viktige fakta. Så ved å legge verktøyet i hendene, gir vi dem mer informasjon, og vi vet at de ikke vil stole på teknologien alene, gitt at den kan gjøre feil.

Kan detektorene vinne våpenkappløpet?

Det er oppmuntrende å se lag fra Facebook og Microsoft investere i teknologi for å forstå og oppdage deepfakes. Dette feltet trenger mer forskning for å holde tritt med fremdriften innen deepfake-teknologi.

Journalister og sosiale medieplattformer må også finne ut hvordan man best kan advare folk om dype forfalskninger når de blir oppdaget. Forskning har vist det folk husker løgnen, men ikke det faktum at det var løgn. Vil det samme være tilfelle for falske videoer? Bare å sette "Deepfake" i tittelen er kanskje ikke nok til å motvirke noen slags desinformasjon.

Deepfakes er kommet for å bli. Å administrere desinformasjon og beskytte publikum vil være mer utfordrende enn noen gang ettersom kunstig intelligens blir kraftigere. Vi er en del av et voksende forskningsmiljø som tar på seg denne trusselen, der påvisning er bare det første trinnet.Den Conversation

Om forfatterne

John Sohrawardi, doktorgrad i databehandling og informasjonsvitenskap, Rochester Institute of Technology og Matthew Wright, professor i datasikkerhet, Rochester Institute of Technology

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les original Artikkel.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

følg InnerSelf på

facebook-ikonettwitter-iconrss-ikonet

Få den siste via e-post

{Emailcloak = off}

FRA REDAKTØRENE

InnerSelf Nyhetsbrev: Oktober 25, 2020
by InnerSelf Staff
"Slagordet" eller undertittelen for InnerSelf-nettstedet er "Nye holdninger --- nye muligheter", og det er akkurat temaet for ukens nyhetsbrev. Hensikten med våre artikler og forfattere er å ...
InnerSelf Nyhetsbrev: Oktober 18, 2020
by InnerSelf Staff
I disse dager lever vi i minibobler ... i våre egne hjem, på jobben og offentlig, og muligens i vårt eget sinn og med våre egne følelser. Imidlertid å leve i en boble, eller føle at vi er ...
InnerSelf Nyhetsbrev: Oktober 11, 2020
by InnerSelf Staff
Livet er en reise og, som de fleste reiser, kommer med sine opp- og nedturer. Og akkurat som dagen alltid følger natten, så går våre personlige daglige opplevelser fra mørkt til lys og frem og tilbake. Derimot,…
InnerSelf Nyhetsbrev: Oktober 4, 2020
by InnerSelf Staff
Uansett hva vi går gjennom, både individuelt og kollektivt, må vi huske at vi ikke er hjelpeløse ofre. Vi kan gjenvinne vår kraft til å hugge vår egen vei og å helbrede livene våre, åndelig ...
InnerSelf Nyhetsbrev: September 27, 2020
by InnerSelf Staff
En av menneskets store styrke er vår evne til å være fleksible, være kreative og tenke utenfor boksen. Å være noen annen enn vi var i går eller dagen før. Vi kan endre ... ...