Å klone noens stemme er enklere enn noen gang. D-Keine/iStock via Getty Images

Du har nettopp kommet hjem etter en lang dag på jobb og skal til å sette deg ned til middag når telefonen plutselig begynner å surre. I den andre enden er en du er glad i, kanskje en forelder, et barn eller en barndomsvenn, som ber deg om å sende dem penger umiddelbart.

Du stiller dem spørsmål, prøver å forstå. Det er noe galt med svarene deres, som enten er vage eller ute av karakter, og noen ganger er det en merkelig forsinkelse, nesten som om de tenkte litt for sakte. Likevel er du sikker på at det definitivt er din kjære som snakker: Det er stemmen deres du hører, og oppringer-ID-en viser nummeret deres. Etter å ha fått det merkelige til panikken deres, sender du pliktoppfyllende pengene til bankkontoen de gir deg.

Dagen etter ringer du dem tilbake for å forsikre deg om at alt er i orden. Din kjære har ingen anelse om hva du snakker om. Det er fordi de aldri ringte deg – du har blitt lurt av teknologi: en dypt falsk stemme. Det var tusenvis av mennesker svindlet på denne måten i 2022.

Evnen til å klone en persons stemme er i økende grad innen rekkevidde for alle som har en datamaskin.

As datasikkerhet forskere, ser vi at pågående fremskritt innen dyplæringsalgoritmer, lydredigering og engineering, og syntetisk stemmegenerering har ført til at det i økende grad er mulig å simulere en persons stemme overbevisende.

Enda verre, chatbots som ChatGPT begynner å generere realistiske skript med adaptive sanntidssvar. Av kombinere disse teknologiene med stemmegenerering, går en deepfake fra å være et statisk opptak til en levende, naturtro avatar som på overbevisende måte kan føre en telefonsamtale.

Kloning av en stemme

Å lage en overbevisende høykvalitets deepfake, enten det er video eller lyd, er ikke den enkleste tingen å gjøre. Det krever et vell av kunstneriske og tekniske ferdigheter, kraftig maskinvare og et ganske heftig utvalg av målstemmen.

Det er et økende antall tjenester som tilbys produsere stemmekloner av moderat til høy kvalitet mot et gebyr, og noen stemmedeepfake-verktøy trenger en prøve av bare et minutt lang, eller bare noen få sekunder, for å produsere en stemmeklon som kan være overbevisende nok til å lure noen. Men for å overbevise en du er glad i – for eksempel å bruke i en etterligningssvindel – vil det sannsynligvis kreve et betydelig større utvalg.

Forskere har vært i stand til å klone stemmer med så lite som fem sekunders opptak.

Beskyttelse mot svindel og desinformasjon

Med alt det sagt, vi på DeFake-prosjektet ved Rochester Institute of Technology, University of Mississippi og Michigan State University, og andre forskere jobber hardt for å kunne oppdage bilde- og lyddeepfakes og begrense skaden de forårsaker. Det er også enkle og dagligdagse handlinger du kan ta for å beskytte deg selv.

For startere, stemme phishing, eller "vishing", svindel som den beskrevet ovenfor er de mest sannsynlige stemmedeepfakes du kan møte i hverdagen, både på jobb og hjemme. I 2019, an energiselskapet ble svindlet for USD 243,000 XNUMX da kriminelle simulerte stemmen til morselskapets sjef for å beordre en ansatt til å overføre penger til en leverandør. I 2022 var folk svindlet ut av anslagsvis 11 millioner dollar av simulerte stemmer, inkludert nære, personlige forbindelser.

Hva kan du gjøre?

Vær oppmerksom på uventede anrop, selv fra personer du kjenner godt. Dette er ikke å si at du trenger å planlegge hver samtale, men det hjelper i det minste å sende e-post eller tekstmelding fremover. Stol heller ikke på anrops-ID, siden som kan forfalskes også. Hvis du for eksempel mottar et anrop fra noen som hevder å representere banken din, legger du på og ringer banken direkte for å bekrefte anropets legitimitet. Sørg for å bruke nummeret du har skrevet ned, lagret i kontaktlisten eller som du finner på Google.

Vær i tillegg forsiktig med din personlige identifiserende informasjon, som personnummer, hjemmeadresse, fødselsdato, telefonnummer, mellomnavn og til og med navnene på barna og kjæledyrene dine. Svindlere kan bruke denne informasjonen til å etterligne deg overfor banker, eiendomsmeglere og andre, berike seg selv mens de slår deg konkurs eller ødelegge kreditten din.

Her er et annet råd: kjenn deg selv. Spesifikt, kjenn dine intellektuelle og emosjonelle skjevheter og sårbarheter. Dette er generelt gode livsråd, men det er nøkkelen til å beskytte deg selv mot å bli manipulert. Svindlere prøver vanligvis å tulle ut og deretter tære på dine økonomiske bekymringer, dine politiske tilknytninger eller andre tilbøyeligheter, uansett hva de måtte være.

Denne årvåkenheten er også et anstendig forsvar mot desinformasjon ved å bruke stemmedeepfakes. Deepfakes kan brukes til å dra nytte av din bekreftelse skjevhet, eller hva du er tilbøyelig til å tro om noen.

Hvis du hører en viktig person, enten fra lokalsamfunnet eller regjeringen, si noe som enten virker veldig ukarakteristisk for dem eller bekrefter dine verste mistanker om dem, vil du være klokt å være på vakt.

Om forfatterne

Matthew Wright, professor i datasikkerhet, Rochester Institute of Technology og Christopher Schwartz, postdoktor for datasikkerhet, Rochester Institute of Technology

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.