William Perugini/Shutterstock

Av de mange"store risikoer for samfunnet og menneskeheten” som har tekniske eksperter bekymret for kunstig intelligens (AI), er spredningen av falske bilder en som daglige internettbrukere vil være kjent med.

Deepfakes – videoer eller fotografier der noens ansikt eller kropp har blitt digitalt endret slik at de ser ut til å gjøre noe de ikke gjør – har allerede blitt brukt til å spre politisk desinformasjon og falsk pornografi.

Disse bildene er vanligvis skadelige og brukes til å diskreditere motivet. Når det kommer til dypfalsk pornografi, det store flertallet av ofrene er kvinner. Generativ AI – teknologi som brukes til å lage tekst, bilder og video – er allerede gjør bildebaserte seksuelle overgrep lettere å begå.

En ny sett med lover i Storbritannia, vil kriminalisere deling av dypfalsk pornografi. Men med oppmerksomheten på AI og deepfakes, kan vi ikke glemme hvordan mindre sofistikert teknologi kan brukes som et verktøy for misbruk, med ødeleggende konsekvenser for ofrene.

Teknikk og kontroll

Da jeg begynte min forskning på teknologi i voldelige relasjoner, var deepfakes bare et stikk i horisonten. Arbeidet mitt fokuserte på rollen til smarttelefoner i overgrep mot kvinner som hadde flyktet fra kontrollerende forhold. Jeg fant ut at gjerningsmennene til overgrep i hjemmet brukte teknologi for å utvide rekkevidden til makten og kontrollen over partnerne sine, et moderne syn på overgrepstaktikker som ble brukt lenge før smarttelefoner var i hver lomme.

Mobiltelefoner kan brukes direkte til å overvåke og kontrollere, ved hjelp av GPS-sporing eller ved å bombardere et offer med tekster, videoer og taleanrop. Én deltaker i min forskning i 2019 forklarte hvordan hennes voldelige partner brukte telefonen hans for å få tilgang til sosiale medier, og sendte henne støtende bilder via Instagram og vedvarende og støtende WhatsApp-meldinger.

Når hun var ute med vennene sine, ville han først sende sms, ringe og deretter videoringe henne hele tiden for å sjekke hvor hun var og se hvem hun var sammen med. Da deltakeren slo av telefonen, kontaktet hennes daværende partner vennene hennes, og bombarderte dem med tekstmeldinger og anrop.

Denne deltakeren følte seg for flau til å avtale møte med jevnaldrende, og sluttet derfor å gå ut. Andre i lignende situasjoner kan bli ekskludert fra sosiale planer hvis venner ønsker å unngå å bli kontaktet av vennens overgriper. Slik sosial isolasjon er en hyppig del av overgrep i hjemmet og en viktig indikator på kontrollerende forhold.

I følge veldedighetsorganisasjonen Refuge for vold i hjemmet, mer enn 72% av personer som bruker tjenestene deres rapporterer misbruk som involverer teknologi.

Mobiltelefoner er en inngangsport til andre dingser, via «tingenes internett» – enheter som er nettkoblet og i stand til å utveksle data. Disse verktøyene kan også bli bevæpnet av overgripere. For eksempel å bruke mobiltelefoner til endre temperaturinnstillinger på en husholdningstermostat, og skaper ekstremer fra en time til den neste.

Forvirret av dette, søker folk forklaringer fra partneren sin bare for å bli fortalt at dette må være en fantasi. Gassbelysningsteknikker som dette får ofre til å stille spørsmål ved sin egen fornuft, noe som undergraver deres tillit til deres egen dømmekraft.

Et moderne panoptikon

Med et klikk på en knapp tillater mobiltelefoner enestående overvåking av andre. I lommen til en gjerningsmann kan de brukes til å holde oversikt over nåværende og tidligere partnere når som helst, hvor som helst og – signalet tillater det – hvor som helst. Dette gir gjerningsmenn en allmakts kraft, slik at ofrene tror at de blir overvåket selv når de ikke er det.

Dette bringer tankene til arbeidet til 18-tallsfilosofen Jeremy Bentham, som introduserte konseptet "panoptikon". Bentham foreslo et "perfekt" fengselssystem, der et vakttårn sitter i sentrum, omgitt av individuelle celler.

Isolert fra hverandre ville fanger bare se tårnet - en konstant påminnelse om at de er permanent overvåket, selv om de ikke kan se vakten i det. Bentham mente en slik struktur ville resultere i fangenes selvovervåking inntil det til slutt ikke var behov for låser eller stenger.

Min siste forskning viser at mobiltelefoner har skapt lignende dynamikk innenfor voldelige forhold. Telefoner tar rollen som tårnet, og gjerningsmennene vaktene i det.

I dette moderne panoptikonet kan ofre være ute og gå, synlige for fremmede, venner og familie. Men på grunn av telefonens tilstedeværelse føler de at de fortsatt blir overvåket og kontrollert av sine voldelige partnere.

Som en deltaker sa det: «Du føler at det ikke er frihet selv når du er ute. Du føler at du er innelåst et sted, du har ikke frihet, noen kontrollerer deg.»

Etterlatte etter overgrep fortsetter å overvåke seg selv når gjerningsmennene ikke er der. De opptrer på måter de tror vil glede (eller i det minste ikke sinne) overgriperne deres.

Denne oppførselen blir ofte sett på av andre som merkelig, og for lett avvist som paranoia, angst eller mer alvorlige psykiske problemer. Fokuset blir på offerets oppførsel og ignorerer årsaken – voldelig eller kriminell oppførsel fra partneren deres.

Etter hvert som teknologien blir mer sofistikert, vil verktøyene og strategiene som er tilgjengelige for overgripere fortsette å utvikle seg. Dette vil utvide gjerningsmennenes rekkevidde og gi nye muligheter for overvåking, gassbelysning og overgrep.

Inntil teknologibedrifter vurderer erfaringene til overgrep i hjemmet og bygger sikkerhetsmekanismer inn i utformingen av produktene deres, vil misbruk fortsette å fortsette gjemt i synlig skue.

Tirion Havard, førsteamanuensis i sosialt arbeid, London South Bank University

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.