Mustafa elsker god kaffe. På fritiden surfer han ofte på high-end kaffemaskiner som han foreløpig ikke har råd til, men sparer for. En dag, når han reiser til en venns bryllup i utlandet, får han sitte ved siden av en annen venn på flyet. Når Mustafa klager over hvor mye han betalte for billetten sin, viser det seg at kameraten betalte under halvparten av det han betalte, selv om de booket omtrent samtidig.
Han ser på mulige årsaker til dette og konkluderer med at det må ha sammenheng med surfingen hans på dyre kaffemaskiner og utstyr. Han er veldig sint på dette og klager til flyselskapet, som sender ham en lunken unnskyldning som viser til personlige prismodeller. Mustafa føler at dette er urettferdig, men utfordrer det ikke. Å forfølge det videre ville koste ham tid og penger.
Denne historien - som er hypotetisk, men kan og forekommer - demonstrerer potensialet for mennesker til å bli skadet av databruk i den nåværende "big data" -tiden. Big data analytics innebærer å bruke store mengder data fra mange kilder som er koblet og analysert for å finne mønstre som hjelper til med å forutsi menneskelig atferd. En slik analyse, selv når den er fullstendig lovlig, kan skade mennesker.
Mustafa har for eksempel sannsynligvis blitt påvirket av personlige prissettingsmetoder der hans søk etter avanserte kaffemaskiner har blitt brukt for å gjøre visse antagelser om hans betalingsvillighet eller kjøpekraft. Dette kan igjen ha ført til hans billigere flybillett. Selv om dette ikke har resultert i alvorlig skade i Mustafas tilfelle, er tilfeller av alvorlig emosjonell og økonomisk skade dessverre ikke sjelden, inkludert nektelse av pantelån for enkeltpersoner og risikoer for en persons generelle kredittverdighet basert på assosiasjoner til andre individer. Dette kan skje hvis en person deler noen lignende egenskaper som andre personer som har dårlig tilbakebetaling historie.
En annonse fra Ben og Jerry sa navnet mitt fordi jeg automatisk blir registrert for personlig reklame. Jeg hater teknologi
- iuris (@conjectures) August 13, 2018
Forekomster av emosjonell skade kan også oppstå. Se for deg et par som finner ut at de forventer et veldig ønsket barn, men får en spontanabort etter fem måneder. Paret kan synes at de fortsetter å motta annonser fra butikker som spesialiserer seg på spedbarnsprodukter måneder senere, og feirer som burde ha vært viktige "milepæler" og skapt nød. Dette er en annen hypotetisk, men helt mulig scenario.
Loven - eller mangel på den
I mange av disse tilfellene, fordi skadelig praksis kanskje ikke har brutt noen lover, har de som ble skadet av databruk begrensede eller ingen juridiske alternativer for dem. Det som skjedde med Mustafa, for eksempel, var helt lovlig, ettersom det ikke er gjeldende lover som forbyr personlig prissetting som sådan. Våre nåværende rettssystemer beskytter ikke tilstrekkelig mennesker mot skadene som følger av big data.
Dette fordi det er veldig vanskelig å spore hvordan dataene våre er koblet og brukt. Selv om flyselskapet hadde gjort noe ulovlig, for eksempel brutte lover om databeskyttelse, ville det være nær umulig for Mustafa å finne ut av det. Personer som føler at de har blitt skadet av databruk, kan slite med å vise hvordan dataene deres er brukt for å forårsake denne skaden, hvilke data det var snakk om eller hvilken datakontroller som brukte dem. Og slik at de kanskje mangler beviset de trenger for å få et rettsmiddel.
Videre, selv om de viser hvordan noe noen gjorde med dataene deres skadet dem, den spesielle bruken av Kundeinformasjon, for å justere prisingen for eksempel, kan ikke være ulovlig.
Tilsvarende kan skaden ikke være forårsaket av egne data, men av bruk av andre menneskers data (tredjepartsdata). For eksempel kan det i Mustafa tilfelle være at andre personer som også var interessert i dyre kaffemaskiner hadde veldig høye inntekter, eller kjøpte dyre varer. Dette kan ha blitt brukt til å antyde at Mustafa også falt i denne kategorien, noe som kan ha resultert i høyere priser for ham for andre produkter. En person som blir skadet ved bruk av tredjepartsdata vil ofte ikke ha rettsmidler i henhold til gjeldende lov om databeskyttelse.
Bedrifter kan anta ting om deg fra nettleservanene dine. Crew / Unsplash, FAL
Et nytt system
For å hjelpe med å løse slike problemer, vi krangler at vi må akseptere at noen risikoer ved databruk ikke kan forhindres. I stedet for å fokusere utelukkende på å prøve å minimere eller unngå slike risikoer, må vi også finne måter å bedre støtte mennesker som lider skader som følge av databruk, for eksempel ved aktivt å overvåke og svare på skader forårsaket av databruk, inkludert lovlig bruk av data.
Vi tror at som en del av dette systemet bør det opprettes en ny type institusjon. Vi kaller dem skadevirkningsorganer. Disse ville bli satt opp på nasjonalt nivå, og folk som følte at de ble skadet av databruk, men ikke kvalifiserte for rettsmidler, kunne henvende seg til dem for å rapportere skaden de tror oppsto ved bruk av data. I motsetning til tradisjonelle rettsmidler, kan skadevirkningsorganer gi støtte selv i tilfeller der ingen lover ble brutt. De ville være enkle for folk å bruke og fleksible, slik at de kan støtte mennesker der og hvordan de mest trenger det, gi enkeltpersoner mer makt og styrke det kollektive ansvaret for databruk.
Disse foreslåtte organene vil samle informasjon om hvilke typer skader som oppstår: for øyeblikket er det ingen nasjonale eller internasjonale organer som samler inn informasjon om data skader systematisk. De vil også gi tilbakemelding på informasjon til beslutningstakere og databrukere for å forbedre hvordan ting gjøres. Og i tilfeller hvor mennesker lider økonomisk skade, men ikke har tilgang til juridisk hjelp, kan de også tilby økonomisk støtte.
Big data analytics er med rette lovsatt for de mange nye mulighetene det gir. Men det vil være uunngåelig at noen mennesker blir skadet. Som samfunn må vi møte denne sannheten og gi bedre hjelp til de som lider skade, slik at ingen som bærer kostnadene for denne nye praksis, blir i fred.
Om forfatterne
Aisling McMahon, adjunkt i jus, National University of Ireland Maynooth; Alena Buyx, professor i etikk, Teknisk Universitet i München, og Barbara Prainsack, professor i sammenlignende politikkanalyse, Universitetet i Wien
Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.
