Ansiktsgjenkjenningsteknologi reiser alvorlige etiske spørsmål og personvern, selv om den hjelper etterforskere sør for grensen med å komme inn på opprørerne som stormet det amerikanske hovedstaden. (Pixabay)

Hvem eier ansiktet ditt? Selvfølgelig et dumt spørsmål ... ikke sant?

Men hva med dataene som genereres fra ansiktet ditt? Og hva betyr det å få ansiktet ditt til å bli data?

Allerede mange data om millioner og millioner av ansikter eksistere. Vi har frivillig ansiktene våre i innlegg på sosiale medier og bilder lagret i skyen. Men vi har ennå ikke bestemt hvem som eier dataene knyttet til ansiktenes konturer.

I Big Tech-tiden trenger vi å takle hvilke forventninger vi kan og bør ha til hvem som har tilgang til ansiktene våre. Det nylige opprøret ved det amerikanske Capitol har satt spørsmålet i søkelyset når ansiktsgjenkjenning blir en viktig verktøy i å identifisere opprørere: Hva er kraften i ansiktsgjenkjenningsteknologi, og er vi klare for det?

Allerede før opptøyene ble ansiktsgjenkjenningsteknologi brukt på mange måter som vi sannsynligvis ikke seriøst har vurdert, og mange av oss har frivillig bidratt til å lage data om ansiktene våre, enten eksplisitt eller implisitt. Ansiktsgjenkjenningsteknologi er for eksempel allestedsnærværende i offentlige rom.

Når vi tar avgjørelser om vi skal bruke ansiktsgjenkjenningsteknologi til rettshåndhevelse, overvåking og andre tiltak med tilsynelatende sosiale formål, må vi stoppe opp og spørre oss selv: Hva koster det å miste ansiktene våre for data? Det har alvorlige konsekvenser, inkludert rett til personvern og vår evne til å leve våre liv uten overvåking.

I henhold til rapporter og en video fra lokal ikke-statlig organisasjon laget SHARE Foundation i Beograd til støtte for deres initiativ #hiljadekamera (Tusenvis av kameraer), vil HD-kameraer bli distribuert i den serbiske byen for en rekke overvåkingsfunksjoner.

Det er utallige spørsmål om personvern og overvåking av ansiktsgjenkjenningsteknologi. Aksjestiftelsen.

{vembed Y = XlMldmOhYG8}

Direktøren for SHARE, Danilo Krivokapi?, sier at ansiktsgjenkjenningsteknologi i disse kameraene vil spore enkeltpersoners bevegelser mens de vandrer rundt i byen. Bilder som allerede finnes i systemet, matches med dataene som fanges opp av kameraene, og blir deretter analysert gjennom et medfølgende kunstig intelligenssystem. Dette skaper muligheten for å spore en persons bevegelser, via ansiktsgjenkjenningsteknologi, i sanntid mens de beveger seg gjennom Beograd.

Men dette skjer ikke bare i Beograd. Regjeringer og overvåking går hånd i hånd, og ansiktsgjenkjenningsteknologi gir myndighetene flere muligheter og måter å spore og begrense bevegelsen til mennesker innenfor sine grenser.

De byen London besluttet i fjor å distribuere kameraer som er i stand til ansiktsgjenkjenning ved siden av 627,727 CCTV kameraer. Flyttingen fører til protester.

 Folk demonstrerer foran et mobilt ansiktsgjenkjenningsanlegg i politiet utenfor et kjøpesenter i London i februar 2020. Flere titalls grupper og enkeltpersoner som arbeider for å beskytte personvern, menneskerettigheter og borgerrettigheter, vil ha et forbud mot overvåking av ansiktsgjenkjenning fra politi og etterretningsbyråer. . AP Photo / Kelvin Chan

Bedrifter bruker også FRT

Det er ikke bare regjeringer som vil ha ansiktet ditt.

I fjor, Cadillac Fairview, et av de største kommersielle eiendomsselskapene i Nord-Amerika, ble kalt ut av Kontoret for personvernkommissæren i Canada for å installere iøynefallende kameraer i kataloger på 12 av deres kjøpesentre i hele Canada, inkludert Torontos ikoniske Eaton Center.

Disse kameraene tok fem millioner bilder av kunder og brukte programvare for ansiktsgjenkjenning som genererte mer data om disse bildene, inkludert kjønn og alder. Selv om bildene ble slettet, ble dataene som ble generert fra bildene lagret på en server av en tredjepart.

 Litt ansiktsgjenkjenning med dine strømper? Feriekunder blir sett på Torontos Eaton Center i desember 2019. DEN KANADISKE PRESSEN / Cole Burston

Som svar på personvernkommisjonærens rapport, Nye demokratiske parlamentsmedlem Charlie Angus uttalte:

"Vi har rett til å kunne gå på offentlige steder uten å bli fotografert, sporet, satt i dataovervåkingsmaskiner, enten det er for selskaper eller for politi og myndigheter."

Dessverre tar Angus feil - det er ingen slik rett. Og siden Cadillac Fairview ikke lagret bildene, bare dataene om ansiktene på bildene, handlet problemet om samtykke, ikke krenker personvernrettighetene.

Hvilke rettigheter har vi når vi melder oss frivillig til datafikasjon? Journalist Rebecca Heilweil dokumenterer de mange måtene vi bringer ansiktsgjenkjenningsteknologi inn i livene våre. Mange av oss er kjent med Facebooks teknologier for merking av bilder som ikke bare merker ansiktet ditt, men andre mennesker på bildene dine. Denne teknologien er også til stede i Googles og Apples fotoapper.

Men denne typen ansiktsgjenkjenningsteknologi utvides til andre riker. For eksempel, Subaru bruker ansiktsgjenkjenningsteknologi for å oppdage distrahert kjøring. Apple tilbyr HomeKit funksjoner som kryssrefererer data samlet fra forskjellige enheter, og bruker ansiktsgjenkjenning for å fortelle deg om en venn som er gjenkjent fra bildene dine, er på døren.

Nest Hub Max fra Google benytter ansiktsgjenkjenningsteknologi for å bokstavelig talt se etter deg, slik at den alltid lytter etter ordene: "OK, Google." Hirevue bruker AI for å evaluere potensielle ansattes bilder for egnethet og sannsynlighet for suksess.

Grunnleggende del av hvem vi er

Det menneskelige ansiktet er en av de mest grunnleggende tingene Det veldig ung barn kjenner igjen og lære når hjernen deres ordner opp i verden.

 Ansikter er blant de første tingene babyer kjenner igjen. (Piqsels)

Det er en grunnleggende del av hvem vi er som art, og dens betydning er nesten for viktig til selv å artikulere. Er dataene knyttet til ansiktet - det vil si den digitale representasjonen av ansiktet ditt som samsvarer med ditt faktiske ansikt eller bilder av ansiktet ditt - en del av den grunnleggende delen av deg som du får beholde for deg selv? Eller er det en tåpelig forventning i vår datakrevende verden?

Noe som bringer oss tilbake til det amerikanske Capitol-opprøret. Det er en absolutt en følelse av rettferdighet til se ansiktsgjenkjenningsteknologi utplassert å bringe hvite overherredømme for retten. Men kl hva koster?

Vi vet om skjevheter i våre eksisterende data mot folk i farger, kvinner og av lavinntektsstatus. Vi kjenner politiet som bruker disse partiske dataene i navnet algoritmisk politiarbeid har resultert i trakassering av målrettede samfunn og de urettmessige arrestasjonene av svarte mennesker.

Innsatsen er høy, ikke bare for rettshåndhevelse, men for våre rettigheter til personvern som enkeltpersoner. Våre forventninger til datainnsamling og personvern er ikke i tråd med realiteten i datainnsamling og lagring, ansikts eller annet. Så det er viktig å vurdere rettighetene våre i sammenheng med menneskeheten vår.

Våre personlige data har blitt og blir samlet inn på en forbløffende hastighet hver dag. Det resulterer i en grunnleggende endring ikke bare i økonomiske og etiske termer, men i måten vi lever som mennesker. Vår forståelse av menneskerettigheter, og de tilsvarende lovene for å beskytte dem, må du starte på nytt for å redegjøre for hvordan datainnsamlingen er i endring.

Om forfatteren

Wendy H. Wong, professor i statsvitenskap, University of Toronto

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

bøker_sikkerhet