Vet du hva som skjer når du deler dataene dine? mtkang / shutterstock.com

Hvert aspekt av livet kan styres av kunstig intelligensalgoritmer - fra å velge hvilken rute du skal ta for morgenen, for å bestemme hvem du skal ta på en dato, til komplekse juridiske og rettslige forhold som for eksempel prediktiv politikk.

Big tech selskaper som Google og Facebook bruker AI til å få innsikt i deres gigantiske trove av detaljerte kundedata. Dette gir dem mulighet til å tjene penger på brukernes kollektive preferanser ved hjelp av praksis som mikromålretting, en strategi som brukes av annonsører for å begrense målrettede spesifikke sett med brukere.

Parallelt stoler mange mennesker nå på plattformer og algoritmer mer enn sine egne regjeringer og samfunnssamfunn. En oktober 2018-studie foreslo at folk demonstrerer "algoritme takknemlighet, "I den utstrekning at de ville stole på råd mer når de tror det er fra en algoritme enn fra et menneske.

Tidligere har teknikeksperter vært bekymret for a "Digital divide" mellom de som kunne få tilgang til datamaskiner og Internett og de som ikke kunne. Husholdninger med mindre tilgang til digital teknologi har en ulempe i deres evne til å tjene penger og samle ferdigheter.

Men som digitale enheter sprer seg, er splittelsen ikke lenger bare om tilgang. Hvordan håndterer folk overbelastning av informasjon og overflod av algoritmiske beslutninger som gjennomsyrer alle aspekter av deres liv?

De savvierne brukerne navigerer vekk fra enheter og blir klar over hvordan algoritmer påvirker deres liv. I mellomtiden, forbrukere som har mindre informasjon, stole enda mer på algoritmer for å veilede sine beslutninger.

Skulle du holde kontakten - eller koble fra? Pryzmat / shutterstock.com

Den hemmelige sausen bak kunstig intelligens

Hovedårsaken til den nye digitale skillelinjen, etter min mening som en som studerer informasjonssystemer, er det så få mennesker forstår hvordan algoritmer fungerer. For et flertall brukere er algoritmer sett som en svart boks.

Al-algoritmer tar inn data, passer dem til en matematisk modell og legger ut en prediksjon, alt fra hvilke sanger du kan nyte til Hvor mange år skal noen bruke i fengsel. Disse modellene er utviklet og tweaked basert på tidligere data og suksessen til tidligere modeller. De fleste - selv noen ganger algoritmenes designere selv - vet egentlig ikke hva som går inne i modellen.

Forskere har lenge vært opptatt av om algoritmisk rettferdighet. For eksempel viste Amazonas AI-baserte rekrutteringsverktøy seg til avvise kvinnelige kandidater. Amazonas system ble selektivt ekstraherende implisitt kjønnsord - Ord som menn er mer sannsynlig å bruke i hverdags tale, som "utført" og "fanget".

Andre studier har vist at rettsalgoritmer er rasjonelt forspent, dømmer dårlige svarte tiltalte lenger enn andre.

Som en del av den nylig godkjente databeskyttelsesforordningen i EU har folk "Rett til forklaring" av kriteriene som algoritmer bruker i sine beslutninger. Denne lovgivningen behandler prosessen med algoritmisk beslutningstaking som en oppskriftsbok. Tanken er at hvis du forstår oppskriften, kan du forstå hvordan algoritmen påvirker livet ditt.

I mellomtiden har noen AI-forskere presset på algoritmer som er rettferdig, ansvarlig og gjennomsiktig, i tillegg til interpretable, noe som betyr at de skal komme til sine beslutninger gjennom prosesser som mennesker kan forstå og stole på.

Hvilken effekt vil gjennomsiktighet ha? I en studie, ble elevene gradert av en algoritme og tilbød ulike nivåer av forklaring om hvordan deres peers score ble justert for å komme til en endelig karakter. Studentene med mer gjennomsiktige forklaringer stole faktisk på algoritmen mindre. Dette foreslår igjen en digital splittelse: Algoritmisk bevissthet fører ikke til mer tillit til systemet.

Men gjennomsiktighet er ikke et paradis. Selv når en algoritmens samlede prosess er skissert, detaljene kan fortsatt være for komplekse for brukerne å forstå. Transparens vil bare hjelpe brukere som er sofistikerte nok til å forstå de vanskelige algoritmer.

For eksempel, i 2014, var Ben Bernanke, den tidligere stolen i Federal Reserve, i utgangspunktet nektet et boliglån refinansiere ved et automatisert system. De fleste individer som søker om et slikt boliglånsfinansiering, vil ikke forstå hvordan algoritmer kan bestemme deres kredittverdighet.

Hva sier algoritmen å gjøre i dag? Maria Savenko / shutterstock.com

Å velge ut det nye informasjonssøkosystemet

Mens algoritmer påvirker så mye av menneskers liv, er bare en liten del av deltakerne sofistikerte nok til å fullt ut engasjere seg i hvordan algoritmer påvirker livet deres.

Det er ikke mange statistikker om antall personer som er klar over algoritmen. Studier har funnet bevis på algoritmisk angst, noe som fører til en dyp strømbalanse mellom plattformer som distribuerer algoritmer og Brukerne som er avhengige av dem.

En studie av bruk av Facebook fant at da deltakerne ble gjort oppmerksom på Facebooks algoritme for å kurere nyhetsfeeder, endret 83% av deltakerne sin oppførsel for å prøve å utnytte algoritmen, mens 10% reduserte sin bruk av Facebook.

En november 2018 rapport fra Pew Research Center fant at et stort flertall av publikum hadde betydelige bekymringer om bruken av algoritmer for spesielle bruksområder. Det fant ut at 66% trodde det ikke ville være rettferdig for algoritmer å beregne personlige finanspoeng, mens 57% sa det samme om automatisert CV-screening.

En liten del av individer har litt kontroll over hvordan algoritmer bruker deres personlige data. For eksempel tillater Hu-Manity-plattformen brukere et alternativ for å kontrollere hvor mye dataene samles inn. Online encyclopedia Everipedia gir brukerne muligheten til å være en interessent i kurasjonsprosessen, noe som betyr at brukerne også kan kontrollere hvordan informasjonen aggregeres og presenteres for dem.

Et stort flertall av plattformer gir imidlertid ikke slik fleksibilitet til sluttbrukerne eller retten til å velge hvordan algoritmen bruker sine preferanser ved å kurere deres nyhetsfeed eller anbefale dem innhold. Hvis det er alternativer, kan brukerne kanskje ikke vite om dem. Om 74% av Facebooks brukere sa i en undersøkelse at de var Ikke klar over hvordan plattformen karakteriserer deres personlige interesser.

Etter min mening bruker ikke den nye digitalkunnskapen en datamaskin eller å være på internett, men forstår og evaluerer konsekvensene av en alltid innstilt livsstil.

Denne livsstilen har en meningsfylt innvirkning på hvordan folk samhandler med andre; på deres evne til å Vær oppmerksom på ny informasjon; og på kompleksiteten i deres beslutningsprosesser.

Økende algoritmisk angst kan også speiles av parallelle skift i økonomien. En liten gruppe personer er fange gevinsten fra automatisering, mens mange arbeidere er i en usikker posisjon.

Å velge ut fra algoritmisk kurasjon er en luksus - og kunne en dag være et symbol på velstand som bare er tilgjengelig for noen få. Spørsmålet er da hva målbare skader vil være for dem på feil side av den digitale delen.

Om forfatteren

Anjana Susarla, lektor i informasjonssystemer, Michigan State University

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

Relaterte bøker

at InnerSelf Market og Amazon