Hvorfor teknologien setter menneskerettigheter i fare

Hvorfor teknologien setter menneskerettigheter i fare
Spainter_vfx / Shutterstock.com

Filmer som 2001: A Space Odyssey, Blade Runner og Terminator brakte rogue roboter og datasystemer til våre kino skjermer. Men i dag ser slike klassiske science fiction-briller ikke så langt bort fra virkeligheten.

I økende grad lever vi, arbeider og leker med beregningsmessige teknologier som er autonome og intelligente. Disse systemene inkluderer programvare og maskinvare med kapasitet til uavhengig begrunnelse og beslutningstaking. De jobber for oss på fabrikkens gulv; de bestemmer om vi kan få et boliglån; de sporer og måler vår aktivitet og fitness nivåer; de rengjør vår stue gulv og kutte våre plener.

Autonome og intelligente systemer har potensial til å påvirke nesten alle aspekter av våre sosiale, økonomiske, politiske og private liv, inkludert dagligdagse aspekter. Mye av dette virker uskyldig, men det er grunn til bekymring. Beregningsteknologier påvirker enhver menneskerettighet, fra retten til liv til rett til privatliv, ytringsfrihet til sosiale og økonomiske rettigheter. Så hvordan kan vi forsvare menneskerettighetene i et teknologisk landskap som i økende grad er formet av robotteknologi og kunstig intelligens (AI)?

AI og menneskerettigheter

For det første er det en reell frykt for at økt maskinautonomi vil undergrave menneskers status. Denne frykten er sammensatt av mangel på klarhet over hvem som skal holdes til konto, enten i juridisk eller moralsk forstand, når intelligente maskiner gjør skade. Men jeg er ikke sikker på at fokuset på vårt engasjement for menneskerettigheter virkelig bør ligge med rogue roboter, som det ser ut til i dag. Vi bør heller ikke bekymre oss for den menneskelige bruken av roboter og kunstig intelligens og deres distribusjon i urettferdig og ulik politisk, militær, økonomisk og sosial sammenheng.

Denne bekymringen er spesielt relevant med hensyn til dødelige autonome våpensystemer (LAWS), ofte beskrevet som killerroboter. Som vi bevege seg mot et AI-våpenløpmenneskerettighetsforskere og kampanjer som Christof Heyns, den tidligere FNs spesialrapportør om utenretslige, sammendrag eller vilkårlig henrettelse, frykter at bruken av LAWS vil sette autonome robotic systemer ansvarlig for liv og dødsavgjørelser, med begrenset eller ingen menneskelig kontroll.

AI revolusjonerer også koblingen mellom krigføring og overvåkingspraksis. Grupper som Internasjonal komité for våpenstyring (ICRAC) nylig uttrykt sin motstand mot Googles deltakelse i Prosjekt Maven, et militært program som bruker maskinlæring til å analysere droneovervåkningsopptak, som kan brukes til utenretslige drap. ICRAC appell til Google for å sikre at dataene det samler inn på brukerne, aldri blir brukt til militære formål, i forbindelse med protester fra Google-ansatte om selskapets involvering i prosjektet. Google annonserte nylig det vil ikke fornyes sin kontrakt.

I 2013 ble omfanget av overvåkingspraksis uthevet av Edward Snowden åpenbaringer. Disse lærte oss mye om trusselen mot retten til privatliv og datautveksling mellom etterretningstjenester, myndigheter og private selskaper. Den siste kontroversen rundt Cambridge AnalyticaHøsting av personopplysninger via bruk av sosiale medier-plattformer som Facebook fortsetter å forårsake alvorlig apprehension, denne gangen over manipulering og forstyrrelser i demokratiske valg som skader retten til ytringsfrihet.


Få det siste fra InnerSelf


I mellomtiden utfordrer kritiske dataanalytikere diskriminerende praksis assosiert med det de kaller AIs "white guy problem". Dette er bekymringen for at AI-systemer som er utdannet på eksisterende data, gjentar eksisterende rase- og kjønestereotyper som viderefører diskriminerende praksis på områder som politi, rettsavgjørelser eller sysselsetting.

AI kan replikere og forankre stereotyper.
AI kan replikere og forankre stereotyper.
Ollyy / Shutterstock.com

Flertydige bots

Den potensielle trusselen om beregningsmetoder til menneskerettigheter og til fysisk, politisk og digital sikkerhet ble fremhevet i en nylig publisert studie om Den ondsinnede bruken av kunstig intelligens. Bekymringen uttrykt i denne University of Cambridge-rapporten må tas seriøst. Men hvordan skal vi håndtere disse truslene? Er menneskerettighetene klare for robotteknikk og AI?

Det er kontinuerlig innsats for å oppdatere eksisterende menneskerettighetsprinsipper for denne perioden. Disse inkluderer FN-rammebetingelser og retningslinjer for næringsliv og menneskerettigheter, forsøker å skrive en Magna Carta for den digitale tidsalderen og fremtidens livsinstitutt Asilomar AI-prinsipper, som identifiserer retningslinjer for etisk forskning, overholdelse av verdier og en forpliktelse til den langsiktige fordelaktige utviklingen av AI.

Denne innsatsen er prisverdig, men ikke tilstrekkelig. Regjeringer og myndigheter, politiske partier og private selskaper, spesielt de ledende teknologibedrifter, må forplikte seg til de etiske bruksområdene til AI. Vi trenger også effektiv og håndhevbar lovkontroll.

Uansett hvilke nye tiltak vi introduserer, er det viktig å erkjenne at våre liv blir stadig mer innblandet i autonome maskiner og intelligente systemer. Denne innblandingen øker menneskelig velvære på områder som medisinsk forskning og behandling, i vårt transportsystem, i sosial omsorgsinnstillinger og i arbeidet med å beskytte miljøet.

Men på andre områder kaster denne forstyrrelsen bekymrende prospekter. Beregningsteknologier brukes til å se og spore våre handlinger og atferd, spore våre skritt, vår plassering, vår helse, vår smak og våre vennskap. Disse systemene former menneskelig atferd og slår oss i retning av selvovervåkningspraksis som begrenser vår frihet og undergraver ideer og idealer om menneskerettigheter.

Den ConversationOg her ligger hovedpunktet: kapasiteten til dobbel bruk av datateknologi utelukker linjen mellom fordelaktig og ondsinnet praksis. I tillegg er beregnende teknologier dypt involvert i ulik maktforhold mellom individuelle borgere, staten og dets byråer og private selskaper. Hvis unhinged fra effektive nasjonale og internasjonale kontrollsystemer, utgjør de en reell og bekymringsfull trussel mot våre menneskerettigheter.

Om forfatteren

Birgit Schippers, besøksforsker, senator George J Mitchell Institutt for global fred, sikkerhet og rettferdighet, Queen's University Belfast

Denne artikkelen ble opprinnelig publisert på Den Conversation. Les opprinnelige artikkelen.

Relaterte bøker

{amazonWS: searchindex = Bøker; Birgit Schippers = innvendig; maksresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

følg InnerSelf på

facebook-ikonettwitter-iconrss-ikonet

Få den siste via e-post

{Emailcloak = off}