Hvordan kunstige intelligenssystemer kan true demokratiet

privatliv

US teknologi giganten Microsoft har gått sammen med et kinesisk militæruniversitet å utvikle kunstige intelligenssystemer Det kan potensielt forbedre statlig overvåking og censurskapasitet. To Amerikanske senatorer fordømte offentligheten partnerskapet, men hva National Defense Technology University of China ønsker fra Microsoft er ikke den eneste bekymringen.

As min forskning viser, fremkomsten av digital undertrykkelse har stor innflytelse forholdet mellom statsborger og stat. Ny teknologi støtter myndigheter med enestående muligheter til å overvåke, spore og overvåke enkeltpersoner. Selv regjeringer i demokratier med sterke tradisjoner av rettsstaten finne seg fristet til å misbruke disse nye evner.

I stater med Ukontrollerbare institusjoner og hyppige menneskerettighetsbrudd, Vil AI-systemer mest sannsynlig føre til større skade. Kina er et fremtredende eksempel. Dens lederskap har entusiastisk omfavnet AI-teknologier, og har satt opp verdens mest sofistikerte overvåkingsstatus in Xinjiang-provinsen, spore borgernes daglige bevegelser og bruk av smarttelefoner.

Utnyttelsen av disse teknologiene presenterer en kjølingsmodell for medforfattere og utgjør en direkte trussel mot åpne demokratiske samfunn. Selv om det ikke er tegn på at andre regjeringer har replikert dette nivået av AI-overvåking, eksporterer kinesiske selskaper aktivt de samme underliggende teknologiene over hele verden.

Økende tillit til AI-verktøy i USA

Kunstige intelligenssystemer er overalt i den moderne verden, og hjelper til med å kjøre smarttelefoner, internett søkemotorer, digitale talassistenter og Netflix filmkøer. Mange mennesker klarer ikke å innse hvor raskt AI ekspanderer, takket være stadig økende mengder data som skal analyseres, forbedre algoritmer og avanserte dataplisjer.

Når som helst blir mer informasjon tilgjengelig og analyse blir enklere, regjeringer er interessert - og ikke bare autoritære. I USA så 1970ene for eksempel åpenbaringer som myndigheter - som FBI, CIA og NSA - hadde satt opp ekspansive innenlandske overvåkingsnettverk å overvåke og trakassere sivile rettighets demonstranter, politiske aktivister og indianske grupper. Disse problemene har ikke gått vekk: Digital teknologi i dag har dypet muligheten til enda flere byråer å gjennomføre enda mer påtrengende overvåking.

privatliv Hvor fornuftig utpeker algoritmer hvor politiet bør være mest fokusert? Arnout de Vries


Få det siste fra InnerSelf


For eksempel har det amerikanske politiet ivrig ettertatt AI-teknologier. De har begynt å bruke programvare som er ment å forutsi hvor forbrytelser vil skje å bestemme hvor å sende offiserer på patrulje. De bruker også ansiktsgjenkjenning og DNA analyse i kriminelle undersøkelser. Men analyser av disse systemene viser data som disse systemene er utdannet til er ofte partisk, fører til urettferdig utfall, Eksempel falskt bestemme at afrikanske amerikanere er mer sannsynlig å begå forbrytelser enn andre grupper.

AI overvåking rundt om i verden

I autoritære land kan AI-systemer direkte bære innenlands kontroll og overvåking, hjelpe interne sikkerhetsstyrker behandler massive mengder informasjon - inkludert sosiale medier innlegg, tekstmeldinger, e-post og telefonsamtaler - raskere og mer effektivt. Politiet kan identifisere sosiale trender og bestemte mennesker som kan true regimet basert på informasjonen som ble avdekket av disse systemene.

For eksempel har den kinesiske regjeringen brukt AI i brede nedbrytinger i regioner som er hjem for etniske minoriteter i Kina. Overvåkningssystemer i Xinjiang og Tibet har blitt beskrevet som "orwellsk. "Disse anstrengelsene har inkludert obligatoriske DNA-prøver, Wi-Fi-nettverksovervåking og utbredte ansiktsgjenkjenningskameraer, alle koblet til integrerte dataanalyseplaner. Med hjelp av disse systemene har kinesiske myndigheter, ifølge US Department of State, "vilkårlig arrestert" mellom 1 og 2 millioner mennesker.

My forskning ser på 90-land rundt om i verden med regjeringstyper som strekker seg fra lukket autoritær til feilaktige demokratier, inkludert Thailand, Tyrkia, Bangladesh og Kenya. Jeg har funnet ut at kinesiske selskaper er Eksporterende AI overvåkningsteknologi til minst 54 av disse landene. Ofte er denne teknologien pakket som en del av Kinas flaggskip Belt og Road Initiative, som finansierer et omfattende nettverk av veier, jernbaner, energirørledninger og telekommunikasjonsnett serverer 60% av verdens befolkning og økonomier som genererer 40% av verdensomspennende BNP.

For eksempel, kinesiske selskaper som Huawei og ZTE bygger smarte byer i Pakistan, Filippinene og Kenya, med omfattende innebygd overvåkningsteknologi. For eksempel har Huawei utstyrt Bonifacio Global City i Filippinene med high-definition Internett-tilkoblede kameraer som gir "24 / 7 intelligent sikkerhetsovervåking med dataanalyse for å oppdage kriminalitet og bidra til å håndtere trafikk. "

privatliv Bonifacio Global City på Filippinene har mye innebygd overvåkingsutstyr. alveo land / Wikimedia Commons

Hikvision, Yitu og SenseTime leverer toppmoderne ansiktsgjenkjenningskameraer til bruk på steder som Singapore - som annonserte etableringen av et overvåkingsprogram med 110,000 kameraer montert på lampe innlegg rundt byen-staten. Zimbabwe skaper en nasjonal bilde database som kan brukes til ansiktsgjenkjenning.

Men å selge avansert utstyr for profitt er annerledes enn å dele teknologi med et uttrykt geopolitisk formål. Disse nye evner kan plante frøene for global overvåking: Når regjeringer blir stadig mer avhengige av kinesisk teknologi for å håndtere sine befolkninger og opprettholde kraft, vil de møte større press for å tilpasse seg Kinas agenda. Men for nå ser det ut til at Kinas primære motiv er å dominere markedet for ny teknologi og tjene mye penger i prosessen.

AI og disinformation

I tillegg til å gi overvåkingsfunksjoner som både er feiende og finkornet, kan AI hjelpe repressive regjeringer manipulere tilgjengelig informasjon og spre disinformation. Disse kampanjene kan automatiseres eller automatiseres, og distribueres hyper-personlige meldinger rettet mot - eller mot - bestemte mennesker eller grupper.

AI støtter også teknologien som ofte kalles "deepfake, "Der algoritmer oppretter realistiske video- og lydforfalskninger. Muddying vannet mellom sannhet og fiksjon kan bli nyttig i et stramt valg, når en kandidat kan lage falske videoer som viser en motstander å gjøre og si ting som aldri faktisk skjedde.

En tidlig deepfake-video viser noen av farene ved avansert teknologi.

Etter min mening bør politikere i demokratier tenke nøye på risikoen for AI-systemer til sine egne samfunn og til mennesker som lever under autoritære regimer rundt om i verden. Et kritisk spørsmål er hvor mange land som vil vedta Kinas modell for digital overvåking. Men det er ikke bare autoritære land som føler å trekke seg. Og det er ikke bare kinesiske selskaper som sprer teknologien: Mange amerikanske selskaper, inkludert Microsoft, men IBM, Cisco og Thermo Fisher også, har gitt avanserte evner til ekkel regjeringer. Misbruk av AI er ikke begrenset til autokratiske tilstander.Den Conversation

Om forfatteren

Steven Feldstein, Frank og Bethine Church Stol for offentlige anliggender og professor, offentlig tjeneste, Boise State University

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

Relaterte bøker

{amazonWS: searchindex = Bøker; søkeord = AI overvåkning; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

følg InnerSelf på

facebook-ikonettwitter-iconrss-ikonet

Få den siste via e-post

{Emailcloak = off}