Hvordan kunstig intelligens er en totalitær drøm

Hvordan kunstig intelligens er en totalitær drøm Shutterstock.

Individualistiske vestlige samfunn bygger på ideen om at ingen kjenner tankene, ønsker eller gleder oss bedre enn vi gjør. Og slik setter vi oss, heller enn regjeringen, ansvarlige for livene våre. Vi har en tendens til å være enige med filosofen Immanuel Kants påstand at ingen har rett til å tvinge sin ide om det gode liv på oss.

Kunstig intelligens (AI) vil endre dette. Det vil kjenne oss bedre enn vi kjenner oss selv. En regjering bevæpnet med AI kan hevde å vite hva folket virkelig ønsker og hva som virkelig vil gjøre dem lykkelige. I beste fall vil den bruke dette for å rettferdiggjøre paternalisme, i verste fall totalitarisme.

Hvert helvete starter med et løfte om himmelen. AI-ledet totalitarisme vil ikke være annerledes. Frihet vil bli lydighet mot staten. Bare de irrasjonelle, spydige eller undergravende kunne ønske seg å velge sin egen vei.

For å forhindre en slik dystopi, må vi ikke la andre vite mer om oss selv enn vi gjør. Vi kan ikke tillate et selvkunnskapsgap.

Den allsidige AI

I 2019 hevdet milliardærinvestoren Peter Thiel at AI var “bokstavelig talt kommunist”. Han påpekte at AI tillater en sentraliserende makt til å overvåke innbyggerne og vite mer om dem enn de vet om seg selv. Kina, bemerket Thiel, har ivrig omfavnet AI.

Vi vet allerede AIs potensial for støtte totalitarisme ved å tilby et orwellsk system for overvåking og kontroll. Men AI gir også totalitærer et filosofisk våpen. Så lenge vi kjente oss bedre enn regjeringen gjorde, kunne liberalismen holde håpefulle totalitærer i sjakk.

Men AI har endret spillet. Store teknologiselskaper samler enorme mengder data om vår oppførsel. Maskinlæringsalgoritmer bruker disse dataene til å beregne ikke bare hva vi skal gjøre, men hvem vi er.


 Få det siste fra InnerSelf


I dag, AI kan forutsi hvilke filmer vi vil like, hvilke nyheter vi vil lese og hvem vi vil ønske å bli venn på Facebook. Det kan forutsi om par vil bo sammen og hvis vi vil forsøk på selvmord. Fra våre Facebook-liker, AI kan forutsi våre religiøse og politiske synspunkter, personlighet, intelligens, stoffbruk og lykke.

Nøyaktigheten av AIs spådommer vil bare bedre. I den ikke altfor fjerne fremtiden, som forfatteren Yuval Noah Harari har antydet, kan AI fortelle oss hvem vi er før vi selv vet.

Denne utviklingen har seismiske politiske implikasjoner. Hvis regjeringer kan kjenne oss bedre enn vi kan, åpner en ny begrunnelse for å gripe inn i livene våre. De vil tyrannisere oss i navnet til vårt eget beste.

Frihet gjennom tyranni

Filosofen Isaiah Berlin forutså dette i 1958. Han identifiserte to typer frihet. En type, advarte han, ville føre til tyranni.

Negativ frihet er "frihet fra". Det er frihet fra innblanding fra andre mennesker eller myndigheter i dine saker. Negativ frihet er at ingen andre klarer å beherske deg, så lenge du ikke krenker andres rettigheter.

I motsetning er positiv frihet “frihet til”. Det er friheten til å være herre over deg selv, frihet til å oppfylle dine sanne ønsker, frihet til å leve et rasjonelt liv. Hvem vil ikke ha dette?

Men hva hvis noen andre sier at du ikke opptrer i din "sanne interesse", selv om de vet hvordan du kunne. Hvis du ikke vil høre, kan de gjøre det tvinge deg til å være fri - tvang deg til ditt “eget beste”. Dette er en av de farligste ideene noensinne blitt unnfanget. Det drepte titalls millioner mennesker i Stalins Sovjetunionen og Maos Kina.

Den russiske kommunistlederen, Lenin, skal ha sagt at kapitalistene ville selge ham tauet han ville henge dem med. Peter Thiel har kranglet at kapitalistiske teknologifirmaer i Silicon Valley i AI har solgt kommunismen et verktøy som truer med å undergrave det demokratiske kapitalistiske samfunnet. AI er Lenins tau.

Kjemper for oss selv

Vi kan bare forhindre en slik dystopi hvis ingen har lov til å kjenne oss bedre enn vi kjenner oss selv. Vi må aldri sentimentalisere noen som søker slik makt over oss som velmenende. Historisk har dette bare noen gang endt på ulykke.

En måte å forhindre et selvtillit gap er å heve våre personvernskjold. Thiel, som betegnet AI som kommunistisk, har hevdet at “crypto er libertarian”. Kryptokurser kan være “personvern-muliggjør”. Personvern reduserer andres evne til å kjenne oss og deretter bruke denne kunnskapen til manipulere oss for deres egen fortjeneste.

Likevel kjenner vi oss bedre gjennom AI gir kraftige fordeler. Vi kan kanskje bruke den til å bedre forstå hva som vil gjøre oss lykkelige, sunne og velstående. Det kan hjelpe veilede våre karrierevalg. Mer generelt, AI lover å skape den økonomiske veksten Det holder oss fra hverandres hals.

Problemet er ikke at vi forbedrer vår egen kunnskap. Problemet er a maktforskjell i det som er kjent om oss. Kunnskap om oss utelukkende i andres hender er makt over oss. Men kunnskap om oss i egne hender er makt for oss.

Alle som behandler dataene våre å skape kunnskap om oss bør være juridisk forpliktet til å gi oss den kunnskapen tilbake. Vi må oppdatere ideen om “ingenting om oss uten oss”For AI-alderen.

Det AI forteller oss om oss selv, er at vi kan vurdere å bruke, ikke for at andre kan tjene på misbruk. Det skal bare være en hånd på sjelen vårs rov. Og det skal være vår.Den Conversation

Om forfatteren

Simon McCarthy-Jones, lektor i klinisk psykologi og nevropsykologi, Trinity College Dublin

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

Støtte en god jobb!
enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

følg InnerSelf på

facebook-ikonettwitter-iconrss-ikonet

 Få den siste via e-post

{Emailcloak = off}

FRA REDAKTØRENE

Hvorfor jeg burde ignorere COVID-19 og hvorfor jeg ikke vil
by Robert Jennings, InnerSelf.com
Min kone Marie og jeg er et blandet par. Hun er kanadisk, og jeg er amerikaner. De siste 15 årene har vi tilbrakt vintrene i Florida og somrene i Nova Scotia.
InnerSelf Nyhetsbrev: November 15, 2020
by InnerSelf Staff
Denne uken reflekterer vi over spørsmålet: "hvor går vi herfra?" Akkurat som med enhver overgangsritual, enten eksamen, ekteskap, fødsel av et barn, et sentralt valg eller tap (eller funn) av et ...
America: Hitching Our Wagon to the World and to the Stars
by Marie T Russell og Robert Jennings, InnerSelf.com
Vel, det amerikanske presidentvalget er nå bak oss, og det er på tide å ta status. Vi må finne felles grunnlag mellom unge og gamle, demokrater og republikanske, liberale og konservative for virkelig å opprette ...
InnerSelf Nyhetsbrev: Oktober 25, 2020
by InnerSelf Staff
"Slagordet" eller undertittelen for InnerSelf-nettstedet er "Nye holdninger --- nye muligheter", og det er akkurat temaet for ukens nyhetsbrev. Hensikten med våre artikler og forfattere er å ...
InnerSelf Nyhetsbrev: Oktober 18, 2020
by InnerSelf Staff
I disse dager lever vi i minibobler ... i våre egne hjem, på jobben og offentlig, og muligens i vårt eget sinn og med våre egne følelser. Imidlertid å leve i en boble, eller føle at vi er ...