Hvordan kunstig intelligens er en totalitær drøm Shutterstock.

Individualistiske vestlige samfunn bygger på ideen om at ingen kjenner tankene, ønsker eller gleder oss bedre enn vi gjør. Og slik setter vi oss, heller enn regjeringen, ansvarlige for livene våre. Vi har en tendens til å være enige med filosofen Immanuel Kants påstand at ingen har rett til å tvinge sin ide om det gode liv på oss.

Kunstig intelligens (AI) vil endre dette. Det vil kjenne oss bedre enn vi kjenner oss selv. En regjering bevæpnet med AI kan hevde å vite hva folket virkelig ønsker og hva som virkelig vil gjøre dem lykkelige. I beste fall vil den bruke dette for å rettferdiggjøre paternalisme, i verste fall totalitarisme.

Hvert helvete starter med et løfte om himmelen. AI-ledet totalitarisme vil ikke være annerledes. Frihet vil bli lydighet mot staten. Bare de irrasjonelle, spydige eller undergravende kunne ønske seg å velge sin egen vei.

For å forhindre en slik dystopi, må vi ikke la andre vite mer om oss selv enn vi gjør. Vi kan ikke tillate et selvkunnskapsgap.

Den allsidige AI

I 2019 hevdet milliardærinvestoren Peter Thiel at AI var “bokstavelig talt kommunist”. Han påpekte at AI tillater en sentraliserende makt til å overvåke innbyggerne og vite mer om dem enn de vet om seg selv. Kina, bemerket Thiel, har ivrig omfavnet AI.


innerself abonnere grafikk


Vi vet allerede AIs potensial for støtte totalitarisme ved å tilby et orwellsk system for overvåking og kontroll. Men AI gir også totalitærer et filosofisk våpen. Så lenge vi kjente oss bedre enn regjeringen gjorde, kunne liberalismen holde håpefulle totalitærer i sjakk.

Men AI har endret spillet. Store teknologiselskaper samler enorme mengder data om vår oppførsel. Maskinlæringsalgoritmer bruker disse dataene til å beregne ikke bare hva vi skal gjøre, men hvem vi er.

I dag, AI kan forutsi hvilke filmer vi vil like, hvilke nyheter vi vil lese og hvem vi vil ønske å bli venn på Facebook. Det kan forutsi om par vil bo sammen og hvis vi vil forsøk på selvmord. Fra våre Facebook-liker, AI kan forutsi våre religiøse og politiske synspunkter, personlighet, intelligens, stoffbruk og lykke.

Nøyaktigheten av AIs spådommer vil bare bedre. I den ikke altfor fjerne fremtiden, som forfatteren Yuval Noah Harari har antydet, kan AI fortelle oss hvem vi er før vi selv vet.

Denne utviklingen har seismiske politiske implikasjoner. Hvis regjeringer kan kjenne oss bedre enn vi kan, åpner en ny begrunnelse for å gripe inn i livene våre. De vil tyrannisere oss i navnet til vårt eget beste.

Frihet gjennom tyranni

Filosofen Isaiah Berlin forutså dette i 1958. Han identifiserte to typer frihet. En type, advarte han, ville føre til tyranni.

Negativ frihet er "frihet fra". Det er frihet fra innblanding fra andre mennesker eller myndigheter i dine saker. Negativ frihet er at ingen andre klarer å beherske deg, så lenge du ikke krenker andres rettigheter.

I motsetning er positiv frihet “frihet til”. Det er friheten til å være herre over deg selv, frihet til å oppfylle dine sanne ønsker, frihet til å leve et rasjonelt liv. Hvem vil ikke ha dette?

Men hva hvis noen andre sier at du ikke opptrer i din "sanne interesse", selv om de vet hvordan du kunne. Hvis du ikke vil høre, kan de gjøre det tvinge deg til å være fri - tvang deg til ditt “eget beste”. Dette er en av de farligste ideene noensinne blitt unnfanget. Det drepte titalls millioner mennesker i Stalins Sovjetunionen og Maos Kina.

Den russiske kommunistlederen, Lenin, skal ha sagt at kapitalistene ville selge ham tauet han ville henge dem med. Peter Thiel har kranglet at kapitalistiske teknologifirmaer i Silicon Valley i AI har solgt kommunismen et verktøy som truer med å undergrave det demokratiske kapitalistiske samfunnet. AI er Lenins tau.

Kjemper for oss selv

Vi kan bare forhindre en slik dystopi hvis ingen har lov til å kjenne oss bedre enn vi kjenner oss selv. Vi må aldri sentimentalisere noen som søker slik makt over oss som velmenende. Historisk har dette bare noen gang endt på ulykke.

En måte å forhindre et selvtillit gap er å heve våre personvernskjold. Thiel, som betegnet AI som kommunistisk, har hevdet at “crypto er libertarian”. Kryptokurser kan være “personvern-muliggjør”. Personvern reduserer andres evne til å kjenne oss og deretter bruke denne kunnskapen til manipulere oss for deres egen fortjeneste.

Likevel kjenner vi oss bedre gjennom AI gir kraftige fordeler. Vi kan kanskje bruke den til å bedre forstå hva som vil gjøre oss lykkelige, sunne og velstående. Det kan hjelpe veilede våre karrierevalg. Mer generelt, AI lover å skape den økonomiske veksten Det holder oss fra hverandres hals.

Problemet er ikke at vi forbedrer vår egen kunnskap. Problemet er a maktforskjell i det som er kjent om oss. Kunnskap om oss utelukkende i andres hender er makt over oss. Men kunnskap om oss i egne hender er makt for oss.

Alle som behandler dataene våre å skape kunnskap om oss bør være juridisk forpliktet til å gi oss den kunnskapen tilbake. Vi må oppdatere ideen om “ingenting om oss uten oss”For AI-alderen.

Det AI forteller oss om oss selv, er at vi kan vurdere å bruke, ikke for at andre kan tjene på misbruk. Det skal bare være en hånd på sjelen vårs rov. Og det skal være vår.Den Conversation

Om forfatteren

Simon McCarthy-Jones, lektor i klinisk psykologi og nevropsykologi, Trinity College Dublin

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

bryte

Relaterte bøker:

On Tyranni: Twenty Lessons from the Twentieth Century

av Timothy Snyder

Denne boken tilbyr lærdom fra historien for å bevare og forsvare demokrati, inkludert viktigheten av institusjoner, rollen til individuelle borgere og farene ved autoritarisme.

Klikk for mer info eller for å bestille

Vår tid er nå: makt, formål og kampen for et rettferdig Amerika

av Stacey Abrams

Forfatteren, en politiker og aktivist, deler sin visjon for et mer inkluderende og rettferdig demokrati og tilbyr praktiske strategier for politisk engasjement og velgermobilisering.

Klikk for mer info eller for å bestille

Hvordan demokratier dør

av Steven Levitsky og Daniel Ziblatt

Denne boken undersøker varseltegnene og årsakene til demokratisk sammenbrudd, og trekker på casestudier fra hele verden for å gi innsikt i hvordan man kan ivareta demokratiet.

Klikk for mer info eller for å bestille

The People, No: A Brief History of Anti-Populism

av Thomas Frank

Forfatteren gir en historie om populistiske bevegelser i USA og kritiserer den "antipopulistiske" ideologien som han hevder har kvalt demokratisk reform og fremgang.

Klikk for mer info eller for å bestille

Demokrati i én bok eller mindre: Hvordan det fungerer, hvorfor det ikke gjør det, og hvorfor det er enklere enn du tror å fikse det

av David Litt

Denne boken gir en oversikt over demokratiet, inkludert dets styrker og svakheter, og foreslår reformer for å gjøre systemet mer responsivt og ansvarlig.

Klikk for mer info eller for å bestille