Selv 17 år utover 2001, er mellomrom større enn dette. Matthew J. Cotter / Flickr, CC BY-SA
Ser på a 50th årsjubileum screening av "2001: A Space Odyssey", fant jeg meg selv, a matematiker og datavitenskapsmann hvis forskning inkluderer arbeid relatert til kunstig intelligens, sammenligne historiens visjon av fremtiden med verden i dag.
Filmen ble laget gjennom et samarbeid med science fiction-forfatteren Arthur C. Clarke og filmregissør Stanley Kubrick, inspirert av Clarke's roman "Childhood's End" og hans mindre kjente novelle "The Sentinel." Et slående arbeid med spekulativ fiksjon, det skildrer - i noen tilfeller håpfulle og andre ganger forsiktige - en fremtid for fremmed kontakt, interplanetarisk reise, bevisste maskiner og til og med den neste store evolusjonære spranget av menneskeheten.
Den mest åpenbare måten 2018 har mistet visjonen om "2001" er i romferie. Mennesker har ennå ikke rutinemessig besøkt romstasjoner, som gjør unremarkable besøk til en av flere månebaser, eller reiser til andre planeter. Men Kubrick og Clarke traff tyrefullet når de fant inn i mulighetene, problemene og utfordringene i fremtiden for kunstig intelligens.
Åpningen av '2001: A Space Odyssey:
{youtube}https://youtu.be/WufKsOhkTL8{/youtube}
Hva kan datamaskiner gjøre?
Et hoveddrama av filmen kan på mange måter betraktes som et slag mot døden mellom menneske og datamaskin. Den kunstige intelligensen av "2001" er utestengt i HAL, den allvitende beregnede tilstedeværelsen, hjernen til Discovery One romskipet - og kanskje filmens mest berømte karakter. HAL markerer høydepunktet for beregningsprestasjoner: en selvbevisst, tilsynelatende ufeilbarbar enhet og en allestedsnærværende tilstedeværelse i skipet, alltid lytter, alltid ser på.
HAL er ikke bare en teknologisk assistent til mannskapet, men heller - i ordene til oppdragsbefalingen Dave Bowman - det sjette mannskapet. Mennesker samhandler med HAL ved å snakke med ham, og han svarer i en målt mannlig stemme, et sted mellom streng og likevel indulging foreldre og velmenende sykepleier. HAL er Alexa og Siri - men mye bedre. HAL har full kontroll over skipet og, som det viser seg, er det eneste mannskapet som vet det sanne målet med oppdraget.
Etikk i maskinen
Spenningen i filmens tredje handling dreier seg om Bowman og hans mannskap Frank Poole blir stadig mer klar over at HAL er feil, og HALs oppdagelse av disse mistankene. Dave og Frank ønsker å trekke kontakten på en sviktende datamaskin, mens selvbevisst HAL ønsker å leve. Alle vil fullføre oppdraget.
Mann mot maskin:
{youtube}https://youtu.be/qDrDUmuUBTo{/youtube}
Livs-eller-dødsskakkappen mellom mennesker og HAL tilbyr forløperne til noen av dagens spørsmål om utbredelsen og utbredelsen av kunstig intelligens i folks daglige liv.
Først og fremst er spørsmålet om hvor mye kontroll folk skal cede til kunstig intelligente maskiner, uansett hvordan "smart" systemene kan være. HALs kontroll over Discovery er som en dyp plassversjon av fremtidens nettverkshjem eller den førerløse bilen. Innbyggere, beslutningstakere, eksperter og forskere er alle fremdeles ute i graden som automatisering kunne - eller burde - ta mennesker ut av løkken. Noen av hensynene innebærer relativt enkle spørsmål om pålitelighet av maskiner, men andre problemer er mer subtile.
Handlingene til en beregningsmaskin er diktert av beslutninger kodet av mennesker i algoritmer som styrer enhetene. Algoritmer har generelt noe kvantifiserbart mål, som hver av sine handlinger skal gjøre fremskritt - som vinne et spill av brikker, sjakk eller gå. Akkurat som et AI-system ville analysere posisjoner av spillstykker på et brett, kan det også måle effektiviteten til et lager or energiforbruk av datasenter.
Men hva skjer når a moralsk eller etisk dilemma oppstår på vei mot målet? For den selvbevisste HAL, fullfører oppdraget - og holder seg i live - vinner ut når den måles mot mannskapets liv. Hva med en bil uten bil? Er den oppdrag av en selvkjørende bilfor eksempel å få en passasjer fra et sted til et annet så raskt som mulig - eller for å unngå å drepe fotgjengere? Når noen trapper foran et autonomt kjøretøy, konflikter disse målene. Det kan føles som et opplagt "valg" for å programmere bort, men hva om bilen trenger å Velg mellom to forskjellige scenarier, som hver vil føre til en menneskelig død?
Under overvåking
I en klassisk scene går Dave og Frank inn i en del av romstasjonen hvor de tror at HAL ikke kan høre dem for å diskutere deres tvil om HALs funksjon og evne til å kontrollere skipet og lede oppdraget. De bryter ideen om å stenge ham ned. Lite vet de at HALs kameraer kan se dem: Datamaskinen leser leppene sine gjennom podvinduet og lærer om sine planer.
HAL leser lepper:
{youtube}https://youtu.be/1s-PiIbzbhw{/youtube}
I den moderne verden skjer en versjon av den scenen hele dagen hver dag. De fleste av oss overvåkes effektivt kontinuerlig gjennom vår nesten alltid på telefoner eller bedrift og regjering overvåkning av virkelige og online aktiviteter. Grensen mellom privat og offentlig har blitt og fortsetter å bli stadig mer uklar.
Karakterene i filmen fikk meg til å tenke mye på hvordan mennesker og maskiner kan eksistere sammen, eller til og med utvikle seg sammen. Gjennom mye av filmen snakker menneskene tett med hverandre, uten mye tone eller følelser - som de kan snakke med en maskin, eller som en maskin kan snakke med dem. HALs berømte døds scene - der Dave metodisk kobler fra sine logiske lenker - gjorde meg i tvil om hvorvidt intelligente maskiner noensinne vil bli gitt noe som tilsvarer menneskerettighetene.
Clarke trodde det var ganske mulig at menneskets tid på jorden var bare en "kort hvilested"Og at modningen og utviklingen av arten nødvendigvis ville ta folk godt utover denne planeten. "2001" slutter optimistisk, hvelver et menneske gjennom "Stargate" for å markere gjenfødelsen av løpet. For å gjøre dette i virkeligheten vil det være nødvendig for folk å finne ut hvordan man skal få best mulig utbytte av maskiner og enheter som de bygger, og for å sikre at vi ikke lar disse maskinene kontrollere oss.
Om forfatteren
Daniel N. Rockmore, professor, Institutt for matematikk, databehandling og datalogi, Dartmouth College
Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.
Relaterte bøker
at InnerSelf Market og Amazon
