I hjertet av utviklingen av AI ser det ut til å være et søk etter perfeksjon. Og det kunne være like farlig for menneskeheten som den som kom fra filosofiske og pseudovitenskapelige ideer fra 19- og begynnelsen av 20-tallet og førte til grusomhetene i kolonialismen, verdenskrig og holocaust. I stedet for et menneskelig herskende "mesterløp", kan vi ende opp med en maskinell.

Hvis dette virker ekstremt, bør du vurdere den antimenneskelige perfeksjonismen som allerede er sentral i arbeidsmarkedet. Her er AI-teknologi neste trinn i forutsetningen om maksimal produktivitet som erstattet individuelt håndverk med fabrikkens produksjonslinje. Disse massive produktivitetsendringene og måten vi arbeider på skapte muligheter og trusler som nå vil bli forsterket av en “fjerde industriell revolusjon”Der AI videre erstatter menneskelige arbeidere.

Flere nylige forskningsartikler forutsi at innen ti år vil automatisering erstatte halvparten av dagens jobber. Så, i det minste i denne overgangen til en ny digitalisert økonomi, vil mange miste levebrødet. Selv om vi antar at denne nye industrielle revolusjonen vil skape en ny arbeidsstyrke som er i stand til å navigere og styre denne datadominerte verden, vil vi fremdeles måtte møte store sosioøkonomiske problemer. Forstyrrelsene vil være enorme og må undersøkes.

Det endelige målet med AI, til og med smal AI som håndterer veldig spesifikke oppgaver, er å overgå og perfeksjonere alle menneskelige kognitive funksjoner. Etter hvert kan maskinlæringssystemer vel være programmert til å være bedre enn mennesker på alt.

Det de imidlertid aldri kan utvikle, er det menneskelige berøringen - empati, kjærlighet, hat eller noen av de andre selvbevisste følelsene som gjør oss mennesker. Det er med mindre vi tilskriver disse følelsene til dem, og det er hva noen av oss gjør det allerede med “Alexas” og “Siris”.

Produktivitet kontra menneskelig berøring

Besettelsen av perfeksjon og "hypereffektivitet" har hatt en dyp innvirkning på menneskelige relasjoner, til og med menneskelig reproduksjon, ettersom folk lever sine liv i en klosteraktig, virtuell virkelighet av deres eget liv. For eksempel har flere amerikanske og Kina-baserte selskaper produsert robotdukker som selger raskt ut som erstatningspartnere.

En mann i Kina til og med giftet seg med cyber-dukken, Mens en kvinne i Frankrike “Giftet seg” med en “robo-man”, og annonserte kjærlighetshistorien hennes som en form for “robo-seksualitet” og kampanjer for å legalisere ekteskapet hennes. "Jeg er veldig glad," sa hun. "Forholdet vårt vil bli bedre og bedre etter hvert som teknologien utvikler seg." Der synes å være stor etterspørsel etter robothustruer og ektemenn over hele verden.

I den perfekt produktive verden vil mennesker bli regnet som verdiløse, absolutt når det gjelder produktivitet, men også når det gjelder vår svake menneskehet. Med mindre vi anslår denne perfeksjonistiske holdningen til livet som stiller produktivitet og "materiell vekst" over bærekraft og individuell lykke, kan AI-forskning være en annen kjede i historien om selvdrepende menneskelige oppfinnelser.

Allerede er vi vitne til diskriminering i algoritmiske beregninger. Nylig en populær Sør-koreansk chatbot kalt Lee Luda ble tatt offline. “Hun” ble modellert etter persona til en 20 år gammel kvinnelig universitetsstudent og ble fjernet fra Facebook-messenger etter å ha brukt hatytringer mot LHBT-personer.

I mellomtiden fører automatiserte våpen som er programmert til å drepe maksimum som "produktivitet" og "effektivitet" i kamp. Som et resultat har krig blitt mer bærekraftig. Spredningen av dronekrig er et veldig levende eksempel på disse nye konfliktformene. De skaper en virtuell virkelighet som nesten ikke er tilgjengelig.

Men det ville være morsomt å fremstille AI som et uunngåelig orwellsk mareritt fra en hær av superintelligente "Terminators" hvis oppgave er å slette menneskeheten. Slike dystopiske spådommer er for grove til å fange den nitty gritty av kunstig intelligens, og dens innvirkning på vår hverdag.

Samfunn kan ha nytte av AI hvis den er utviklet med tanke på bærekraftig økonomisk utvikling og menneskelig sikkerhet. Sammenløpet av makt og AI som forfølger for eksempel systemer for kontroll og overvåking, bør ikke erstatte løftet om en humanisert AI som setter maskinlæringsteknologi i tjeneste for mennesker og ikke omvendt.

For det formål må AI-menneskelige grensesnitt som raskt åpner seg i fengsler, helsevesen, myndigheter, sosial sikkerhet og grensekontroll, for eksempel reguleres for å favorisere etikk og menneskelig sikkerhet fremfor institusjonell effektivitet. Samfunnsvitenskap og humaniora har en mye å si om slike spørsmål.

En ting å være glad om er sannsynligheten for at AI aldri vil være en erstatning for menneskelig filosofi og intellektualitet. Å være filosof krever tross alt empati, forståelse av menneskeheten og våre medfødte følelser og motiver. Hvis vi kan programmere maskinene våre for å forstå slike etiske standarder, har AI-forskning kapasiteten til å forbedre livene våre, som skal være det endelige målet for ethvert teknologisk fremskritt.

Men hvis AI-forskning gir en ny ideologi sentrert rundt forestillingen om perfeksjonisme og maksimal produktivitet, vil det være en destruktiv kraft som vil føre til flere kriger, mer hungersnød og mer sosial og økonomisk nød, spesielt for de fattige. På dette tidspunktet av global historie er dette valget fortsatt vårt.

Om forfatteren

Arshin Adib-Moghaddam, professor i globale tanker og komparative filosofier, SOAS, University of London

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.