Ahmet Misirligul / Shutterstock

Kortfilmen Slaughterbots skildrer en nær fremtid der svermer av mikro-droner dreper tusenvis av mennesker for deres politiske tro. Utgitt i november 2017 av akademikere og aktivister som varsler om farene ved avansert kunstig intelligens (AI), gikk det raskt viralt, og tiltrekker over 3m visninger til dags dato. Det hjalp gnist a offentlig debatt om fremtiden til autonome våpen og legge press på diplomater som møtes i FN Konvensjon om konvensjonelle våpen.

Men denne typen spekulativ historiefortelling av science fiction er ikke bare nyttig for å tiltrekke oppmerksomhet. Menneskene som designer og bygger avansert teknologi kan bruke historier for å vurdere konsekvensene av arbeidet sitt og sikre at det brukes til gode. Og vi tror denne typen "science fiction prototyping" eller "design fiction" kan bidra til å forhindre menneskelige skjevheter fra å jobbe seg inn i ny teknologi, og ytterligere forankre samfunnets fordommer og urettferdigheter.

{vembed Y = 9CO6M2HsoIA}

En skjevhet kan føre til vilkårlig preferanse for noen kategorier (av resultater, personer eller ideer) fremfor andre. Noen mennesker kan for eksempel være partiske mot å ansette kvinner til lederjobber, enten de er bevisste på det eller ikke.

Teknologi bygd rundt data som registrerer slik skjevhet kan ende opp gjenskape problemet. For eksempel kan rekrutteringsprogramvare designet for å velge de beste CV-ene for en bestemt jobb være programmert for å se etter egenskaper som gjenspeiler en ubevisst skjevhet overfor menn. I så fall vil algoritmen ende opp med å favorisere menns CV-er. Og dette er ikke teoretisk - det skjedde faktisk med Amazon.

Designe algoritmer uten å vurdere mulige negative implikasjoner har blitt sammenlignet til leger som "skriver om fordelene ved en gitt behandling og fullstendig ignorerer bivirkningene, uansett hvor alvorlige de er."

Noen teknologifirmaer og forskere prøver å takle problemet. For eksempel tegnet Google en sett med etiske prinsipper å veilede utviklingen av AI. Og britiske akademikere har lansert et initiativ som heter Ikke lik som har som mål å oppmuntre til større rettferdighet og rettferdighet i design og bruk av teknologi.

Problemet er at selskaper offentlig har en tendens til bare å levere en positiv visjon om potensielle konsekvenser av teknologier i nærmeste fremtid. For eksempel blir sjåførløse biler ofte fremstilt som å løse alle våre transportproblemer fra kostnader til sikkerhet, og ignorerer de økte farene ved nettangrep eller det faktum at de kan oppfordre folk til gå eller sykle mindre.

Vanskeligheten med å forstå hvordan digitale teknologier fungerer, spesielt de som er sterkt drevet av uklare algoritmer, gjør det også vanskeligere for folk å ha et sammensatt og omfattende syn på problemene. Denne situasjonen gir en spenning mellom en betryggende positiv fortelling og den vage mistanken om at skjevheter er forankret til en viss grad i teknologiene rundt oss. Det er her vi tror historiefortelling gjennom designfiksjon kan komme inn.

Historier er en naturlig metode for å tenke på muligheter og komplekse situasjoner, og vi har hørt dem hele livet. Science fiction kan hjelpe oss med å spekulere i hvilken betydning teknologiene nær fremtid har for samfunnet, slik Slaughterbots gjør. Dette kan til og med inkludere spørsmål om sosial rettferdighet, slik som visse grupper, som flyktninger og migranter, kan være ekskludert fra digitale innovasjoner.

Å avsløre (mulig) fremtid

Design skjønnlitterære historier gi en ny måte for designere, ingeniører og futurister (blant andre) å tenke på effekten av teknologi fra et menneskelig perspektiv og knytte dette til mulige fremtidige behov. Med en blanding av logikk og fantasi kan designfiksjon avsløre aspekter av hvordan teknologi kan tas i bruk og brukes, og starte samtaler om det fremtidige forgreninger.

For eksempel novellen "Crime-sourcing”Utforsker hva som kan skje hvis AI skulle bruke informasjon fra folkemengdene og en kriminell database for å forutsi hvem som kan begå et drap. Forskerne fant at fordi databasen var full av mennesker i etniske minoritetsgrupper som av sosiale årsaker statistisk sett var mer tilbøyelig til å støte på nytt, var det mer sannsynlig at "kriminalitetsinnhentingsmodellen" mistenker minoriteter med urett enn hvite mennesker.

Du trenger ikke å være en talentfull forfatter eller lage en glatt film for å produsere designfiksjon. Brainstorming aktiviteter som involverer kort og storyboards har blitt brukt å utvikle designfiksjon og bidra til å utvikle fortellingsprosessen. Å gjøre workshops som brukte denne typen verktøy mer vanlig, ville gjøre det mulig for flere ingeniører, gründere og beslutningstakere å bruke denne vurderingsmetoden. Og å gjøre det resulterende arbeidet offentlig tilgjengelig ville bidra til å avsløre potensielle skjevheter i teknologier før de påvirker samfunnet.

Å oppmuntre designere til å lage og dele flere historier på denne måten vil sikre at fortellingen som ligger til grunn for ny teknologi ikke bare ville presentere et positivt bilde, og heller ikke et ekstremt negativt eller dystopisk. I stedet vil folk kunne sette pris på begge aspektene av det som skjer rundt oss.

Om forfatterne

Alessio Malizia, Professor i design av brukeropplevelse, University of Hertfordshire og Silvio Carta, Leder for kunst og design og leder av designforskningsgruppen, University of Hertfordshire

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.