Hvordan science fiction kan redde oss fra dårlig teknologi

Hvordan science fiction kan redde oss fra dårlig teknologi
Ahmet Misirligul / Shutterstock

Kortfilmen Slaughterbots skildrer en nær fremtid der svermer av mikro-droner dreper tusenvis av mennesker for deres politiske tro. Utgitt i november 2017 av akademikere og aktivister som varsler om farene ved avansert kunstig intelligens (AI), gikk det raskt viralt, og tiltrekker over 3m visninger til dags dato. Det hjalp gnist a offentlig debatt om fremtiden til autonome våpen og legge press på diplomater som møtes i FN Konvensjon om konvensjonelle våpen.

Men denne typen spekulativ historiefortelling av science fiction er ikke bare nyttig for å tiltrekke oppmerksomhet. Menneskene som designer og bygger avansert teknologi kan bruke historier for å vurdere konsekvensene av arbeidet sitt og sikre at det brukes til gode. Og vi tror denne typen "science fiction prototyping" eller "design fiction" kan bidra til å forhindre menneskelige skjevheter fra å jobbe seg inn i ny teknologi, og ytterligere forankre samfunnets fordommer og urettferdigheter.

En skjevhet kan føre til vilkårlig preferanse for noen kategorier (av resultater, personer eller ideer) fremfor andre. Noen mennesker kan for eksempel være partiske mot å ansette kvinner til lederjobber, enten de er bevisste på det eller ikke.

Teknologi bygd rundt data som registrerer slik skjevhet kan ende opp gjenskape problemet. For eksempel kan rekrutteringsprogramvare designet for å velge de beste CV-ene for en bestemt jobb være programmert for å se etter egenskaper som gjenspeiler en ubevisst skjevhet overfor menn. I så fall vil algoritmen ende opp med å favorisere menns CV-er. Og dette er ikke teoretisk - det skjedde faktisk med Amazon.

Designe algoritmer uten å vurdere mulige negative implikasjoner har blitt sammenlignet til leger som "skriver om fordelene ved en gitt behandling og fullstendig ignorerer bivirkningene, uansett hvor alvorlige de er."

Noen teknologifirmaer og forskere prøver å takle problemet. For eksempel tegnet Google en sett med etiske prinsipper å veilede utviklingen av AI. Og britiske akademikere har lansert et initiativ som heter Ikke lik som har som mål å oppmuntre til større rettferdighet og rettferdighet i design og bruk av teknologi.

Problemet er at selskaper offentlig har en tendens til bare å levere en positiv visjon om potensielle konsekvenser av teknologier i nærmeste fremtid. For eksempel blir sjåførløse biler ofte fremstilt som å løse alle våre transportproblemer fra kostnader til sikkerhet, og ignorerer de økte farene ved nettangrep eller det faktum at de kan oppfordre folk til gå eller sykle mindre.

Vanskeligheten med å forstå hvordan digitale teknologier fungerer, spesielt de som er sterkt drevet av uklare algoritmer, gjør det også vanskeligere for folk å ha et sammensatt og omfattende syn på problemene. Denne situasjonen gir en spenning mellom en betryggende positiv fortelling og den vage mistanken om at skjevheter er forankret til en viss grad i teknologiene rundt oss. Det er her vi tror historiefortelling gjennom designfiksjon kan komme inn.

Historier er en naturlig metode for å tenke på muligheter og komplekse situasjoner, og vi har hørt dem hele livet. Science fiction kan hjelpe oss med å spekulere i hvilken betydning teknologiene nær fremtid har for samfunnet, slik Slaughterbots gjør. Dette kan til og med inkludere spørsmål om sosial rettferdighet, slik som visse grupper, som flyktninger og migranter, kan være ekskludert fra digitale innovasjoner.

Å avsløre (mulig) fremtid

Design skjønnlitterære historier gi en ny måte for designere, ingeniører og futurister (blant andre) å tenke på effekten av teknologi fra et menneskelig perspektiv og knytte dette til mulige fremtidige behov. Med en blanding av logikk og fantasi kan designfiksjon avsløre aspekter av hvordan teknologi kan tas i bruk og brukes, og starte samtaler om det fremtidige forgreninger.

For eksempel novellen "Crime-sourcing”Utforsker hva som kan skje hvis AI skulle bruke informasjon fra folkemengdene og en kriminell database for å forutsi hvem som kan begå et drap. Forskerne fant at fordi databasen var full av mennesker i etniske minoritetsgrupper som av sosiale årsaker statistisk sett var mer tilbøyelig til å støte på nytt, var det mer sannsynlig at "kriminalitetsinnhentingsmodellen" mistenker minoriteter med urett enn hvite mennesker.

Du trenger ikke å være en talentfull forfatter eller lage en glatt film for å produsere designfiksjon. Brainstorming aktiviteter som involverer kort og storyboards har blitt brukt å utvikle designfiksjon og bidra til å utvikle fortellingsprosessen. Å gjøre workshops som brukte denne typen verktøy mer vanlig, ville gjøre det mulig for flere ingeniører, gründere og beslutningstakere å bruke denne vurderingsmetoden. Og å gjøre det resulterende arbeidet offentlig tilgjengelig ville bidra til å avsløre potensielle skjevheter i teknologier før de påvirker samfunnet.

Å oppmuntre designere til å lage og dele flere historier på denne måten vil sikre at fortellingen som ligger til grunn for ny teknologi ikke bare ville presentere et positivt bilde, og heller ikke et ekstremt negativt eller dystopisk. I stedet vil folk kunne sette pris på begge aspektene av det som skjer rundt oss.Den Conversation

Om forfatterne

Alessio Malizia, Professor i design av brukeropplevelse, University of Hertfordshire og Silvio Carta, Leder for kunst og design og leder av designforskningsgruppen, University of Hertfordshire

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

books_culture

enafarzh-CNzh-TWdanltlfifrdeiwhihuiditjakomsnofaplptruesswsvthtrukurvi

følg InnerSelf på

facebook icontwitter ikonetyoutube-ikonetinstagram ikonpintrest-ikonetrss ikon

 Få den siste via e-post

Ukentlig magasin Daglig Inspirasjon

SENESTE VIDEOER

Den store klimamigrasjonen har begynt
Den store klimamigrasjonen har begynt
by super~~POS=TRUNC
Klimakrisen tvinger tusenvis over hele verden til å flykte ettersom deres hjem blir stadig ubeboelig.
Den siste istiden forteller oss hvorfor vi trenger å bry oss om en 2 ℃ temperaturendring
Den siste istiden forteller oss hvorfor vi trenger å bry oss om en 2 ℃ temperaturendring
by Alan N Williams, et al
Den siste rapporten fra klimapanelet (IPCC) uttaler at uten vesentlig reduksjon ...
Jorden har vært beboelig i milliarder av år - nøyaktig hvor heldige vi fikk?
Jorden har vært beboelig i milliarder av år - nøyaktig hvor heldige vi fikk?
by Toby Tyrrell
Det tok evolusjon 3 eller 4 milliarder år å produsere Homo sapiens. Hvis klimaet hadde sviktet helt en gang i det ...
Hvordan kartlegging av været 12,000 XNUMX år siden kan bidra til å forutsi fremtidige klimaendringer
Hvordan kartlegging av været 12,000 XNUMX år siden kan bidra til å forutsi fremtidige klimaendringer
by Brice Rea
Slutten av den siste istiden, for rundt 12,000 år siden, var preget av en siste kald fase kalt Younger Dryas ...
Det kaspiske hav vil falle med 9 meter eller mer i løpet av dette århundret
Det kaspiske hav vil falle med 9 meter eller mer i løpet av dette århundret
by Frank Wesselingh og Matteo Lattuada
Tenk deg at du er på kysten og ser ut mot havet. Foran deg ligger 100 meter karrig sand som ser ut som en ...
Venus var nok en gang jordlignende, men klimaendringene gjorde det ubeboelig
Venus var nok en gang jordlignende, men klimaendringene gjorde det ubeboelig
by Richard Ernst
Vi kan lære mye om klimaendringer fra Venus, vår søsterplanet. Venus har for øyeblikket en overflatetemperatur på ...
Fem klimatroer: Et kollisjonskurs i feil informasjon om klima
The Five Climate Disbeliefs: A Crash Course in Climate Desinformation
by John Cook
Denne videoen er et kollisjonskurs i misinformasjon om klimaet, og oppsummerer de viktigste argumentene som brukes til å tvile på virkeligheten ...
Arktis har ikke vært så varmt i 3 millioner år, og det betyr store endringer for planeten
Arktis har ikke vært så varmt i 3 millioner år, og det betyr store endringer for planeten
by Julie Brigham-Grette og Steve Petsch
Hvert år krymper havisen i Polhavet til et lavt punkt i midten av september. I år måler den bare 1.44 ...

SISTE ARTIKLER

grønn energi2 3
Fire grønne hydrogenmuligheter for Midtvesten
by Christian Tae
For å avverge en klimakrise, må Midtvesten, som resten av landet, fullstendig dekarbonisere økonomien ved å …
ug83qrfw
Stor barriere for å kreve respons må opphøre
by John Moore, On Earth
Hvis føderale regulatorer gjør det rette, kan strømkunder over hele Midtvesten snart kunne tjene penger mens ...
trær å plante for klima2
Plant disse trærne for å forbedre bylivet
by Mike Williams-Rice
En ny studie fastslår levende eik og amerikanske plataner som mestere blant 17 "supertrær" som vil bidra til å gjøre byer...
havbunnen i nord
Hvorfor vi må forstå havbunnsgeologi for å utnytte vindene
by Natasha Barlow, førsteamanuensis i kvartær miljøendring, University of Leeds
For ethvert land som er velsignet med enkel tilgang til det grunne og vindfulle Nordsjøen, vil havvind være nøkkelen til å møte nett...
3 brannleksjoner for skogbyer da Dixie Fire ødelegger historiske Greenville, California
3 brannleksjoner for skogbyer da Dixie Fire ødelegger historiske Greenville, California
by Bart Johnson, professor i landskapsarkitektur, University of Oregon
Et brann som brenner i varm, tørr fjellskog feide gjennom Gold Rush -byen Greenville, California, 4. august,…
Kina kan møte energi- og klimamål som begrenser kullkraften
Kina kan møte energi- og klimamål som begrenser kullkraften
by Alvin Lin
På Leader's Climate Summit i april lovet Xi Jinping at Kina strengt vil kontrollere kullkraft ...
Blått vann omgitt av dødt hvitt gress
Kart viser 30 års ekstrem snøsmelting i USA
by Mikayla Mace-Arizona
Et nytt kart over ekstreme snøsmeltingshendelser de siste 30 årene tydeliggjør prosessene som driver rask smelting.
Et fly slipper rød brannhemmende over på en skogbrann mens brannmenn parkert langs en vei ser opp i den oransje himmelen
Modellen spår 10-års brannskudd, deretter gradvis tilbakegang
by Hannah Hickey-U. Washington
En titt på den langsiktige fremtiden for skogsbranner forutsier en innledende omtrent tiår lang brannaktivitet,…

 Få den siste via e-post

Ukentlig magasin Daglig Inspirasjon

Nye holdninger - Nye muligheter

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | InnerSelf Market
Copyright © 1985 - 2021 InnerSelf Publikasjoner. Alle rettigheter reservert.