Er dette ansiktet bare en samling av datamaskiner? PHOTOCREO Michal Bednarek / Shutterstock.com

Når kunstige intelligenssystemer begynner å bli kreative, kan de skape gode ting - og skummelt. Ta for eksempel et AI-program som lar webbrukere komponere musikk sammen med en virtuell Johann Sebastian Bach ved å skrive inn notater i et program som genererer Bach-lignende harmonier for å matche dem.

Drevet av Google, appen drew flott ros for å være banebrytende og morsomt å leke med. Det tiltrukket seg også kritikk, og reiste bekymringer om AIs farer.

Min studie av hvordan nye teknologier påvirker folks liv har lært meg at problemene går utover det admittedly stor bekymring for enten algoritmer kan egentlig lag musikk eller kunst generelt. Noen klager syntes små, men egentlig var ikke, som observasjoner som Googles AI var bryte grunnleggende regler av musikk komposisjon.

Faktisk kan innsatsen for at datamaskiner etterligner virkemåten til de faktiske menneskene være forvirrende og potensielt skadelige.

Impersonation teknologier

Googles program analyserte notatene i 306 av Bachs musikalske verk, og fant forhold mellom melodien og notatene som ga harmonien. Fordi Bach fulgte strenge kompositionsregler, lærte programmet effektivt disse reglene, slik at det kunne brukes når brukerne oppgav egne notater.

 Google Doodle-teamet forklarer Bach-programmet.

{youtube}XBfYPp6KF2g{/youtube}

Bach-appen er ny, men den underliggende teknologien er ikke. Algoritmer trent til gjenkjenne mønstre og lag probabilistiske beslutninger har eksistert i lang tid. Noen av disse algoritmer er så komplekse at folk forstår ikke alltid hvordan de tar beslutninger eller produserer et bestemt utfall.

AI-systemer er ikke perfekte - mange av dem er avhengige av data som ikke er representative av hele befolkningen, eller det er påvirket av menneskelige forstyrrelser. Det er ikke helt klart hvem kan være juridisk ansvarlig når et AI-system gjør en feil eller forårsaker et problem.

Men, kunstig intelligens teknologier blir nå avansert nok til å kunne tilnærme individer skrive eller snakke stil, og til og med ansiktsuttrykk. Dette er ikke alltid dårlig: En ganske enkel AI ga Stephen Hawking evne til å kommunisere mer effektivt med andre ved å forutsi ordene han ville bruke mest.

Mer komplekse programmer som etterligner menneskelige stemmer hjelpe mennesker med funksjonshemninger - men kan også brukes til å lure lyttere. For eksempel, beslutningstakere av Lyrebird, et stemme-imitasjonsprogram, har sluppet a simulert samtale mellom Barack Obama, Donald Trump og Hillary Clinton. Det kan høres ekte, men det har aldri skjedd.

Fra godt til dårlig

I februar 2019 opprettet ikke-idealselskapet OpenAI et program som genererer tekst som er nesten uutslettelig fra tekst skrevet av folk. Det kan "skrive" en tale i stil med John F. Kennedy, JRR Tolkien i "The Lord of the Rings"Eller en student skriver en skoleoppgave om den amerikanske borgerkrigen.

Teksten generert av OpenAIs programvare er så troverdig at selskapet har valgt Ikke å slippe ut selve programmet.

Lignende teknologier kan simulere bilder og videoer. I begynnelsen av 2018 skapt skuespiller og filmskaperen Jordan Peele en video som syntes å vise tidligere amerikanske president Barack Obama, som sa ting Obama aldri sagt faktisk Å advare offentligheten om farene som er forbundet med disse teknologiene.

Vær forsiktig med hvilke videoer du tror.

{youtube}cQ54GDm1eL0{/youtube}

I tidlig 2019, a falsk nakenfoto av US Rep. Alexandria Ocasio-Cortez sirkulert på nettet. Fremstillede videoer, ofte kalt "deepfakes, "Forventes å være stadig brukt i valgkampanjer.

Medlemmer av kongressen har begynt å se på dette problemet før 2020-valget. Den amerikanske forsvarsdepartementet underviser offentligheten hvordan du kan se doktrerte videoer og lyd. Nyheter organisasjoner som Reuters begynner å trene journalister for å få øye på deepfakes.

Men etter min mening er det enda større bekymring: Brukere kan kanskje ikke lære seg raskt nok til å skille mellom falskt innhold, ettersom AI-teknologien blir mer sofistikert. For eksempel, når publikum begynner å bli oppmerksom på deepfakes, blir AI allerede brukt til enda mer avanserte deceptions. Det er nå programmer som kan generere falske ansikter og falske digitale fingeravtrykk, effektivt skape den informasjonen som trengs for å fremstille en hel person - i hvert fall i bedriftsregistre eller regjeringer.

Maskiner fortsetter å lære

For øyeblikket er det nok potensielle feil i disse teknologiene for å gi folk sjansen til å oppdage digitale fabrikker. Googles Bach-komponist gjorde noen feil en ekspert kunne oppdage. For eksempel, da jeg prøvde det, fikk programmet meg til å skrive inn parallelle femtedeler, et musikkintervall som Bach studiously unngått. Appen også brøt musikalske regler av motspill ved å harmonisere melodier i feil nøkkel. På samme måte skrev OpenAIs tekstgenererende program noen ganger setninger som "branner skjer under vann"Det gjorde ingen mening i deres sammenhenger.

Som utviklere jobber med sine kreasjoner, vil disse feilene bli sjeldnere. Effektivt vil AI teknologier utvikle seg og lære. Den forbedrede ytelsen har potensial til å gi mange sosiale fordeler - inkludert bedre helsetjenester, som AI-programmer hjelper demokratisere utøvelsen av medisin.

Å gi forskere og bedrifter frihet til å utforske, for å søke disse positive prestasjonene fra AI-systemer, betyr å åpne opp risikoen for å utvikle mer avanserte måter å skape bedrag og andre sosiale problemer på. Alvorlig begrensende AI-forskning kunne begrense denne fremgangen. Men gir gunstige teknologier rom å vokse kommer til ingen pris - og potensialet for misbruk, om å gjøre unøyaktig "Bach-like" musikk eller å bedra penger, vil trolig vokse på måter folk ikke kan forutse.

Om forfatteren

Ana Santos Rutschman, assisterende professor i loven, Saint Louis University

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.

Relaterte bøker

at InnerSelf Market og Amazon