Image Flow / Shutterstock

Ikke tilfreds med overvåking nesten alt du gjør på nettet, Facebook ønsker nå å lese tankene dine også. Den sosiale mediagiganten kunngjorde nylig et gjennombrudd i planen om å lage en enhet som leser menneskers hjernebølger for å la dem skrive bare ved å tenke. Og Elon Musk ønsker å gå enda lenger. Et av Tesla-sjefens andre selskaper, Neuralink utvikle et hjerneimplantat å koble folks sinn direkte til en datamaskin.

Musk innrømmer at han tar inspirasjon fra science fiction, og at han vil sørge for at mennesker kan "Følg med" med kunstig intelligens. Han ser ut til å ha savnet den delen av sci-fi som fungerer som en advarsel for implikasjonene av teknologi.

Disse tankelesningssystemene kan påvirke vårt privatliv, sikkerhet, identitet, likhet og personlige sikkerhet. Vil vi virkelig ha alt som er igjen til selskaper med filosofier som Facebooks tidligere mantra, "bevege deg raskt og bryte ting"?

Selv om de høres futuristiske ut, er teknologiene som trengs for å lage hjernebølgeleseapparater ikke så ulik standard MRI (magnetisk resonansavbildning) og EEG (elektroencefalografi) nevrovitenskapelig verktøy som brukes på sykehus over hele verden. Du kan allerede kjøpe et sett for å kontrollere en drone med tankene dine, så å bruke en til å skrive ut ord er på noen måter ikke så mye av et sprang. Fremgangen vil sannsynligvis skyldes bruken av maskinlæring for å sile gjennom store mengder data samlet inn fra hjernen vår og finne mønstrene i nevronaktivitet som knytter tanker til bestemte ord.

Det vil trolig ta mye hjerneimplantat å utvikle seg, og det er viktig å skille ut det faktiske prestasjoner av Neuralink fra mediehype og promotering. Men Neuralink har gjort forbedringer samtidig i materialer for elektroder og robotassistert kirurgi for å implantere dem, og pakket teknologien pent slik at den kan leses via USB.

{vembed Y = kPGa_FuGPIc}

Facebook og Neuralinks planer kan bygge på etablert medisinsk praksis. Men når selskaper samler tanker direkte fra hjernen vår, er de etiske spørsmålene veldig forskjellige.

Ethvert system som kan samle inn data direkte fra hjernen vår, har klare personvernrisikoer. Personvern handler om samtykke. Men det er veldig vanskelig å gi ordentlig samtykke hvis noen tapper direkte på tankene våre. Silicon Valley selskaper (og myndigheter) allerede samle surreptitiously så mye data om oss som de kan, og bruk dem på måter vi ville gjort heller gjorde de ikke det. Hvor sikre kan vi være at våre tilfeldige og personlige tanker ikke blir fanget og studert sammen med instruksjonene vi ønsker å gi teknologien?

Diskriminering og manipulasjon

En av de eksisterende etiske problemstillingene med datainnsamling er diskriminering basert på attributter som kjønn eller rase som kan skilles ut fra dataene. Å gi et vindu inn i folks sinn kan gjøre det lettere å bestemme andre ting som kan ligge til grunn for fordommer, for eksempel seksualitet eller politisk ideologi, eller til og med forskjellige tenkemåter som kan omfatte ting som autisme.

Med et system som tapper direkte inn i hjernen din, kan ikke bare tankene dine bli stjålet, men det er også mulig at de også kan manipuleres. Hjernestimulering er allerede utviklet for å hjelpe behandle PTSD og redusere vold. Det er til og med oppsiktsvekkende påstander som det kan brukes til laste opp kunnskap direkte akkurat som i filmen The Matrix.

Et forutsigbart trinn ville være å kombinere "inn" og "ut" teknologiene for et to-veis hjerne-datamaskin-grensesnitt. Potensialet for regjeringer til å gjøre oss mer kompatible, for arbeidsgivere å tvinge oss til å jobbe hardere, eller for at selskaper skal få oss til å ønske flere av produktene sine understreker hvor alvorlig vi bør ta denne teknologien.

Facebooks prototype hjernebølgeleseapparat. Facebook

Hvis tankelesingsenheter blir en vanlig måte å samhandle med datamaskiner på, kan vi ende opp med lite annet valg enn å bruke dem for å følge med på mer produktive kolleger. (Se for deg at noen i dag søker om en kontorjobb, men nekter å bruke e-post.) Og hvis implantater i Neuralink-stil blir normen, kan dette også føre til større ulikhet bestemt av hvilket nivå av sett du hadde råd til å ha installert.

Elon Musk har uttalt at det enorme lånet som kreves for å gi Neuralink-kirurgi, ville bli utlignet av potensielle inntekter for den "forbedrede". Ideen om at folk føler seg presset til å ta på seg store gjeld for å få operert bare for å beholde jobben kommer direkte fra en sci-fi dystopi.

På toppen av alt dette er den mer direkte fysiske trusselen om å ha systemer fysisk inntrengende i hjernen vår. Mens noen mennesker kanskje vil endre hjernen sin med et datamaskingrensesnitt (det er allerede mange av eksperimentelle biohackere), for å rulle dette ut i stor skala ville det kreve massiv og grundig testing.

Gitt Silicon Valley rykte (og forkjærlighet) for å bryte ting i stedet for å stoppe for å tenke gjennom dem, vil disse systemene trenge tett regulering og etisk gjennomgang til og med før testingen begynner. Ellers risikerer det å skape lemlestede humane marsvin.

For alt dette kan det være store fordeler ved å fortsette forskning på dette området, spesielt for de som lider av lammelse eller sansesvikt. Men Silicon Valley skal ikke være i stand til å diktere måten disse teknologiene blir utviklet og distribuert. Hvis de gjør det, kan det radikalt omforme måten vi identifiserer oss som mennesker.

Om forfatteren

Garfield Benjamin, postdoktor, School of Media Arts and Technology, Solent University

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.