Amazon Echo og Alexa stemmeassistenten har hatt mye publiserte problemer med personvern. Enten det er mengden data de samler inn eller det faktum at de angivelig betaler ansatte og til tider eksterne entreprenører fra hele verden til lytte til opptak for å forbedre nøyaktigheten, er potensialet for at sensitive personopplysninger skal lekke gjennom disse enhetene.
Men risikoen utvides ikke bare til vårt forhold til Amazon. Store personvernbekymringer begynner å dukke opp i måten Alexa-enheter interagerer med andre tjenester - og risikerer at en dystopisk spiral øker overvåking og kontroll.
Oppsettet av Echo gjør Amazon til en ekstra gateway som alle online interaksjoner må passere gjennom, og samle inn data om hver enkelt. Alexa vet hva du søker etter, lytter til eller sender inn meldingene dine. Noen smarttelefoner gjør dette allerede, spesielt de som er laget av Google og Apple som kontrollerer maskinvare, programvare og skytjenester.
Men forskjellen med et ekko er at det samler de verste aspektene ved smarttelefoner og smarthus. Det er ikke en personlig enhet, men integrert i hjemmemiljøet, som alltid venter på å høre på. Alexa har til og med et kunstprosjekt (ikke laget av Amazon) som prøver å gjøre lys av dette med det skumle “Spør lytterne”-Funksjon som kommenterer hvor mye enheten spionerer på deg. Noen Echo-enheter har allerede kameraer, og hvis ansiktsgjenkjenningsfunksjonene ble lagt til, kunne vi komme inn i en verden av gjennomgripende overvåking i våre mest private områder, til og med sporet når vi beveger oss mellom steder.
{vembed Y = MnvJ4Bh60L8}
Denne teknologien gir Amazon en enorm mengde kontroll over dataene dine, som lenge har vært målet for de fleste av tech-gigantene. Samtidig som eple og Google - som møter deres egne personvernproblemer - har lignende taleassistenter, de har i det minste gjort fremgang med å kjøre programvaren direkte på enhetene sine, slik at de ikke trenger å overføre innspillinger av stemmekommandoene dine til serverne deres. Det ser ikke ut til at Amazon prøver å gjøre det samme.
Dette er delvis på grunn av firmaets aggressive forretningsmodell. Amazons systemer ser ikke bare ut til å samle så mye data de kan, men også for å skape måter å dele dem på. Så de potensielle problemene løper mye dypere enn Alexa hører på i private øyeblikk.
Deling med rettshåndhevelse
Et bekymringsområde er potensialet for å sette ørene til rettshåndhevelse i våre hjem, skoler og arbeidsplasser. Apple har en historie med å motstå FBI-forespørsler for brukerdata, og Twitter er relativt gjennomsiktig når det gjelder rapportering om hvordan den svarer på forespørsler fra regjeringer.
Men Ring, det internett-tilkoblede kameraselskapet hjemme-sikkerhet som eies av Amazon, har et høyt profilert forhold til politiet det innebærer overlate brukerdata. Selv måten innbyggere og politi kommuniserer på blir i økende grad overvåket og kontrollert av Amazon.
Lytter alltid. Tomasso79 / Shutterstock
Dette risikerer å legge inn en kultur med statlig overvåking i Amazons operasjoner, noe som kan ha bekymringsfulle konsekvenser. Vi har sett mange eksempler på rettshåndhevelse og andre myndigheter i demokratiske land som bruker personopplysninger for å spionere mot folk, begge i brudd på loven og innenfor det, men av grunner som går langt forbi forebygging av terrorisme. Denne typen masseovervåkning skaper også et sterkt potensiale for diskriminering, da det gjentatte ganger har vist seg å ha en dårligere innvirkning på kvinner og minoritet grupper.
Hvis Amazon ikke er villig til å skyve tilbake, er det ikke vanskelig å forestille seg Alexa-innspillinger som blir overlevert til forespørsler fra myndighetsansatte og rettshåndhevelsesansvarlige som kan være villige til å krenke lovens ånd eller bokstav. Og gitt internasjonale avtaler om deling av etterretningstjenester, selv om du stoler på din egen regjering, stoler du på andre?
Som svar på dette problemet sa en talsperson fra Amazon: “Amazon røper ikke kundeinformasjon som svar på myndighetskrav med mindre vi er pålagt å gjøre det for å etterkomme en juridisk gyldig og forbløffende ordre. Amazon tar imot å overtrykke eller på annen måte upassende krav som en selvfølge.
"Ringkunder bestemmer om de vil dele opptak som svar på spørsmål fra lokalt politi som etterforsker saker. Lokalt politi kan ikke se noen informasjon relatert til hvilke Ring-brukere mottok en forespørsel, og om de nektet å dele eller avvise fremtidige forespørsler." la til at selv om lokalt politi kan få tilgang til Rings naboer-app for rapportering av kriminell og mistenkelig aktivitet, kan de ikke se eller få tilgang til brukerkontoinformasjon.
Sporing av helseproblemer
Helse er et annet område der Amazon ser ut til å forsøke et overtak. Storbritannias nasjonale helsetjeneste (NHS) har signert en avtale for medisinsk rådgivning levert via Echo. Pålydende utvider dette ganske enkelt måter å få tilgang til offentlig tilgjengelig informasjon som NHS-nettstedet eller telefonlinjen 111 - ingen offisielle pasientdata blir delt.
Men det skaper muligheten for at Amazon kan begynne å spore hvilken helseinformasjon vi ber om gjennom Alexa, og effektivt bygge profiler av brukernes medisinske historie. Dette kan være knyttet til online shoppingforslag, tredjepartsannonser for kostbare behandlingsformer, eller til og med annonser som er potensielt traumatiske (tror kvinner som har lidd spontanaborter blir vist babyprodukter).
En talsperson for Amazon sa: “Amazon bygger ikke kundehelseprofiler basert på interaksjoner med nhs.uk-innhold eller bruker slike forespørsler i markedsføringsøyemed. Alexa har ikke tilgang til personlig eller privat informasjon fra NHS. ”
Grovheten og manglene ved algoritmisk reklame ville krenke de profesjonelle og moralske standardene som helsetjenestene streber etter å opprettholde. I tillegg vil det være svært inngripende å behandle dataene på samme måte som mange Echo-opptak. Vil du at en tilfeldig ekstern entreprenør skal vite at du ba om råd om seksuell helse?
Åpenhet
Det som ligger til grunn for disse problemene er mangel på reell åpenhet. Amazon er urovekkende stille, unnvikende og motvillig å handle når det gjelder å takle personvernkonsekvensene av deres praksis, hvorav mange er gravlagt dypt innenfor deres vilkår eller vanskelige innstillinger. Selv ikke teknologikyndige brukere vet nødvendigvis det fullt omfang av personvernrisikoen, og når personvernfunksjoner legges til, er de ofte bare gjøre brukere oppmerksom på etter at forskere eller pressen reiser saken. Det er helt urettferdig å legge en slik belastning på brukerne for å finne ut og avbøte hva disse risikoene er.
Så hvis du har et ekko hjemme, hva bør du gjøre? Det er mange tips tilgjengelig på hvordan du gjør enheten mer privat, for eksempel å stille inn taleopptak for automatisk å slette eller begrense hvilke data som deles med tredjeparter. Men smart tech er nesten alltid overvåkningsteknologi, og det beste rådet er å ikke ta en med hjemmet ditt.
Som svar på hovedpunktene i denne artikkelen, fortalte en Amazon-talsperson The Conversation:
Hos Amazon er kundenes tillit i sentrum for alt vi gjør, og vi tar personvern og sikkerhet veldig alvorlig. Vi har alltid trodd at personvern må være grunnleggende og innebygd i alle deler av maskinvare, programvare og service som vi oppretter. Fra begynnelsen har vi satt kunder i kontroll og ser alltid etter måter å gjøre det enda enklere for kundene å ha åpenhet og kontroll over Alexa-opplevelsen deres. Vi har introdusert flere personvernforbedringer, inkludert muligheten til å slette stemmemottak automatisk etter tre eller 18 måneder fortløpende, muligheten til å be Alexa om å "slette det jeg nettopp sa" og "slette det jeg sa i dag," og Alexa Privacy Hub, en ressurs tilgjengelig globalt som er dedikert til å hjelpe kunder å lære mer om vår tilnærming til personvern og kontrollene de har. Vi vil fortsette å finne opp flere personvernfunksjoner på vegne av kunder.
Denne artikkelen er endret for å tydeliggjøre funksjonen "Spør lytterne" er et kunstprosjekt laget av en tredjepart.
om forfatteren
Garfield Benjamin, postdoktor, School of Media Arts and Technology, Solent University
Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.
