Shhhh, They're Listening – Inside The Coming Voice Profiling Revolution
Bedrifter kan snart skreddersy det de prøver å selge deg basert på stemningen som formidles av lyden av stemmen din.
CSA-Printstock via Getty Images

Du bestemmer deg for å ringe en butikk som selger noen tursko du tenker å kjøpe. Når du ringer inn, aktiveres datamaskinen til et kunstig intelligensfirma som er ansatt av butikken. Den henter sin analyse av talestilen du brukte da du ringte programvarefirmaets tjenester til andre selskaper. Datamaskinen har konkludert med at du er "vennlig og pratsom."

Ved hjelp av prediktiv ruting kobler den deg til en kundeserviceagent som bedriftsforskning har identifisert som spesielt gode til å få vennlige og pratsomme kunder til å kjøpe dyrere versjoner av varene de vurderer.

Denne hypotetiske situasjonen kan høres ut som om den er fra en fjern fremtid. Men automatiserte stemmestyrte markedsføringsaktiviteter som dette skjer hele tiden.

Hvis du hører "Denne samtalen blir tatt opp for opplæring og kvalitetskontroll," er det ikke bare kundeservicemedarbeideren de overvåker.


innerself subscribe graphic


Det kan også være deg.

Når jeg forsker på den kommende boken min, “The Voice Catchers: Hvordan markedsførere lytter til for å utnytte dine følelser, ditt privatliv og lommeboken din, ”Jeg gikk gjennom over 1,000 fagmagasiner og nyhetsartikler om selskapene som er knyttet til ulike former for stemmeprofilering. Jeg undersøkte hundrevis av sider med amerikanske og EU-lover som gjelder biometrisk overvåking. Jeg analyserte dusinvis av patenter. Og fordi så mye om denne bransjen utvikler seg, snakket jeg med 43 mennesker som jobber med å forme den.

Det ble snart klart for meg at vi er i de tidlige stadiene av en stemmeprofilerende revolusjon som bedrifter ser på som en integrert del av fremtiden for markedsføring.

Takket være publikums omfavnelse av smarte høyttalere, intelligente bilutstillinger og stemmesvarende telefoner - sammen med fremveksten av taleintelligens i ringesentre - sier markedsførere at de er på randen til å kunne bruke AI-assistert stemmeanalyse-teknologi for å oppnå enestående innsikt i shoppernes identitet og tilbøyeligheter. Når de gjør det, tror de at de vil være i stand til å omgå feilene og svindelen knyttet til tradisjonell målrettet annonsering.

Ikke bare kan folk bli profilert av deres talemønster, men de kan også vurderes av lyden av deres stemmer - som, ifølge noen forskere, er unik og kan avsløre deres følelser, personligheter og til og med deres fysiske egenskaper.

Feil i målrettet annonsering

Topp markedsføringsledere jeg intervjuet sa at de forventer at deres kundeinteraksjoner inkluderer stemmeprofilering innen et tiår eller så.

Noe av det som tiltrekker dem til denne nye teknologien er troen på at det nåværende digitale systemet for å skape unike kundeprofiler - og deretter målrette dem med personlige meldinger, tilbud og annonser - har store ulemper.

En kokende bekymring blant internettannonsører, en som brast ut i det fri i løpet av 2010-tallet, er at kundedata ofte ikke er oppdatert, profiler kan være basert på flere brukere av en enhet, navn kan forveksles og folk lyver.

Annonsører er også urolige med annonseblokkering og klikksvindel, som skjer når et nettsted eller en app bruker roboter eller lavtlønnede arbeidere for å klikke på annonser som er plassert der, slik at annonsørene må betale opp.

Dette er alle barrierer for å forstå individuelle kunder.

Stemeanalyse blir derimot sett på som en løsning som gjør det nesten umulig for folk å skjule følelsene sine eller unndra seg identiteten.

Å bygge ut infrastrukturen

Mesteparten av aktiviteten innen stemmeprofilering skjer i kundesupportsentre, som stort sett er utenfor offentligheten.

Men det er det også hundrevis av millioner av Amazon Echoes, Google Nests og andre smarte høyttalere der ute. Smarttelefoner inneholder også slik teknologi.

Alle lytter og fanger folks individuelle stemmer. De svarer på dine forespørsler. Men assistentene er også knyttet til avansert maskinlæring og dype nevrale nettverksprogrammer som analyserer hva du sier og hvordan du sier det

Call centers can use AI-assisted voice technology to determine whether to upsell certain customers.Telefonsentre kan bruke AI-assistert taleteknologi for å avgjøre om de skal selge visse kunder. Ralf Hiemisch via Getty Images

Amazon og Google - de ledende leverandørene av smarte høyttalere utenfor Kina - ser ut til å gjøre lite stemmeanalyse på disse enhetene utover å gjenkjenne og svare på individuelle eiere. Kanskje de frykter at det å skyve teknologien for langt på dette tidspunktet vil føre til dårlig omtale.

Ikke desto mindre gir brukeravtalene fra Amazon og Google - i tillegg til Pandora, Bank of America og andre selskaper som folk rutinemessig får tilgang til via telefonapper - dem retten til å bruke sine digitale assistenter. å forstå deg slik du høres ut.

Amazons mest offentlige bruk av stemmeprofilering så langt er Halo-armbåndet, som hevder å kjenne følelsene du formidler når du snakker med slektninger, venner og arbeidsgivere. Selskapet forsikrer kundene om at de ikke bruker Halo-data til egne formål. Men det er tydeligvis et bevis på konseptet - og et nikk mot fremtiden.

Patenter peker på fremtiden

Patentene fra disse teknologiselskapene gir en visjon om hva som kommer.

I ett Amazon-patent, en enhet med Alexa-assistenten plukker opp en kvinnes tale uregelmessigheter som innebærer forkjølelse ved å bruke "en analyse av tonehøyde, puls, stemme, jittering og / eller harmonisering av en brukers stemme, som bestemt fra behandling av taledataene." Fra den konklusjonen spør Alexa om kvinnen vil ha en oppskrift på kyllingsuppe. Når hun sier nei, tilbyr det å selge hostedråper med en times levering.

Nok et Amazon-patent foreslår en app for å hjelpe en butikkselger med å dechiffrere en shoppers stemme til ubevisste reaksjoner på produkter. Påstanden er at hvordan folk høres ut angivelig gjør en bedre jobb som indikerer hva folk liker enn deres ord.

Og en av Googles proprietære oppfinnelser innebærer å spore familiemedlemmer i sanntid ved hjelp av spesielle mikrofoner plassert i et hjem. Basert på tonehøyde for stemmesignaturer, viser Google-kretsløp informasjon om kjønn og alder - for eksempel en voksen mann og ett kvinnelig barn - og merker dem som separate individer.

Selskapets patent hevder at over tid vil systemets “husholdningspolitiske leder” kunne sammenligne livsmønstre, for eksempel når og hvor lenge familiemedlemmer spiser måltider, hvor lenge barna ser på TV og når elektroniske spillapparater fungerer - og deretter la systemet foreslå bedre spiseplaner for barna, eller tilby å kontrollere TV-visning og spill.

Forførende overvåking

I Vesten starter veien mot denne annonseringsfremtiden med at bedrifter oppfordrer brukerne til å gi dem tillatelse til å samle inn taledata. Bedrifter får kundenes tillatelse ved å lokke dem til å kjøpe rimelige taleteknologier.

Når teknologibedrifter har videreutviklet programvare for stemmeanalyse - og folk har blitt stadig mer avhengige av taleenheter - forventer jeg at selskapene begynner å utbrede profilering og markedsføring basert på taledata. Hilsen til brevet hvis ikke ånden til personvernlover som eksisterer, vil jeg forvente at selskapene vil gå videre i sine nye inkarnasjoner, selv om de fleste av brukerne deres ble med før denne nye forretningsmodellen eksisterte.

Denne klassiske agn og bryter markerte fremveksten av både Google og Facebook. Først da antallet mennesker som strømmet til disse nettstedene ble stort nok til å tiltrekke seg høyt betalte annonsører, styrket forretningsmodellene seg rundt salg av annonser tilpasset det Google og Facebook visste om brukerne sine.

Innen da, nettstedene hadde blitt så viktige deler av brukernes daglige aktiviteter at folk følte at de ikke kunne forlate, til tross for bekymring for datainnsamling og analyse som de ikke forsto og ikke kunne kontrollere.

Denne strategien begynner allerede å spille ut som titalls millioner forbrukere kjøp Amazon Echoes til gavepriser.

Den mørke siden av stemmeprofilering

Her er fangsten: Det er ikke klart hvor nøyaktig stemmeprofilering er, spesielt når det gjelder følelser.

Det er sant, ifølge Carnegie Mellon stemmegjenkjenningsforsker Rita Singh, at aktiviteten til dine vokale nerver er knyttet til din følelsesmessige tilstand. Imidlertid fortalte Singh meg at hun er bekymret for at folk med begrensede ferdigheter med den enkle tilgjengeligheten av maskinlæringspakker vil bli fristet til å kjøre dårlige analyser av folks stemmer, og føre til konklusjoner som er like tvilsomme som metodene.

Hun hevder også at slutninger som knytter fysiologi til følelser og former for stress kan være kulturelt partisk og utsatt for feil. Den bekymringen har ikke avskrekket markedsførere, som vanligvis bruker stemmeprofilering for å trekke konklusjoner om individers følelser, holdninger og personligheter.

Mens noen av disse fremskrittene lover å gjøre livet lettere, det er ikke vanskelig å se hvordan taleteknologi kan misbrukes og utnyttes. Hva om stemmeprofilering forteller en potensiell arbeidsgiver at du er en dårlig risiko for en jobb du begjærer eller sårt trenger? Hva om det forteller en bank at du har en dårlig risiko for et lån? Hva om en restaurant bestemmer at den ikke tar reservasjonen din fordi du høres lav klasse eller for krevende?

Tenk også på diskrimineringen som kan finne sted hvis taleprofilerere følger noen forskeres påstander at det er mulig å bruke individets vokalisering for å fortelle personens høyde, vekt, rase, kjønn og helse.

Folk er allerede utsatt for forskjellige tilbud og muligheter basert på den personlige informasjonen selskapene har samlet inn. Stemmeprofilering gir et spesielt lumsk merkemiddel. I dag er det noen stater som Illinois og Texas kreve at selskaper ber om tillatelse før du utfører analyse av vokal-, ansikts- eller andre biometriske trekk.

Men andre stater forventer at folk skal være oppmerksomme på informasjonen som samles inn om dem fra personvernpolicyene eller tjenestevilkårene - noe som betyr at de sjelden vil. Og den føderale regjeringen har ikke vedtatt en omfattende lov om markedsovervåking.

Med den truende utbredelsen av stemmeanalyseteknologi er det viktig for regjeringens ledere å vedta retningslinjer og forskrifter som beskytter personlig informasjon avslørt av lyden av en persons stemme.

Ett forslag: Mens bruk av stemmeautentisering - eller bruk av en persons stemme for å bevise sin identitet - kan være tillatt under visse nøye regulerte omstendigheter. All stemmeprofilering bør være forbudt i markedsførers interaksjon med enkeltpersoner. Dette forbudet bør også gjelde for politiske kampanjer og for myndighetsaktiviteter uten en garanti.

Det virker som den beste måten å sikre at den kommende tiden med stemmeprofilering er begrenset før den blir for integrert i dagliglivet og for gjennomgripende til å kontrollere.The Conversation

Om forfatteren

Joseph Turow, Robert Lewis Shayon professor i mediesystemer og industrier, University of Pennsylvania

Denne artikkelen er publisert fra Den Conversation under en Creative Commons-lisens. Les opprinnelige artikkelen.