1st Chatbot Summit i Israel 2016. (CC SA 4.0)

Det er så vanskelig å snakke med en ekte person på telefonen i disse dager. Nesten hvor som helst du trenger å ringe din bank, lege eller annen tjeneste, vil du sannsynligvis bli møtt av en automatisert tjeneste som tilsynelatende er utformet for å hindre deg i å snakke med noen som faktisk jobber for selskapet. Og det kan snart bli verre takket være oppgangen til chatbots.

Chatbots er kunstige intelligensprogrammer, ofte distribuert i apper eller meldtjenester. De er utformet for å svare på folks spørsmål i en konversasjonsstil, i stedet for bare å peke mot informasjon som en søkemotor. Bedrifter som Uber, Lufthansa og Pizza Express bruker allerede dem til å fylle kundeforespørsler og ta bestillinger, og mange flere er på vei.

De har potensial til forbedre noen aspekter av kundeservice, og er sikkert enklere å bruke enn automatiserte telefonsystemer som sliter med å forstå selv dine grunnleggende personlige detaljer. Men de er også en annen hindring for å skille kunder fra et menneske som faktisk kan svare på vanskelige spørsmål, og det er viktig å vise medfølelse og god vilje om at sterk kundeservice ofte er basert på. Det er en sjanse for at chatbots kan få både forbrukere og bedrifter til å finne ut det på den harde måten.

Automatisering av kundeservice, eller i det minste en del av det, er en innbydende tanke for mange selskaper. Ikke bare kan det redusere eksponeringen av menneskelige ansatte for mange av de ubehagelige i jobben, det kan også bidra til å skjerme ut mange vanlige eller trivielle problemer tidlig før den dyre oppmerksomheten til et menneske er nødvendig. Dette kan hjelpe bedrifter med å redusere kostnadene mens de beroliger kunder som bare trenger enkle løsninger på standardproblemer.

Men å erstatte menneskelige ansatte med kunstige er ikke så greit. Til å begynne med, språk, med alle dets variasjoner og feil og til tross for virkelig imponerende fremgang i automatisk anerkjennelse og oversettelse, er fortsatt et vanskelig problem. Automatiserte representanter er fortsatt betydelig mindre kompetente og språkbevisste, og for noen problemer vil det være vanskelig eller umulig å kommunisere med.

Bra, men ikke bra nok

Talent er evnen til å fungere bra. Mastery er evnen til å fikse en uvanlig vanskelig situasjon. Det er kunst for å håndtere unntaket, og god kundeservice handler ofte om de uvanlige eller uventede tilfellene som involverer potensielt sint kunder. Mens chatbots kan overbevisende gi svar på grunnleggende spørsmål, er AI ennå ikke smart nok til å håndtere de sjeldne og eksepsjonelle eksemplene.

Bedrifter kan ikke i utgangspunktet se dette som et problem, da det introduserer en måte å skille kunder med hvis tjeneste krever å gå den ekstra milen. Bare de som har problemer med å forvirre botten, må overføres til en menneskelig ansatt. Men å gå gjennom denne frustrerende prosessen med å snakke med en forvirret datamaskin, vil trolig gjøre kunden mer sint på tjenesten. På sikt kan dette oppfordre dem til å drive sin virksomhet andre steder, spesielt hvis det er vanskelig å få en menneskelig representant til å komme til redning når boten ikke hjelper.

Jeg opplevde en versjon av dette problemet selv når jeg prøvde å bestille en drosje etter et togbrudd. Da jeg ringte det lokale firmaet jeg hadde et nummer til, ble jeg gjennomført til en automatisert tjeneste som helt ikke kunne forstå pickupplasseringen, i alle variasjoner av navngivning og uttale som jeg kunne tenke på.

Gjennom litt serendipity var jeg koblet til en menneskelig representant, men før jeg hadde tid til å uttale min vanskelighet, fortalte han meg: "Jeg skal legge deg gjennom til bookingsystemet" - og den inferniske sløyfen gjenopptas. Den triste historien endte med en veldig lang tur, en heldig henting av en menneskelig drevet svart drosje i et ellers helt øde område, og et løfte om å fjerne det første selskapet når det er mulig.

Automatiserte systemer kan være i stand til å håndtere vanlige tilfeller. Men de kan ennå ikke tilpasse seg eksepsjonelle omstendigheter eller til og med innse at fleksibiliteten til menneskelig intervensjon er nødvendig. Og problemet, fra forbrukerens synspunkt, går videre enn det. Noen situasjoner krever ikke bare menneskelig forståelse og problemløsing, men et nivå av medfølelse og empati.

En chatbot kan programmeres til å adoptere en viss stil av samspill, men det vil fortsatt høres ulikt ut av sted i uventede eller vanskelige sammenhenger. Det er foreløpig ingen praktisk veikart i AI-forskning for hvordan å implementere noe som overbevisende ligner menneskelig medfølelse.

Noen ganger er sint kundene hyggelige ord og sjansen til å uttrykke seg til noen som er villige til å lytte, så vel som til og med noen ganger i stedet for å faktisk ha sitt problem løst. Og ofte god kundeservice er avhengig av bevegelser med god vilje etter individuelle ansattes skjønn, etter deres egne følelser av empati enn et sett med faste regler.

Dette ville være svært vanskelig for AI å replikere fordi det avhenger så tungt av situasjonen. Etter min mening er kontekstforståelse fortsatt et av de største uklarhetene og uløste problemene til AI, og vil trolig forbli det i ganske mange år framover.

Til tross for dette ser det kostnadsbesparende løftet og andre fordeler med automatisering seg så attraktivt at chatbots og andre AI kundeservice fortsatt er satt til å drastisk utvide de kommende årene. Det sannsynlige resultatet, i hvert fall i midten, synes å være en enda mer teknokratisk behandling av klager med mindre fleksibilitet. Eller verre, når algoritmer blir stadig mer raffinert, an ugjennomsiktig beslutningsprosess med svært lite rom for mellomstore inngrep av en menneskelig veileder.

Hvis vi vil unngå dette, må vi innse at veien til hjelp ikke er banet med gode intensjoner, men funnet i å forstå hvor begrenset AI for tiden er på å forstå sammenhenger, unntak og den menneskelige tilstanden.

om forfatteren

Daniel Polani, professor i kunstig intelligens, University of Hertfordshire

Denne artikkelen ble opprinnelig publisert på Den Conversation. Les opprinnelige artikkelen.

Relaterte bøker

at InnerSelf Market og Amazon