AI i kundeservice: hvornår servicevirksomheder skal overtage

Af Anton Schwartz, medstifter af Konverto

Klokken er 16.40 en fredag. En kunde skriver på Facebook: "I har lagt det gulv i oktober, og nu buler det op ved døren. Hvad vil I gøre ved det?" Systemet svarer venligt, at det lyder som en spændende opgave, og spørger om postnummeret. Kunden skriver igen. Systemet spørger, hvornår det passer med en besigtigelse. Tredje besked fra kunden er kortere, og den er ikke venlig længere.

Ingen af de tre svar var faktuelt forkerte. Fejlen var, at samtalen aldrig burde være kommet dertil. AI i kundeservice går galt næsten altid på samme måde: ikke fordi maskinen siger noget usandt, men fordi den bliver ved, hvor den skulle have sluppet. Den beslutning er ikke teknisk. Det er en liste du selv skriver, og den kan skrives på én side.

Denne artikel handler om de to halvdele af den liste: hvornår AI'en skal stoppe, og hvordan overleveringen til et menneske skal se ud. Vil du i stedet læse om telefonen, ligger det i AI receptionist, og om chatboblen på hjemmesiden i chatbot til hjemmeside.

AI i kundeservice: hvor går grænsen for servicevirksomheder?

Grænsen går dér, hvor et svar binder dig. Så længe systemet samler oplysninger, svarer på noget du selv har skrevet offentligt, og foreslår en tid, kan det tage fejl uden at koste andet end en rettelse. I det øjeblik et svar siger en pris, anerkender en fejl, afviser et ansvar eller vurderer en skade, er svaret blevet en handling på virksomhedens vegne. Det er dét skifte, listen skal fange.

Der ligger også en grænse i loven, men den er anderledes, end folk tror. AI-forordningen pålægger ikke, at et menneske skal overtage i kundeservice. Hvad den kræver, er åbenhed: efter artikel 50, stk. 1 skal udbydere sikre, at AI-systemer, der er tilsigtet at interagere direkte med fysiske personer, udformes så personen oplyses om, at den interagerer med et AI-system, medmindre det er indlysende. Efter stk. 5 skal oplysningen gives klart og synligt senest ved den første interaktion (EU 2024/1689). Pligten ligger hos udbyderen af systemet, ikke hos dig, men den handler om at kunden ved, hvem han skriver med. Resten af grænsen sætter du selv.

Og det er ikke kun pænt af dig. Nielsen Norman Groups deltagere var glade, når virksomheden var åben om at bruge en bot, fordi de så kunne kalibrere både deres forventninger og deres sprog (Nielsen Norman Group). En kunde, der ved, at der sidder en maskine, skriver kortere og mere direkte, og bliver forstået oftere. Hvad der skal stå om personoplysninger, står i AI og GDPR.

Hvad kan AI ikke svare på i en kundesamtale?

Tre slags spørgsmål, og de har en ting til fælles: svaret kræver, at nogen tager ansvar.

Spørgsmål om noget fysisk, ingen har set. Hvor meget buler gulvet? Er det fugt eller slid? Holder det til vinteren? Et skøn over en genstand kræver øjne på den. Systemet kan tage imod en beskrivelse og et billede, og det kan sætte en besigtigelse i kalenderen. Det kan ikke konkludere.

Spørgsmål om skyld. "Er det jeres fejl?" er ikke et oplysningsspørgsmål, det er starten på en sag. Et svar den ene vej koster penge, et svar den anden vej koster kunden. Begge svar bliver gemt og vist frem senere.

Spørgsmål om hvad det koster. Her er der en konkret regel at holde sig til. Forbrugerombudsmanden skriver, at virksomheder skal give korrekte prisoplysninger, og at priser til forbrugere altid skal oplyses inklusive moms og gebyrer. Momsen skal med første gang, forbrugeren får prisen at vide, og på alle efterfølgende trin, og det gælder også når virksomheden taler med forbrugeren. Et generelt prisforbehold i handelsvilkår eller annoncer er ikke tilladt (Forbrugerombudsmanden). Derfor er "fra 450 kroner i timen, plus moms" ikke et svar en maskine skal kunne finde på at give.

Dertil kommer en begrænsning i hvordan systemerne virker. Nielsen Norman Group fandt, at problemerne opstod så snart brugerne afveg fra det forventede forløb, og at bots havde svært ved at finde sporet igen (Nielsen Norman Group). Studiet er fra 2018 og modellerne er blevet bedre, men mønsteret holder: det der ligger uden for det forberedte, bliver besvaret med noget generelt.

De otte situationer hvor AI'en skal give slip

Her er listen. Den er kort med vilje: en liste på tyve punkter bliver ikke prøvet igennem.

Fire af rækkerne står på noget, der er værd at kende. Om den klagende kunde skriver Bolius, at hvis du gør håndværkeren opmærksom på noget, du ikke er tilfreds med, og vedkommende ordner det hurtigt, er der slet ikke tale om en klage i ordets egentlige betydning. Formelle klager bliver først relevante, hvis håndværkeren ikke anerkender problemet, ikke anerkender ansvaret, eller ikke reagerer på henvendelserne (Bolius, februar 2024). Det sidste er præcis det, der sker, når en klage bliver holdt inde i en automatisk samtale: kunden oplever, at ingen reagerer. Vejen videre er ikke teoretisk: en forbrugerklage starter hos Mæglingsteamet for Forbrugerklager, før den kan gå videre til Forbrugerklagenævnet (Nævnenes Hus), og sagsbehandlingstiden i de to private ankenævn på byggeområdet var i 2022 omkring et halvt år (Bolius).

Om den pressede kunde er der en regel, der ligger tættere på, end man tror. Markedsføringslovens § 7 forbyder utilbørlig påvirkning, og blandt det der vægtes, er om virksomheden udnytter en konkret uheldig situation eller omstændighed, der er så alvorlig, at den indskrænker forbrugerens vurderingsevne, og som virksomheden har kendskab til (Forbrugerombudsmanden). Et system, der bliver ved med at sælge til en, der netop har skrevet at huset står under vand, er ikke bare taktløst.

Om de to misforståelser: det er grænsen, der er lettest at måle og sværest at huske at sætte. Nielsen Norman Groups deltagere blev generelt irriterede, når botten gentog samme svar igen og igen, mens UPS-botten advarede brugeren om, at den var ved at gentage sig, og i stedet tilbød at koble over til en rigtig person. At vedkende sig fejlen og tilbyde en udvej blev set positivt (Nielsen Norman Group).

Om den sidste række er der ikke noget at forhandle. Beder kunden om et menneske, er samtalen slut. Et system, der stiller et opklarende spørgsmål mere først, er ikke hjælpsomt.

Sådan laver du en overlevering kunden ikke skal gentage sig i

Grænsen er den lette halvdel. Overleveringen er den, kunden mærker.

Den værste version er den almindelige: AI'en skriver "jeg sætter dig i kontakt med en kollega", en mail lander i en indbakke med emnet "ny henvendelse", og tre timer senere skriver medarbejderen "Hej, hvad kan jeg hjælpe med?" Nu har kunden forklaret sig to gange, og den anden gang var til en der burde have vidst det.

Det er ikke en teoretisk risiko. Nielsen Norman Group fandt, at bots generelt ikke udnyttede oplysninger, brugeren havde givet tidligere. I et tilfælde havde en deltager indtastet sin adresse, fik at vide at der ikke blev leveret dertil, startede forfra med et andet valg, og blev bedt om adressen igen, som om botten havde glemt den. Et andet sted måtte brugeren præcisere hvilken konto hvert spørgsmål handlede om, fordi sammenhængen ikke blev båret videre (Nielsen Norman Group).

Fire krav gør forskellen, og de koster ingenting at stille:

Samtalen skal følge med, ikke en notifikation. Medarbejderen skal kunne læse hvert ord, kunden har skrevet, i den rækkefølge det blev skrevet. Et resumé er en genvej, ikke en erstatning, for det er i kundens egne formuleringer, tonen ligger.

Der skal være et navn på. Datatilsynet anbefaler i en anden sammenhæng at udpege en fast tovholder på databeskyttelse, og at kundens henvendelse sendes straks videre til den person (Datatilsynet). Princippet holder her: en overlevering til "kontoret" er ingen overlevering. Der skal stå hvem, og den person skal vide, at det er ham.

Der skal være et klokkeslæt. "En kollega vender tilbage" er ikke et løfte, det er en udsættelse. "Mikkel ringer dig op inden klokken 9 i morgen" er et løfte, og det kan holdes eller brydes, hvilket er hele pointen. Hvad der er realistisk at love, afhænger af hvor hurtigt I i forvejen svarer, og det kan måles: se svartid på henvendelser.

Kun de der skal se den, ser den. Datatilsynet skriver, at du skal begrænse adgangen, så det kun er personer med et arbejdsbetinget behov, der har adgang til systemerne (Datatilsynet). En klage, der ryger ud til hele firmaet i en fællesindbakke, er ikke en bedre overlevering, bare en bredere.

Hvad skal medarbejderen have med, når han tager over?

Fem ting, og de skal stå samlet i én besked, ikke i fire systemer.

Hvem kunden er og hvad sagen handler om. Hvad der allerede er lovet, ord for ord. Hvad der mangler for at kunne handle. Hvor hastende det er. Og et link til hele samtalen.

Her er den overlevering, medarbejderen skal modtage. Den handler om fredagseksemplet øverst:

Overtag: Lene Holm, 42 18 55 30, Vestergade 14, 8700 Horsens. Skriver på Facebook kl. 16.38. Gulv lagt hos jer oktober 2025, buler nu op ved hoveddøren, billede vedhæftet. Hun spørger hvad I vil gøre ved det. Hun har IKKE fået en vurdering af årsag eller ansvar, og der er ikke sagt noget om pris eller garanti. Lovet: at Mikkel ringer til hende inden kl. 10 mandag. Mangler: om der er sket noget ved døren siden, og om hun har kvitteringen. Hastegrad: ikke akut, men hun har skrevet tre gange i træk. Hele samtalen: link.

Læg mærke til den ene sætning i store bogstaver. Det vigtigste i en overlevering er ikke, hvad der er sagt, men hvad der udtrykkeligt ikke er sagt. En medarbejder, der ikke ved, om maskinen har antydet, at det dækkes af garantien, tør ikke tale frit, og det er dér samtalen bliver stiv.

To ting mere hører med. Det skal fremgå, at AI'en har svaret indtil nu, så medarbejderen ikke selv skal gætte, hvad kunden har oplevet. Og sagen skal kunne dokumenteres: Bolius påpeger, at klagesager hos ankenævnene normalt kører skriftligt, og at grundig dokumentation derfor er vigtig (Bolius). Tråden, du gemmer nu, er den dokumentation.

Hos Konverto samles henvendelser fra mail, sms, kontaktformular, hjemmeside-chat og Facebook og Instagram i samme tråd, så hele forløbet ligger samlet, når nogen tager over. Der er ikke en klippet kopi at samle sammen bagefter.

Hvad skal kunden have at vide undervejs?

Tre ting, og ikke flere: at der sker noget, hvem der gør det, og hvornår.

Det er her de fleste systemer bliver tågede, fordi tågen er nemmere at skrive. "Vi vender tilbage hurtigst muligt" er den sætning, der oftest bliver brudt, og den koster mere end et realistisk svar længere ude i fremtiden. Nielsen Norman Groups egen retningslinje er at fortælle tydeligt, hvad botten kan, og ikke skabe falske forventninger (Nielsen Norman Group).

Her er beskeden, AI'en skal sende, når den giver slip:

Tak, Lene. Det her skal du ikke have svar på af mig, for jeg er den digitale assistent hos {virksomhed}, og et gulv der buler op skal en af vores egne se på. Jeg har sendt det du har skrevet, og billedet, videre til Mikkel, og han ringer til dig på 42 18 55 30 inden klokken 10 mandag. Du skal ikke forklare det igen, han har hele beskeden. Haster det inden da, så ring til os på {telefon}.

Den gør fem ting på fem linjer. Den siger, hvad den er. Den siger, hvorfor den stopper, uden at undskylde sig. Den navngiver en person. Den sætter et klokkeslæt. Og den siger den sætning, der betyder mest for kunden: du skal ikke forklare det igen.

Så kommer den svære del, og den er ikke teknisk. Løftet skal holdes. Nielsen Norman Group formulerer prisen skarpt: er botten for primitiv, mister folk tilliden til virksomheden og føler sig ignoreret og uden værdi (Nielsen Norman Group). En udvej, der ender i en indbakke ingen åbner mandag morgen, er værre end ingen udvej: den flytter bare skuffelsen hen til et tidspunkt, hvor kunden havde sænket paraderne.

Tonen: hvad en AI aldrig skal love

Fire sætninger skal ikke kunne forekomme. De handler ikke om faktuel korrekthed, men om hvem der kan indfri dem.

Ingen priser på noget ingen har set. Både fordi overslaget bliver husket som et tilbud, og fordi en pris til en forbruger er reguleret: den skal være inklusive moms og gebyrer, allerede første gang den nævnes (Forbrugerombudsmanden). Er I ikke sikre på, at systemet kan ramme det rigtigt hver gang, skal det slet ikke oplyse priser.

Ingen anerkendelse og ingen afvisning af ansvar. Hverken "det skulle vi selvfølgelig have lavet om" eller "det er ikke vores arbejde". Det første giver en forpligtelse væk, det andet starter en sag. Og Bolius' pointe hører til her: når noget bliver ordnet hurtigt, er der slet ikke en klage. Det er mennesket, der kan ordne noget hurtigt.

Ingen datoer, der ikke står i en kalender. "Vi kan sikkert kigge på det i næste uge" er en aftale for kunden og en formodning for dig. Sig en tid der kan bookes, eller sig at nogen ringer.

Ingen gæt der præsenteres som viden. Det er den dyreste af de fire, og den er sværest at opdage, for et gæt lyder som et svar. Her findes der et målt alternativ: i Nielsen Norman Groups studie var det skuffende at få at vide, at et spørgsmål ikke blev forstået, men stadig bedre end at få et åbenlyst forkert svar, og en deltager sagde direkte, at det var rart, at botten var ærlig om ikke at forstå (Nielsen Norman Group). Og der ligger også en lovlighedsgrænse: markedsføringslovens §§ 5 og 6 forbyder vildledende eller urigtige oplysninger og udeladelse af oplysninger, der er væsentlige for forbrugeren (Forbrugerombudsmanden). Et gæt om pris, tid eller dækning, som kunden handler ud fra, er ikke uden konsekvenser, blot fordi en maskine sagde det.

Derfor er "jeg henter en kollega" en bedre sætning end noget som helst fundet på. Den er aldrig forkert, den kan altid holdes, og den er den eneste af slagsen. Fik man kun lov at skrive én regel ind i et system, ville det være denne: når du ikke ved det, så sig det, og giv den videre.

Hvordan opdager du de samtaler hvor AI'en burde have givet slip?

Du kan ikke læse alt, og du skal ikke. Du skal kunne finde de få samtaler, hvor det gik skævt, og de har genkendelige spor.

De lange samtaler. Tæl beskeder pr. henvendelse og sorter efter de længste. En henvendelse, der skulle ende i en booking, bliver ikke bedre af at blive lang. Lange tråde er næsten altid misforståelser eller noget, der skulle have været overleveret.

De samtaler der slutter uden noget. Ingen tid booket, intet telefonnummer, ingen overlevering, kunden skrev sidst. Det er den dyreste kategori, og den er tavs: de klager ikke, de går.

Gentagelsen. Søg efter samtaler, hvor systemet har skrevet næsten det samme to gange, eller hvor kunden har skrevet næsten det samme to gange. Det er samme signal set fra hver sin side, og det er grænsen "to misforståelser i træk", der ikke blev holdt.

Ordene. Lav en kort liste af ord, der skal udløse et kig, uanset hvordan samtalen i øvrigt ser ud: utilfreds, klage, revner, utæt, oversvømmet, advokat, forsikring, fejl, regning, mangler, i stykker. Kombinationen af et af de ord og ingen overlevering er det bedste enkeltsignal, der findes.

De løfter der ikke blev holdt. Det er dét tal, der faktisk betyder noget. Siger systemet, at Mikkel ringer inden klokken 10, så er spørgsmålet, om han gjorde. Ingen anden måling fanger det, der sker efter overleveringen, og det er dér, de fleste overleveringer dør.

Sæt tallene op hver måned, og læs tre af samtalerne helt igennem i stedet for at nøjes med tallene. Det tager tyve minutter, og det flytter altid noget i listen.

Sådan gør du i praksis

Start med listen, ikke med systemet. Det er otte linjer, og de kan skrives færdige i løbet af en formiddag.

Trin et: skriv de otte situationer ned med dine egne ord, og stryg dem, der ikke findes hos dig. En liste, der passer til din virksomhed, bliver brugt.

Trin to: sæt et navn og en frist på hver linje. Hvem tager klager, hvem tager akut, og hvad er fristen efter fyraften og i weekenden. Er der ingen, der kan tage den klokken 20, så er det de oplysninger, der skal indsamles, og et løfte om næste morgen, der skal gives.

Trin tre: skriv de to beskeder. Den kunden får, og den medarbejderen får. Brug de to eksempler ovenfor som udgangspunkt og ret navnene. Det er de to tekster, hele overleveringen består af.

Trin fire: prøv alle otte igennem selv, før systemet møder en rigtig kunde. Du finder mindst én, hvor beskeden ikke udløses, og det er billigere at finde den nu.

Trin fem: mål to tal hver måned. Hvor mange samtaler sluttede uden hverken en booking eller en overlevering, og hvor mange lovede tilbagekald blev holdt til tiden. Resten af statistikken kan vente.

Konverto er bygget på at henvendelser fra mail, sms, kontaktformular, chat og beskeder på Facebook og Instagram bliver besvaret, kvalificeret og booket, og at hele tråden ligger samlet, når et menneske skal tage over. Vi tager ikke telefonen, så det akutte opkald hører stadig hjemme hos dig. Vil du se, hvordan en henvendelse går fra besked til kvalificeret opgave og booket besigtigelse, kan du følge hele forløbet på Sådan arbejder Konverto.