Hoe een rule-based chatbot leerde improviseren

De context

Kate zit al jaren in KBC Mobile, een rule-based assistent die zo'n 21.500 vragen per dag verwerkt. Even ter vergelijking: dat is ongeveer de capaciteit van het AFAS Dome, de grootste arena van België. Toen ik erbij kwam, kon ze herkennen wat gebruikers vroegen en hen door vooraf bepaalde gespreksflows leiden. Voor rechttoe rechtaan bankvragen werkte dat goed.

Maar voor third-party integraties, denk aan parkeerbetalingen, mobiliteitsdiensten en functies van externe partners, volstonden strakke scripts niet. Gebruikers stelden hun vragen op manieren die we niet volledig konden voorspellen, over diensten waarvan de documentatie vaak veranderde. Daar lag de kans.

De designuitdaging

De bestaande herkenningslaag, het stuk dat begrijpt wat je zegt, konden we niet aanpassen. Het was de basis waarop al de rest draaide. Wat we ook bouwden, het moest binnen die architectuur werken.

Typte iemand "hoe betaal ik voor parkeren?", dan herkende het rule-based systeem de intentie en merkte het die aan als een third-party onderwerp. Vanaf daar voedden we de relevante documentatie van de KBC-website aan een LLM om een contextueel antwoord te genereren. De flow ging middenin het gesprek van deterministisch naar probabilistisch, en de gebruiker mocht die omslag niet voelen.

Dat was het moeilijke deel. Een rule-based antwoord is elke keer hetzelfde. Een LLM-antwoord niet. Een gesprek ontwerpen dat vlot van het ene naar het andere overgaat, zonder kapot of inconsistent aan te voelen, betekende opnieuw nadenken over hoe we overgangen opbouwden, verwachtingen stuurden en randgevallen opvingen waarin de LLM misschien geen goed antwoord had.

Transparantie vanaf het ontwerp

Ook de ethiek moest kloppen. De European Accessibility Act vereist volledige transparantie over het gebruik van AI. Gebruikers moeten weten wanneer ze iets lezen dat door een machine is gegenereerd, en wanneer iets door een mens is geschreven.

Ik ontwierp een eigen tekstbubbel specifiek voor door een LLM gegenereerde antwoorden, visueel anders dan de standaardantwoorden van Kate. Die maakte duidelijk dat dit antwoord door AI was gemaakt, gaf gebruikers context over waar de informatie vandaan kwam, en hield het vertrouwen overeind op een plek waar mensen financiële beslissingen nemen. Transparantie was geen bijzaak achteraf, het was een kernvoorwaarde van het design.

De zoekfunctie voor geldautomaten ontwerpen

Het werk ging verder dan de chatbubbel. Ik ontwierp ook de in-app ervaringen waar Kate je naartoe stuurt. Eentje waar ik graag naar terugkijk: cash zoeken. Vraag Kate "waar vind ik hier een geldautomaat?" en ze toont een actie Zoek een geldautomaat. Tik erop en je krijgt een kaart met geldautomaten in de buurt, gegroepeerd per zone. Open er een en je ziet het adres, de openingsuren en precies wat het toestel wel en niet kan: geld afhalen, storten, pincode wijzigen, en zelfs of er een audiofunctie is.

Het designdoel was continuïteit: de sprong van een chatbericht naar een schermvullende kaart naar een detailweergave moet als één ervaring aanvoelen, niet als drie schermen die aan elkaar geplakt zijn.

Mijn rol

Ik was het bindweefsel tussen Product Owners, Business, Engineering en UI Design: ik vertaalde requirements naar werkbare scope en hield cross-functionele teams op één lijn en op schema. Ik maakte deel uit van het kernteam dat de eerste LLM-experimenten binnenbracht in wat toen een volledig rule-based systeem was.

Dag na dag betekende dat: gespreksflows ontwerpen, scope bepalen voor third-party integraties, kennisbanken schrijven en verbeteren, proactieve gesprekken bouwen die gebruikers op het juiste moment aanspraken, en business dashboards maken om te volgen hoe gesprekken presteerden.

Ik was niet de Product Owner, ik beheerde de roadmap niet en bepaalde geen OKR's. Maar ik bewoog wel voortdurend in de baan van de PO en droeg verantwoordelijkheden rond coördinatie en strategisch initiatief die ver buiten een typische designrol vielen.

De resultaten

Wat ik leerde

De grootste les: de beste AI-ervaringen gaan niet over de AI. Ze gaan over de overgangen, de momenten waarop het systeem van de ene modus naar de andere schakelt. Doe je die goed, dan merken gebruikers er niets van. Doe je die fout, dan voelt het hele ding kapot.

Ik gaf een talk bij UX Beers over precies die overgang, van rule-based naar LLM-gedreven gesprekken, en wat dat betekent voor designers die met AI werken.