Gespreksgeheugen in de AI-chatbot: Onthouden, corrigeren en op tijd vergeten

“Onthoud mijn voorkeursafleveradres” kan een website-chatbot erg handig maken. Maar hetzelfde mechanisme kan ook oude, onjuiste of gevoelige gegevens meenemen naar latere gesprekken. Vaak worden drie dingen op één hoop gegooid: het kortstondige verloop van een sessie, een compacte samenvatting voor een latere voortzetting en een permanent gebruikersprofiel. Ze hebben verschillende doelen, risico's en bewaartermijnen.

Een goed gespreksgeheugen slaat daarom niet zo veel mogelijk op. Het bewaart een beperkt aantal, duidelijk onderbouwde feiten met herkomst, geldigheid en zichtbare controle. Deze gids biedt een technisch en redactioneel model dat nut, juistheid en privacy samenbrengt.

Drie typen opslag strikt scheiden

Sessiecontext bevat de laatste berichten zodat vervolgvragen begrijpelijk blijven. Deze eindigt na een korte periode van inactiviteit of wanneer de chat expliciet wordt afgesloten. Samenvattingen voor voortzetting brengen een langer gesprek terug tot de noodzakelijke werkstatus, zoals een nog openstaand supportonderwerp. Permanente kenmerken gelden over meerdere sessies heen, zoals een door de gebruiker bewust opgeslagen taalinstelling.

Deze scheiding voorkomt dat een volledig chatprotocol verandert in een onbeperkt profiel. Elk type opslag krijgt een eigen doel, toegang, verlooptermijn en wisprocedure. Een technische tabel met simpelweg een veld “memory” zonder dit onderscheid is lastig te controleren en nog lastiger betrouwbaar op te schonen.

Onthoud alleen expliciete en geschikte feiten

Een chatbot moet niet automatisch uit elke uitspraak een permanente eigenschap afleiden. “Ik heb vandaag een factuur opgesteld in het Engels nodig” betekent niet automatisch dat Engels de langetermijnvoorkeur is. Sla alleen gegevens permanent op waarvan het nut voorbij de huidige sessie duidelijk is en waarvan de opslag voor de gebruiker te verwachten valt.

Zeker gevoelige informatie, medische gegevens in vrije tekst, betalingsgegevens, wachtwoorden en eenmalige verificatiecodes horen niet thuis in een algemeen chatgeheugen. Voor zakelijke transacties is het specifieke bronsysteem meestal de juiste plek voor opslag. De chatbot kan een geautoriseerde referentie ophalen in plaats van een tweede schaduwkopie bij te houden.

Een onthouden feit heeft metadata nodig

Sla een herinnering op als een gestructureerd record, niet als een ongecontroleerd tekstblok. Nuttige velden zijn:

• Waarde en type: bijvoorbeeld de voorkeurstaal of de gekozen productcategorie.
• Herkomst: expliciete invoer van de gebruiker, een bevestigde samenvatting of een geverifieerd bronsysteem.
• Doel: waarom de waarde in het volgende gesprek nodig is.
• Geldigheidsdomein: gebruiker, organisatie, website en eventueel locale.
• Tijdstip en verloop: wanneer opgeslagen, voor het laatst bevestigd en automatisch gewist.
• Betrouwbaarheidsstatus: onbevestigde afleiding, bevestigd of geverifieerd.

Vrije modelsamenvattingen kunnen nuttig zijn, maar moeten als zodanig herkenbaar blijven. Ze mogen niet stilzwijgend veranderen in geverifieerde klantgegevens.

Vraag het herkenbaar vóór het opslaan

Als een gegeven buiten de huidige sessie gebruikt gaat worden, moet de interface een duidelijke keuze bieden. Noem de specifieke waarde, het doel en hoe het gewist kan worden. Een korte bevestiging zoals “Deze taal opslaan voor toekomstige chats?” is duidelijker dan een algemene toestemming voor gepersonaliseerde diensten.

Afhankelijk van het doel kan de juridische grondslag verschillen; dit moet per project worden beoordeeld. De interface mag keuzes niet afdwingen via dark patterns. Weigeren mag de normale toegang tot de chat niet onnodig blokkeren. Leg de beslissing gescheiden vast van de opgeslagen inhoud.

Onthouden betekent ook gericht ophalen

Bij een volgend gesprek mag niet het volledige profiel blindelings in elke prompt gekopieerd worden. Eerst worden de identiteit en de tenant gecontroleerd, waarna alleen de kenmerken worden geladen die nodig zijn voor de huidige intentie. Een vraag over een factuur vereist misschien de taal en het klantnummer, maar geen eerdere klacht over een product.

Toon het model daarnaast de herkomst en de ouderdom. Een oude, onbevestigde samenvatting zou een verhelderende vraag moeten uitlokken. Een waarde uit een gezaghebbend systeem kan daarentegen gericht worden gebruikt. Zo wordt onzekerheid niet verhuld door vloeiend geformuleerde zinnen.

Correctie als een normaal productpad

Mensen veranderen van gedachten en modellen vatten soms verkeerd samen. Bied daarom een overzicht aan met “Wat de chatbot onthoudt”, inclusief opties voor bewerken en verwijderen. In het gesprek zou een opmerking zoals “Dat klopt niet meer” het betreffende gegeven moeten identificeren en om bevestiging vragen voor de wijziging.

Correcties moeten doorwerken in alle relevante lagen: profiel, zoekindex, cache en afgeleide samenvatting. Alleen het zichtbare veld aanpassen terwijl een oude embedding zoekresultaten blijft opleveren, leidt tot onverklarebare terugvallen. Houd een audit-log bij van de wijziging zonder de gewiste gevoelige waarde onnodig in de logs te bewaren.

Verloop en verwijdering technisch afdwingen

Artikel 5 van de AVG legt de principes van minimale gegevensverwerking en opslagbeperking vast. Vertaal deze principes naar automatische regels. Sessietekst kan na korte tijd verdwijnen, de status voor voortzetting na het afronden van de zaak en voorkeuren na een langere, maar gedefinieerde periode van inactiviteit. “Onbeperkt, voor het geval dat het later van pas komt” is geen houdbare termijn.

Een verzoek tot verwijdering vereist een navolgbare keten. Er moet rekening gehouden worden met de primaire database, embeddings, cache, analyse-exports en back-upregels. Back-ups kunnen technisch gezien andere bewaartermijnen hebben, maar mogen gewiste gegevens niet terugzetten in de actieve omgeving. Test de verwijdering regelmatig met gemarkeerde testdata.

Geen stille modeltraining op basis van chats

Productgeheugen en modeltraining zijn gescheiden doelen. Dat een gebruiker toestemming geeft om informatie op te slaan voor een volgend supportcontact, betekent niet automatisch dat hij instemt met het verbeteren van een algemeen model. Houd trainings- en evaluatiedatasets organisatorisch en technisch gescheiden en anonimiseer alleen als de anonimisering daadwerkelijk waterdicht is.

De EDPB benadrukt in haar advies over AI-modellen dat de vraag of een model geanonimiseerd is per geval moet worden beoordeeld. Het simpelweg verwijderen van zichtbare namen is niet automatisch voldoende. Voor veel websiteteams is het daarom eenvoudiger en veiliger om productiechats standaard niet als trainingsmateriaal te gebruiken.

Kwaliteit en veiligheid meten

Een geheugen vereist eigen tests. Controleer op foute toewijzingen tussen gebruikers en tenants, verlopen waarden, tegenstrijdige gegevens, intrekkingen van toestemming, exports en volledige verwijdering. Meet niet alleen hoe vaak herinneringen worden gebruikt, maar ook hoe vaak gebruikers ze corrigeren of als verrassend ervaren.

Een Golden Set kan scenario's bevatten zoals: twee personen op hetzelfde apparaat, een rolwijziging binnen een organisatie, een gewijzigd bezorgadres, een taalwijziging, een verwijderd account en een gevoelige uitspraak die nooit opgeslagen mag worden. Elke release moet bewijzen dat de isolatie en de verlooptermijnen nog steeds werken.

Een pragmatisch stappenplan voor de invoering

1. Inventariseer de typen opslag en de doelen.
2. Definieer voor elk type de herkomst, geldigheid en termijn.
3. Begin met een onschadelijke, expliciet bevestigde voorkeur.
4. Beperk het ophalen van data tot de tenant, identiteit en huidige intentie.
5. Bied een overzicht, correctie, export en verwijdering aan.
6. Neem afgeleide opslaglocaties en caches op in de wisprocedure.
7. Test isolatie, verlooptermijnen en herstelprocedures regelmatig.

Conclusie: Een goed geheugen kan uitleggen waarom het iets weet

Een nuttig chatbotgeheugen is klein, gestructureerd en controleerbaar. Het maakt onderscheid tussen de kortstondige context en permanente kenmerken, slaat alleen geschikte feiten op en maakt herkomst en verlooptermijnen inzichtelijk. Gebruikers kunnen gegevens corrigeren of wissen zonder dat ze daarvoor een supportticket hoeven aan te maken.

Begin niet met de vraag welke gegevens technisch gezien opgeslagen kunnen worden. Begin met één enkel gegeven waarvan het latere nut duidelijk is – en ontwerp tegelijkertijd de manier waarop dit gegeven wordt bevestigd, gecorrigeerd en volledig wordt vergeten.

Bronnen

• EUR-Lex: Algemene Verordening Gegevensbescherming, in het bijzonder Artikel 5
• EDPB: Opinion 28/2024 on AI Models and Personal Data
• EDPB: Fundamentals of Secure AI Systems with Personal Data
• NIST Privacy Framework