Gesprächsgedächtnis im KI-Chatbot: Merken, korrigieren und rechtzeitig vergessen

„Merken Sie sich meine bevorzugte Lieferadresse“ kann einen Website-Chatbot bequem machen. Derselbe Mechanismus kann aber auch alte, falsche oder sensible Angaben in spätere Gespräche tragen. Häufig werden dabei drei Dinge vermischt: der kurzfristige Verlauf einer Sitzung, eine kompakte Zusammenfassung für die Fortsetzung und ein dauerhaftes Nutzerprofil. Sie haben unterschiedliche Zwecke, Risiken und Aufbewahrungsfristen.

Ein gutes Gesprächsgedächtnis speichert deshalb nicht möglichst viel. Es speichert wenige, klar begründete Fakten mit Herkunft, Gültigkeit und sichtbarer Kontrolle. Dieser Leitfaden zeigt ein technisches und redaktionelles Modell, das Nutzen, Korrektheit und Datenschutz zusammenführt.

Drei Speicherarten sauber trennen

Sitzungskontext enthält die letzten Nachrichten, damit Folgefragen verständlich bleiben. Er endet nach einer kurzen Inaktivitätsfrist oder mit dem expliziten Beenden des Chats. Fortsetzungszusammenfassungen reduzieren einen längeren Verlauf auf den nötigen Arbeitsstand, etwa ein noch offenes Supportthema. Dauerhafte Merkmale gelten über Sitzungen hinweg, beispielsweise eine vom Nutzer bewusst gespeicherte Spracheinstellung.

Die Trennung verhindert, dass ein vollständiges Chatprotokoll zum unbegrenzten Profil wird. Jede Speicherart erhält eigenen Zweck, Zugriff, Ablauf und Löschpfad. Eine technische Tabelle mit einem Feld „memory“ ohne diese Unterscheidung ist schwer zu prüfen und noch schwerer zuverlässig zu bereinigen.

Nur explizite und geeignete Fakten merken

Ein Chatbot sollte nicht aus jeder Äußerung automatisch eine dauerhafte Eigenschaft ableiten. „Ich brauche heute eine Rechnung auf Englisch“ bedeutet nicht zwingend, dass Englisch die langfristige Präferenz ist. Speichern Sie dauerhaft nur Angaben, deren Nutzen über die aktuelle Sitzung hinaus klar ist und deren Speicherung für Nutzer erwartbar bleibt.

Besonders sensible Informationen, freie Gesundheitsangaben, Zahlungsdaten, Passwörter und einmalige Authentifizierungscodes gehören nicht in ein allgemeines Chatgedächtnis. Für geschäftliche Vorgänge ist meist das zuständige Fachsystem der richtige Speicher. Der Chatbot kann eine freigegebene Referenz abrufen, statt eine zweite Schattenkopie zu führen.

Ein Merksatz braucht Metadaten

Speichern Sie eine Erinnerung als strukturierten Datensatz, nicht als unkontrollierten Textblock. Nützliche Felder sind:

• Wert und Typ: etwa bevorzugte Sprache oder gewählter Produktbereich.
• Herkunft: explizite Nutzereingabe, bestätigte Zusammenfassung oder verifiziertes Fachsystem.
• Zweck: warum der Wert im nächsten Gespräch benötigt wird.
• Gültigkeitsbereich: Nutzer, Organisation, Website und gegebenenfalls Locale.
• Zeitpunkt und Ablauf: wann gespeichert, zuletzt bestätigt und automatisch gelöscht.
• Vertrauensstatus: unbestätigte Ableitung, bestätigt oder verifiziert.

Freie Modellzusammenfassungen können hilfreich sein, müssen aber als solche erkennbar bleiben. Sie dürfen nicht still zu verifizierten Kundendaten werden.

Vor dem Speichern sichtbar fragen

Wenn eine Angabe über die aktuelle Sitzung hinaus verwendet werden soll, braucht die Oberfläche eine verständliche Entscheidung. Nennen Sie den konkreten Wert, den Zweck und eine Löschmöglichkeit. Eine kleine Bestätigung wie „Diese Sprache für künftige Chats speichern?“ ist klarer als eine allgemeine Einwilligung in personalisierte Dienste.

Je nach Zweck kann die rechtliche Grundlage unterschiedlich sein und muss projektspezifisch geprüft werden. Die Oberfläche sollte sie nicht durch dunkle Muster erzwingen. Ablehnen darf den normalen Zugang zum Chat nicht unnötig verhindern. Protokollieren Sie die Entscheidung getrennt vom gespeicherten Inhalt.

Erinnern ist immer auch Abrufen

Beim nächsten Gespräch darf nicht das gesamte Profil blind in jeden Prompt kopiert werden. Zuerst werden Identität und Mandant geprüft, dann nur die für den aktuellen Intent notwendigen Merkmale geladen. Eine Rechnungsfrage benötigt vielleicht Sprache und Kundennummer, aber keine frühere Produktbeschwerde.

Zeigen Sie dem Modell außerdem Herkunft und Alter. Eine alte, unbestätigte Zusammenfassung sollte eine Klärungsfrage auslösen. Ein Wert aus einem autoritativen System kann dagegen gezielt genutzt werden. So wird Unsicherheit nicht durch flüssige Formulierungen verdeckt.

Korrektur als normaler Produktpfad

Menschen ändern ihre Meinung, und Modelle fassen falsch zusammen. Bieten Sie daher eine Ansicht „Was der Chatbot sich merkt“ mit Bearbeiten und Löschen an. Im Gespräch sollte eine Aussage wie „Das stimmt nicht mehr“ den betroffenen Wert identifizieren und vor der Änderung bestätigen.

Korrekturen müssen alle relevanten Ebenen erreichen: Profil, Suchindex, Cache und abgeleitete Zusammenfassung. Nur das sichtbare Feld zu ändern, während eine alte Einbettung weiter Treffer liefert, erzeugt schwer erklärbare Rückfälle. Halten Sie einen Audit-Eintrag über die Änderung, ohne den gelöschten sensiblen Wert unnötig im Log zu verewigen.

Ablauf und Löschung technisch erzwingen

Artikel 5 DSGVO verankert Datenminimierung und Speicherbegrenzung. Übersetzen Sie diese Prinzipien in automatische Regeln. Sitzungstext kann nach kurzer Zeit verschwinden, Fortsetzungsstände nach Abschluss des Falls und Präferenzen nach einer längeren, aber definierten Inaktivität. „Unbegrenzt, falls später nützlich“ ist keine belastbare Frist.

Ein Löschauftrag braucht eine nachvollziehbare Kette. Primärdatensatz, Embedding, Cache, Analyseexport und Backup-Regel müssen berücksichtigt werden. Backups können technisch andere Fristen haben, dürfen gelöschte Daten aber nicht wieder in den aktiven Dienst zurückspielen. Testen Sie Löschung regelmäßig mit markierten Testdaten.

Keine heimliche Modellschulung aus Chats

Produktgedächtnis und Modelltraining sind getrennte Zwecke. Dass ein Nutzer eine Information für den nächsten Supportkontakt speichern lässt, bedeutet nicht automatisch Zustimmung zur Verbesserung eines allgemeinen Modells. Halten Sie Trainings- oder Evaluationsdatensätze organisatorisch und technisch getrennt und anonymisieren Sie nur dann, wenn die Anonymisierung tatsächlich belastbar ist.

Das EDPB betont in seiner Stellungnahme zu AI-Modellen, dass die Frage, ob ein Modell anonym ist, fallbezogen bewertet werden muss. Eine bloße Entfernung sichtbarer Namen reicht nicht automatisch. Für viele Website-Teams ist es daher einfacher und sicherer, produktive Chats standardmäßig nicht als Trainingskorpus zu behandeln.

Qualität und Sicherheit messen

Ein Gedächtnis braucht eigene Tests. Prüfen Sie falsche Zuordnung zwischen Nutzern und Mandanten, abgelaufene Werte, widersprüchliche Angaben, Widerruf, Export und vollständige Löschung. Messen Sie nicht nur, wie oft Erinnerungen verwendet werden, sondern auch, wie oft Nutzer sie korrigieren oder als überraschend empfinden.

Ein Golden Set kann Szenarien enthalten wie: zwei Personen am selben Gerät, Rollenwechsel in einer Organisation, geänderte Lieferadresse, Sprachwechsel, gelöschtes Konto und eine sensible Angabe, die nie gespeichert werden darf. Jeder Release muss beweisen, dass Isolation und Ablauf weiterhin greifen.

Ein pragmatischer Einführungsplan

1. Speicherarten und Zwecke inventarisieren.
2. Für jeden Typ Herkunft, Gültigkeit und Frist definieren.
3. Mit einer harmlosen, explizit bestätigten Präferenz beginnen.
4. Abruf auf Mandant, Identität und aktuellen Intent begrenzen.
5. Ansicht, Korrektur, Export und Löschung bereitstellen.
6. Abgeleitete Speicher und Caches in die Löschkette aufnehmen.
7. Isolation, Ablauf und Wiederherstellung regelmäßig testen.

Fazit: Ein gutes Gedächtnis kann erklären, warum es etwas weiß

Nützliches Chatbot-Gedächtnis ist klein, strukturiert und kontrollierbar. Es unterscheidet kurzfristigen Kontext von dauerhaften Merkmalen, speichert nur geeignete Fakten und macht Herkunft sowie Ablauf sichtbar. Nutzer können Angaben korrigieren oder löschen, ohne einen Supportfall eröffnen zu müssen.

Beginnen Sie nicht mit der Frage, welche Daten technisch speicherbar sind. Beginnen Sie mit einer einzigen Information, deren späterer Nutzen klar ist – und entwerfen Sie gleichzeitig den Weg, wie sie bestätigt, berichtigt und vollständig vergessen wird.

Quellen

• EUR-Lex: Datenschutz-Grundverordnung, insbesondere Artikel 5
• EDPB: Opinion 28/2024 on AI Models and Personal Data
• EDPB: Fundamentals of Secure AI Systems with Personal Data
• NIST Privacy Framework