Paměť konverzace v AI chatbotu: Zapamatovat, opravit a včas zapomenout

„Zapamatujte si mou preferovanou doručovací adresu“ může zefektivnit používání webového chatbota. Stejný mechanismus však může do pozdějších konverzací přenést staré, chybné nebo citlivé údaje. Často se přitom směšují tři věci: krátkodobý průběh relace, kompaktní shrnutí pro pokračování a trvalý uživatelský profil. Mají různé účely, rizika i doby uchovávání.

Dobrá paměť konverzace proto neukládá co nejvíce dat. Ukládá jen málo jasně odůvodněných faktů s informací o původu, platnosti a s viditelnou kontrolou. Tento průvodce představuje technický a redakční model, který propojuje užitečnost, správnost a ochranu osobních údajů.

Čisté oddělení tří typů paměti

Kontext relace obsahuje poslední zprávy, aby navazující dotazy zůstaly srozumitelné. Končí po krátké době neaktivity nebo výslovným ukončením chatu. Shrnutí pro pokračování redukují delší průběh na nezbytný stav zpracování, například dosud otevřené téma podpory. Trvalé vlastnosti platí napříč relacemi, například nastavení jazyka, které uživatel vědomě uložil.

Oddělení zabraňuje tomu, aby se kompletní protokol chatu stal neomezeným profilem. Každý typ paměti získává vlastní účel, přístup, expiraci a cestu pro vymazání. Technickou tabulku s polem „memory“ bez tohoto rozlišení je těžké prověřit a ještě těžší spolehlivě vyčistit.

Ukládat pouze výslovná a vhodná fakta

Chatbot by neměl z každého vyjádření automaticky odvozovat trvalou vlastnost. „Dnes potřebuji fakturu v angličtině“ neznamená nutně, že angličtina je dlouhodobou preferencí. Trvale ukládejte pouze údaje, jejichž užitek přesahuje aktuální relaci a jejichž uložení uživatel očekává.

Zvláště citlivé informace, volné údaje o zdravotním stavu, platební údaje, hesla a jednorázové autentizační kódy do obecné paměti chatu nepatří. Pro obchodní operace je obvykle správným úložištěm příslušný odborný systém. Chatbot může načíst schválenou referenci, místo aby vedl druhou stínovou kopii.

Poznámka vyžaduje metadata

Ukládejte vzpomínku jako strukturovaný datový záznam, nikoli jako nekontrolovaný blok textu. Užitečná pole jsou:

• Hodnota a typ: například preferovaný jazyk nebo zvolená produktová oblast.
• Původ: výslovný vstup uživatele, potvrditelné shrnutí nebo ověřený odborný systém.
• Účel: proč je hodnota potřeba v dalším rozhovoru.
• Rozsah platnosti: uživatel, organizace, webová stránka a případně lokalizace.
• Čas a expirace: kdy byla data uložena, naposledy potvrzena a automaticky vymazána.
• Stav důvěryhodnosti: nepotvrzená dedukce, potvrzeno nebo ověřeno.

Volná shrnutí z modelu mohou být užitečná, ale musí zůstat jako taková rozpoznatelná. Nesmí se ticho stávat ověřenými zákaznickými daty.

Před uložením se viditelně zeptat

Pokud se má údaj použít i po skončení aktuální relace, rozhraní vyžaduje srozumitelné rozhodnutí. Uveďte konkrétní hodnotu, účel a možnost vymazání. Krátké potvrzení jako „Uložit tento jazyk pro budoucí chaty?“ je jasnější než obecný souhlas s personalizovanými službami.

V závislosti na účelu se právní základ může lišit a musí být posouzen individuálně pro daný projekt. Rozhraní by jej nemělo vynucovat pomocí klamavých vzorů (dark patterns). Odmítnutí nesmí zbytečně bránit běžnému přístupu k chatu. Rozhodnutí zaznamenávejte odděleně od uloženého obsahu.

Zapamatování znamená vždy i načítání

Při dalším rozhovoru se nesmí celý profil slepě zkopírovat do každého promptu. Nejprve se ověří identita a klient, poté se načtou pouze vlastnosti potřebné pro aktuální záměr (intent). Dotaz na fakturu může vyžadovat jazyk a zákaznické číslo, ale nikoli dřívější reklamaci produktu.

Ukažte modelu také původ a stáří dat. Staré, nepotvrzené shrnutí by mělo vyvolat doplňující otázku. Hodnotu z autoritativního systému lze naopak využít cíleně. Nejistota se tak nezakryje plynulými formulacemi.

Oprava jako běžná součást produktu

Lidé mění názory a modely vytvářejí chybná shrnutí. Nabídněte proto přehled „Co si chatbot pamatuje“ s možností úprav a smazání. Během konverzace by věta jako „To už neplatí“ měla identifikovat dotčenou hodnotu a před změnou ji potvrdit.

Opravy musejí zasáhnout všechny relevantní vrstvy: profil, vyhledávací index, cache i odvozené shrnutí. Změna pouze viditelného pole, zatímco starý embedding dále vrací výsledky, způsobuje těžko vysvětlitelné návraty starých dat. Vedte auditní záznam o změně, aniž byste smazanou citlivou hodnotu zbytečně uchovávali v logu.

Technické vynucení expirace a vymazání

Článek 5 GDPR zakotvuje minimalizaci dat a omezení uložení. Převeďte tyto principy do automatických pravidel. Text relace může zmizet po krátké době, stavy konverzace po vyřešení případu a preference po delší, ale přesně definované neaktivitě. „Na neomezenou dobu, pokud by se to později hodilo“ není udržitelná lhůta.

Požadavek na vymazání vyžaduje sledovatelný řetězec. Zohlednit se musí primární datový záznam, embedding, cache, analytický export i pravidla zálohování. Zálohy mohou mít technicky jiné lhůty, ale nesmí smazaná data znovu vrátit do aktivního provozu. Mazání pravidelně testujte s označenými testovacími daty.

Žádné tajné trénování modelů z chatů

Produktová paměť a trénování modelu jsou oddělené účely. To, že uživatel nechá uložit informaci pro příští kontakt s podporou, neznamená automaticky souhlas se zlepšováním obecného modelu. Trénovací nebo evaluační datové sady udržujte organizačně i technicky oddělené a anonymizujte pouze tehdy, pokud je anonymizace skutečně spolehlivá.

EDPB ve svém stanovisku k AI modelům zdůrazňuje, že otázku, zda je model anonymní, je třeba posuzovat případ od případu. Pouhé odstranění viditelných jmen automaticky nestačí. Pro mnoho webových týmů je proto jednodušší a bezpečnější nepovažovat produkční chaty standardně za trénovací korpus.

Měření kvality a bezpečnosti

Paměť vyžaduje vlastní testy. Prověřujte chybné přiřazení mezi uživateli a klienty, expirované hodnoty, rozporuplné údaje, odvolání souhlasu, export i úplné vymazání. Měřte nejen to, jak často se paměť používá, ale také jak často ji uživatelé opravují nebo ji považují za překvapivou.

Sada testovacích scénářů (Golden Set) může obsahovat: dvě osoby na stejném zařízení, změnu role v organizaci, změněnou doručovací adresu, změnu jazyka, smazaný účet a citlivý údaj, který nesmí být nikdy uložen. Každé vydání nové verze musí prokázat, že izolace a expirace stále fungují.

Pragmatický plán zavedení

1. Katalogizovat typy paměti a účely.
2. Pro každý typ definovat původ, platnost a lhůtu.
3. Začít s neškodnou, výslovně potvrzenou preferencí.
4. Omezit načítání na klienta, identitu a aktuální záměr.
5. Poskytnout přehled, opravu, export a vymazání.
6. Zahrnout odvozená úložiště a cache do řetězce mazání.
7. Pravidelně testovat izolaci, expiraci a obnovu.

Závěr: Dobrá paměť dokáže vysvětlit, proč něco ví

Užitečná paměť chatbota je malá, strukturovaná a kontrolovatelná. Rozlišuje krátkodobý kontext od trvalých vlastností, ukládá pouze vhodná fakta a zviditelňuje původ i expiraci. Uživatelé mohou údaje opravit nebo smazat, aniž by museli otevírat požadavek na podporu.

Nezačínejte otázkou, které údaje lze technicky uložit. Začněte jedinou informací, jejíhož pozdějšího užitku si jste jisti – a současně navrhněte způsob, jak bude potvrzena, opravena a zcela zapomenuta.

Zdroje

• EUR-Lex: Obecné nařízení o ochraně osobních údajů (GDPR), zejména článek 5
• EDPB: Stanovisko 28/2024 k AI modelům a osobním údajům
• EDPB: Základy bezpečných systémů AI s osobními údaji
• NIST Privacy Framework