Beszélgetési memória az AI-chatbotban: Megjegyzés, javítás és időbeni elfelejtés

A „Jegyezze meg a preferált szállítási címemet” utasítás kényelmessé teheti a weboldali chatbot használatát. Ugyanakkor ez a mechanizmus régi, téves vagy érzékeny adatokat is átvihet a későbbi beszélgetésekbe. Gyakran három dolgot mosnak össze: a munkamenet rövid távú lefolyását, a folytatáshoz készített tömör összefoglalót és a tartós felhasználói profilt. Ezek eltérő célokkal, kockázatokkal és megőrzési időtartamokkal rendelkeznek.

A jó beszélgetési memória ezért nem törekszik a lehető legtöbb adat tárolására. Kevés, egyértelműen indokolt tényt rögzít az eredet, az érvényesség és a látható ellenőrizhetőség megjelölésével. Ez az útmutató egy olyan technikai és szerkesztési modellt mutat be, amely ötvözi a hasznosságot, a pontosságot és az adatvédelmet.

A három adattárolási típus pontos elkülönítése

Munkamenet-kontextus az utolsó üzeneteket tartalmazza, hogy a követő kérdések érthetőek maradjanak. Egy rövid inaktivitási időszak után vagy a chat explicit lezárásával ér véget. Folytatási összefoglalók egy hosszabb folyamatot a szükséges munkaállapotra csökkentenek, például egy még nyitott ügyfélszolgálati témára. Tartós jellemzők munkameneteken átívelően érvényesek, például a felhasználó által tudatosan elmentett nyelvi beállítás.

Az elkülönítés megakadályozza, hogy a teljes chatnapló korlátlan profillá váljon. Minden tárolási típus saját célt, hozzáférést, lejárati időt és törlési útvonalat kap. Egy olyan technikai táblázatot, amely e megkülönböztetés nélkül csupán egyetlen „memory” mezőt tartalmaz, nehéz felülvizsgálni, és még nehezebb megbízhatóan megtisztítani.

Kizárólag explicit és megfelelő tények megjegyzése

Egy chatbotnak nem szabad minden kijelentésből automatikusan tartós tulajdonságot kikövetkeztetnie. A „Ma angol nyelvű számlára van szükségem” mondat nem jelenti feltétlenül azt, hogy az angol a hosszú távú preferált nyelv. Kizárólag olyan adatokat tároljon tartósan, amelyek hasznossága a jelenlegi munkameneten túl is egyértelmű, és amelyek tárolása a felhasználó számára elvárható marad.

A különösen érzékeny információk, a szabad szavas egészségügyi adatok, a fizetési adatok, a jelszavak és az egyszeri hitelesítő kódok nem tartoznak az általános chatmemóriába. Az üzleti folyamatokhoz általában a tisztességben illetékes szakrendszer a megfelelő adattár. A chatbot hozzáférhet egy engedélyezett hivatkozáshoz ahelyett, hogy egy második árnyékmásolatot tartana fenn.

A megjegyzett ténynek metaadatokra van szüksége

Rögzítse az emlékeztetőt strukturált adatrekordként, ne pedig ellenőrizetlen szövegblokkként. A hasznos mezők a következők:

• Érték és típus: például a preferált nyelv vagy a kiválasztott termékterület.
• Eredet: explicit felhasználói megadás, megerősített összefoglaló vagy ellenőrzött szakrendszer.
• Cél: miért van szükség az értékre a következő beszélgetésben.
• Érvényességi kör: felhasználó, szervezet, weboldal és adott esetben nyelvi beállítás (locale).
• Időpont és lejárat: mikor lett elmentve, utoljára megerősítve és mikor törlődik automatikusan.
• Megbízhatósági státusz: nem megerősített következtetés, megerősített vagy hitelesített.

A szabad modellösszefoglalók hasznosak lehetnek, de felismerhetőnek kell maradniuk. Nem válhatnak csendben hitelesített ügyféladatokká.

Látható rákérdezés a mentés előtt

Ha egy adatot a jelenlegi munkameneten túl is fel kívánnak használni, a felületnek érthető döntési lehetőséget kell biztosítania. Nevezze meg a konkrét értéket, a célt és a törlési lehetőséget. Egy olyan rövid megerősítés, mint a „Mentsük el ezt a nyelvet a jövőbeli chatekhez?”, sokkal egyértelműbb, mint a személyre szabott szolgáltatásokba való általános beleegyezés.

A céltól függően a jogalap eltérő lehet, és azt projektspecifikusan kell felülvizsgálni. A felület nem kényszerítheti ki azt megtévesztő mintákkal (dark patterns). A visszautasítás nem akadályozhatja szükségtelenül a chathez való normál hozzáférést. A döntést a tárolt tartalomtól elkülönítve naplózza.

Az emlékezés mindig lekérdezést is jelent

A következő beszélgetés során nem szabad a teljes profilt vakon bemásolni minden egyes promptba. Először a személyazonosságot és a bérlőt (tenant) kell ellenőrizni, majd csak az aktuális szándékhoz (intent) szükséges jellemzőket kell betölteni. Egy számlázási kérdéshez szükség lehet a nyelvre és az ügyfélszámra, de egy korábbi termékpanaszra nem.

Mutassa meg a modellnek az adatok eredetét és korát is. Egy régi, nem megerősített összefoglalónak tisztázó kérdést kell kiváltania. Ezzel szemben egy hiteles rendszerből származó érték célzottan használható. Így a bizonytalanságot nem takarják el a gördülékeny megfogalmazások.

A javítás mint normál termékútvonal

Az emberek megváltoztatják a véleményüket, a modellek pedig hibásan foglalhatnak össze dolgokat. Ezért biztosítson egy „Amit a chatbot megjegyez” nézetet szerkesztési és törlési lehetőséggel. A beszélgetés során egy olyan kijelentésnek, mint „Ez már nem igaz”, azonosítania kell az érintett értéket, és a módosítás előtt meg kell erősítenie azt.

A javításoknak minden releváns szintet el kell érniük: a profilt, a keresési indexet, a gyorsítótárat (cache) és a származtatott összefoglalót. Ha csak a látható mezőt módosítják, miközben egy régi beágyazás (embedding) továbbra is találatokat ad vissza, az nehezen magyarázható hibákhoz vezet. Vezessen auditnaplót a módosításról anélkül, hogy a törölt érzékeny értéket szükségtelenül megőrizné a naplóban.

A lejárat és a törlés technikai kikényszerítése

A GDPR 5. cikke rögzíti az adattakarékosság és a korlátozott tárolhatóság elvét. Ültesse át ezeket az elveket automatikus szabályokba. A munkamenet szövege rövid idő után eltűnhet, a folytatási állapotok az ügy lezárása után, a preferenciák pedig egy hosszabb, de meghatározott inaktivitási időszak után. A „korlátlanul, ha később még hasznos lesz” nem elfogadható határidő.

A törlési megbízáshoz nyomon követhető láncra van szükség. Az elsődleges adatkészletet, a beágyazást, a gyorsítótárat, az analitikai exportot és a biztonsági mentési szabályt egyaránt figyelembe kell venni. A biztonsági mentések technikailag eltérő határidőkkel rendelkezhetnek, de nem állíthatják vissza a törölt adatokat az aktív szolgáltatásba. Rendszeresen tesztelje a törlést megjelölt tesztadatokkal.

Nincs titkos modellképzés a chatekből

A termékmemória és a modellképzés különálló célok. Az, hogy a felhasználó elment egy információt a következő ügyfélszolgálati megkereséshez, nem jelenti automatikusan a hozzájárulást az általános modell fejlesztéséhez. Tartsa a képzési és értékelési adatkészleteket szervezeti és technikai szempontból elkülönítve, és csak akkor névtelenítsen, ha az anonimizálás valóban megbízható.

Az EDPB az AI-modellekről szóló állásfoglalásában hangsúlyozza, hogy azt a kérdést, hogy egy modell anonim-e, eseti alapon kell értékelni. A látható nevek puszta eltávolítása nem elegendő automatikusan. Számos weboldal-üzemeltető csapat számára ezért egyszerűbb és biztonságosabb, ha a működési chatekre alapértelmezés szerint nem tekintenek képzési korpuszként.

A minőség és a biztonság mérése

A memóriának saját tesztekre van szüksége. Ellenőrizze a felhasználók és bérlők közötti hibás hozzárendelést, a lejárt értékeket, a ellentmondó adatokat, a visszavonást, az exportot és a teljes törlést. Ne csak azt mérje, milyen gyakran használják az emlékeztetőket, hanem azt is, milyen gyakran javítják azokat a felhasználók, vagy találják meglepőnek őket.

Egy Golden Set olyan forgatókönyveket tartalmazhat, mint: két személy ugyanazon az eszközön, szerepkörváltás egy szervezeten belül, megváltozott szállítási cím, nyelvválasztás módosítása, törölt fiók és egy olyan érzékeny adat, amelyet soha nem szabad elmenteni. Minden kiadásnak bizonyítania kell, hogy az izoláció és a lejárat továbbra is működik.

Pragmatikus bevezetési terv

1. A tárolási típusok és célok leltározása.
2. Az eredet, az érvényesség és a határidő meghatározása minden típushoz.
3. Kezdés egy veszélytelen, kifejezetten megerősített preferenciával.
4. A lekérdezés korlátozása a bérlőre, a személyazonosságra és az aktuális szándékra.
5. A nézet, a javítás, az exportálás és a törlés biztosítása.
6. A származtatott adattárak és gyorsítótárak bevonása a törlési láncba.
7. Az izoláció, a lejárat és a helyreállítás rendszeres tesztelése.

Összegzés: A jó memória képes megmagyarázni, miért tud valamit

A hasznos chatbot-memória kicsi, strukturált és ellenőrizhető. Megkülönbözteti a rövid távú kontextust a tartós jellemzőktől, csak a megfelelő tényeket tárolja, és láthatóvá teszi az eredetet, valamint a lejáratot. A felhasználók javíthatják vagy törölhetik az adatokat anélkül, hogy ügyfélszolgálati hibajegyet kellene nyitniuk.

Ne azzal a kérdéssel kezdje, hogy mely adatok tárolhatók technikailag. Kezdje egyetlen olyan információval, amelynek későbbi hasznossága egyértelmű – és ezzel párhuzamosan tervezze meg azt az utat is, hogyan erősítik meg, javítják ki és felejtik el teljesen.

Források

• EUR-Lex: Általános adatvédelmi rendelet, különösen az 5. cikk
• EDPB: Opinion 28/2024 on AI Models and Personal Data
• EDPB: Fundamentals of Secure AI Systems with Personal Data
• NIST Privacy Framework