Memoria de conversație în chatbotul cu IA: reținere, corectare și uitare la timp

„Reține adresa mea de livrare preferată” poate face un chatbot pentru site-uri foarte comod. Însă același mecanic poate transporta informații vechi, incorecte sau sensibile în conversații ulterioare. Adesea se confundă trei lucruri: istoricul pe termen scurt al unei sesiuni, un rezumat compact pentru continuare și un profil permanent al utilizatorului. Acestea au scopuri, riscuri și perioade de păstrare diferite.

Prin urmare, o memorie bună de conversație nu stochează cât mai mult posibil. Ea stochează puține fapte, clar justificate, cu origine, valabilitate și control vizibil. Acest ghid prezintă un model tehnic și redacțional care îmbină utilitatea, corectitudinea și protecția datelor.

Separarea clară a trei tipuri de stocare

Contextul sesiunii conține ultimele mesaje, astfel încât întrebările ulterioare să rămână de înțeles. Acesta se încheie după o scurtă perioadă de inactivitate sau la închiderea explicită a chatului. Rezumatele de continuare reduc un istoric mai lung la stadiul de lucru necesar, cum ar fi un subiect de suport încă deschis. Atributele permanente se aplică de la o sesiune la alta, cum ar fi o setare de limbă salvată intenționat de utilizator.

Această separare previne ca un jurnal complet de chat să devină un profil nelimitat. Fiecare tip de stocare primește propriul scop, acces, expirare și cale de ștergere. O tabelă tehnică cu un câmp „memory” fără această diferențiere este greu de auditat și chiar mai greu de curățat în mod fiabil.

Reținerea doar a faptelor explicite și adecvate

Un chatbot nu ar trebui să deducă automat o caracteristică permanentă din fiecare afirmație. „Am nevoie de o factură în engleză astăzi” nu înseamnă neapărat că engleza este o preferință pe termen lung. Salvați permanent doar informațiile a căror utilitate dincolo de sesiunea curentă este clară și a căror stocare rămâne previzibilă pentru utilizatori.

Informațiile deosebit de sensibile, datele de sănătate introduse liber, datele de plată, parolele și codurile unice de autentificare nu au ce căuta într-o memorie generală de chat. Pentru tranzacțiile de afaceri, sistemul specializat responsabil este de obicei spațiul corect de stocare. Chatbotul poate prelua o referință autorizată în loc să mențină o a doua copie ombră.

O notă reținută are nevoie de metadate

Stocați o amintire ca un set de date structurat, nu ca un bloc de text necontrolat. Câmpurile utile sunt:

• Valoare și tip: cum ar fi limba preferată sau categoria de produse selectată.
• Origine: introducere explicită de la utilizator, rezumat confirmat sau sistem specializat verificat.
• Scop: de ce este necesară valoarea în conversația următoare.
• Domeniu de aplicare: utilizator, organizație, site web și, dacă este cazul, setări regionale (locale).
• Momentul și expirarea: când a fost salvată, reconfirmată ultima dată și ștersă automat.
• Stare de încredere: deducție neconfirmată, confirmată sau verificată.

Rezumatele libere ale modelului pot fi de ajutor, dar trebuie să rămână identificabile ca atare. Ele nu au voie să devină în mod tăcut date verificate despre clienți.

Solicitarea clară a consimțământului înainte de salvare

Dacă o informație urmează să fie utilizată dincolo de sesiunea curentă, interfața are nevoie de o decizie ușor de înțeles. Specificați valoarea concretă, scopul și opțiunea de ștergere. O confirmare simplă de tipul „Salvați această limbă pentru chaturile viitoare?” este mai clară decât un consimțământ general pentru servicii personalizate.

În funcție de scop, temeiul juridic poate varia și trebuie evaluat specific fiecărui proiect. Interfața nu ar trebui să îl impună prin tehnici de manipulare (dark patterns). Un refuz nu trebuie să blocheze inutil accesul normal la chat. Înregistrați decizia separat de conținutul salvat.

A-ți aminti înseamnă întotdeauna și a prelua

La următorul dialog, întregul profil nu trebuie copiat orbete în fiecare prompt. Mai întâi sunt verificate identitatea și organizația (tenant), apoi sunt încărcate doar atributele necesare pentru intenția curentă. O întrebare despre facturare poate necesita limba și numărul de client, dar nu o reclamație anterioară despre un produs.

Arătați modelului și originea și vechimea datelor. Un rezumat vechi și neconfirmat ar trebui să declanșeze o întrebare de clarificare. În schimb, o valoare dintr-un sistem autoritar poate fi utilizată direct. Astfel, nesiguranța nu este mascată de formulări cursive.

Corecția ca funcționalitate standard de produs

Oamenii își schimbă opinia, iar modelele fac rezumate greșite. De aceea, oferiți o vizualizare „Ce reține chatbotul” cu opțiuni de editare și ștergere. În timpul conversației, o afirmație precum „Acest lucru nu mai este valabil” ar trebui să identifice valoarea afectată și să o confirme înainte de modificare.

Corecțiile trebuie să ajungă la toate nivelurile relevante: profil, index de căutare, memorie cache și rezumat derivat. Modificarea doar a câmpului vizibil, în timp ce un embedding vechi continuă să genereze potriviri, creează recidive greu de explicat. Păstrați o intrare de audit despre modificare, fără a imortaliza inutil valoarea sensibilă ștersă în jurnal.

Aplicarea tehnică a expirării și ștergerii

Articolul 5 din GDPR consacră minimizarea datelor și limitarea stocării. Transpuneți aceste principii în reguli automate. Textul sesiunii poate dispărea după scurt timp, stadiul de continuare după finalizarea cazului, iar preferințele după o perioadă de inactivitate mai lungă, dar definită. „Pe termen nelimitat, în caz că este util mai târziu” nu este un termen sustenabil.

O solicitare de ștergere necesită un lanț trasabil. Setul de date primar, embedding-ul, memoria cache, exportul de analiză și regula de backup trebuie luate în considerare. Backup-urile pot avea tehnic alte termene, dar nu trebuie să reintroducă datele șterse în serviciul activ. Testați ștergerea regulat folosind date de test marcate.

Fără antrenare secretă a modelelor din chaturi

Memoria produsului și antrenarea modelului sunt scopuri distincte. Faptul că un utilizator permite salvarea unei informații pentru următorul contact de suport nu înseamnă automat un acord pentru îmbunătățirea unui model general. Păstrați seturile de date de antrenare sau evaluare separate organizațional și tehnic și anonimizați-le doar dacă anonimizarea este cu adevărat solidă.

EDPB subliniază în opinia sa privind modelele IA că întrebarea dacă un model este anonim trebuie evaluată de la caz la caz. Simpla eliminare a numelor vizibile nu este automat suficientă. Pentru multe echipe de site-uri web, este mai simplu și mai sigur să nu trateze chaturile din producție ca un corpus de antrenament în mod prestabilit.

Măsurarea calității și a securității

O memorie are nevoie de propriile teste. Verificați atribuirea greșită între utilizatori și organizații (tenants), valorile expirate, informațiile contradictorii, revocarea, exportul și ștergerea completă. Măsurați nu doar cât de des sunt folosite amintirile, ci și cât de des le corectează utilizatorii sau le consideră surprinzătoare.

Un Golden Set poate include scenarii precum: două persoane la același dispozitiv, schimbarea rolului într-o organizație, o adresă de livrare modificată, schimbarea limbii, un cont șters și o informație sensibilă care nu trebuie salvată niciodată. Fiecare lansare trebuie să dovedească faptul că izolarea și expirarea funcționează în continuare.

Un plan pragmatic de implementare

1. Inventarierea tipurilor de stocare și a scopurilor.
2. Definirea originii, valabilității și termenului pentru fiecare tip.
3. Începerea cu o preferință inofensivă, confirmată explicit.
4. Limitarea preluării la organizație, identitate și intenția curentă.
5. Punerea la dispoziție a vizualizării, corecției, exportului și ștergerii.
6. Includerea memoriilor derivate și a cache-urilor în lanțul de ștergere.
7. Testarea regulată a izolării, expirării și restaurării.

Concluzie: O memorie bună poate explica de ce știe un anumit lucru

O memorie utilă de chatbot este redusă, structurată și controlabilă. Aceasta diferențiază contextul pe termen scurt de atributele permanente, stochează doar fapte adecvate și face vizibile originea și expirarea. Utilizatorii pot corecta sau șterge informațiile fără a fi nevoie să deschidă un tichet de suport.

Nu începeți cu întrebarea ce date pot fi stocate din punct de vedere tehnic. Începeți cu o singură informație a cărei utilitate ulterioară este clară – și proiectați simultan calea prin care aceasta este confirmată, corectată și uitată complet.

Surse

• EUR-Lex: Regulamentul general privind protecția datelor, în special Articolul 5
• EDPB: Opinia 28/2024 privind Modelele IA și Datele cu Caracter Personal
• EDPB: Fundamentele Sistemelor IA Securizate cu Date cu Caracter Personal
• NIST Privacy Framework