Memorija razgovora u AI chatbotu: Zapamtiti, ispraviti i na vrijeme zaboraviti

„Zapamtite moju preferiranu adresu dostave“ može učiniti web chatbot praktičnijim. No isti mehanizam može prenijeti i stare, pogrešne ili osjetljive podatke u buduće razgovore. Često se pritom miješaju tri stvari: kratkoročni tijek sesije, sažeti pregled za nastavak i trajni profil korisnika. Oni imaju različite svrhe, rizike i rokove pohrane.

Dobra memorija razgovora stoga ne pohranjuje što je više moguće. Pohranjuje malo, jasno opravdanih činjenica s porijeklom, valjanošću i vidljivom kontrolom. Ovaj vodič prikazuje tehnički i urednički model koji spaja korisnost, točnost i zaštitu podataka.

Čisto odvojite tri vrste pohrane

Kontekst sesije sadrži posljednje poruke kako bi potpitanja ostala razumljiva. Završava nakon kratkog razdoblja neaktivnosti ili izričitim prekidom chata. Sažeci za nastavak smanjuju dulji tijek na potrebni radni status, na primjer još otvorenu temu podrške. Trajne značajke vrijede kroz više sesija, poput jezične postavke koju je korisnik namjerno spremio.

Odvajanje sprječava da potpuni zapisnik chata postane neograničeni profil. Svaka vrsta pohrane dobiva vlastitu svrhu, pristup, istek i put brisanja. Tehničku tablicu s poljem „memory“ bez ove razlike teško je provjeriti, a još teže pouzdano očistiti.

Pamtite samo izričite i prikladne činjenice

Chatbot ne bi trebao automatski izvoditi trajnu značajku iz svake izjave. „Danas trebam račun na engleskom“ ne znači nužno da je engleski dugoročna preferencija. Trajno pohranjujte samo podatke čija je korist izvan trenutne sesije jasna i čije je pohranjivanje korisniku očekivano.

Posebno osjetljive informacije, slobodni zdravstveni podaci, podaci o plaćanju, lozinke i jednokratni autentifikacijski kodovi ne pripadaju općoj memoriji chata. Za poslovne transakcije obično je mjerodavni sustav pravo mjesto pohrane. Chatbot može dohvatiti odobrenu referencu umjesto vođenja druge skrivene kopije.

Zapamćena stavka treba metapodatke

Pohranite podsjetnik kao strukturirani skup podataka, a ne kao nekontrolirani blok teksta. Korisna polja su:

• Vrijednost i vrsta: na primjer preferirani jezik ili odabrana kategorija proizvoda.
• Porijeklo: izričit unos korisnika, potvrđeni sažetak ili verificirani mjerodavni sustav.
• Svrha: zašto je vrijednost potrebna u sljedećem razgovoru.
• Opseg valjanosti: korisnik, organizacija, web stranica i eventualno lokalizacija.
• Trenutak i istek: kada je spremljeno, zadnji put potvrđeno i automatski izbrisano.
• Status povjerenja: nepotvrđeni izvedeni podatak, potvrđeno ili verificirano.

Slobodni sažeci modela mogu biti korisni, ali moraju ostati prepoznatljivi kao takvi. Ne smiju tiho postati verificirani podaci o kupcima.

Vidljivo pitajte prije pohranjivanja

Ako se neki podatak treba koristiti i nakon trenutne sesije, sučelje zahtijeva razumljivu odluku. Navedite konkretnu vrijednost, svrhu i mogućnost brisanja. Kratka potvrda poput „Spremiti ovaj jezik za buduće razgovore?“ jasnija je od opće privole za personalizirane usluge.

Ovisno o svrsi, pravna osnova može se razlikovati i mora se provjeriti specifično za projekt. Sučelje je ne bi trebalo iznuđivati mračnim uzorcima (dark patterns). Odbijanje ne smije nepotrebno onemogućiti redovni pristup chatu. Zabilježite odluku odvojeno od pohranjenog sadržaja.

Prisjećanje je uvijek i dohvaćanje

Tijekom sljedećeg razgovora cijeli se profil ne smije slijepo kopirati u svaki prompt. Najprije se provjeravaju identitet i zakupac, a zatim se učitavaju samo značajke potrebne za trenutnu namjeru. Pitanje o računu možda treba jezik i broj kupca, ali ne i raniju reklamaciju proizvoda.

Također pokažite modelu porijeklo i starost. Stari, nepotvrđeni sažetak trebala bi izazvati pitanje za pojašnjenje. S druge strane, vrijednost iz autoritativnog sustava može se ciljano koristiti. Tako se nesigurnost ne prikriva tečnim formulacijama.

Ispravak kao standardni funkcionalni put

Ljudi mijenjaju mišljenje, a modeli pogrešno sažimaju. Stoga ponudite prikaz „Što chatbot pamti“ s mogućnošću uređivanja i brisanja. U razgovoru bi izjava poput „To više nije točno“ trebala identificirati dotičnu vrijednost i potvrditi je prije promjene.

Ispravci moraju obuhvatiti sve relevantne razine: profil, indeks pretraživanja, predmemoriju i izvedeni sažetak. Mijenjanje samo vidljivog polja dok staro ugrađivanje (embedding) i dalje daje rezultate stvara teško objašnjive povratke starih podataka. Vodite evidenciju promjena (audit log) bez nepotrebnog bilježenja izbrisanih osjetljivih vrijednosti u dnevnicima.

Tehnički nametnite istek i brisanje

Članak 5. GDPR-a propisuje smanjenje količine podataka i ograničenje pohrane. Prevedite ta načela u automatska pravila. Tekst sesije može nestati nakon kratkog vremena, statusi nastavka nakon rješavanja slučaja, a preferencije nakon dulje, ali definirane neaktivnosti. „Neograničeno, ako kasnije zatreba“ nije održiv rok.

Zahtjev za brisanje treba sljedivi lanac. Primarni skup podataka, embedding, predmemorija, izvoz za analitiku i pravilo sigurnosne kopije moraju se uzeti u obzir. Sigurnosne kopije tehnički mogu imati drugačije rokove, ali izbrisane podatke ne smiju vraćati u aktivnu uslugu. Redovito testirajte brisanje s označenim testnim podacima.

Bez tajnog treniranja modela iz chatova

Memorija proizvoda i treniranje modela odvojene su svrhe. To što korisnik dopušta spremanje informacije za sljedeći kontakt s podrškom ne znači automatski pristanak na poboljšanje općeg modela. Držite skupove podataka za trening ili evaluaciju organizacijski i tehnički odvojenima te ih anonimizirajte samo ako je anonimizacija zaista pouzdana.

EDPB u svom mišljenju o AI modelima naglašava da se pitanje je li model anoniman mora procjenjivati od slučaja do slučaja. Samo uklanjanje vidljivih imena nije automatski dovoljno. Za mnoge timove web stranica stoga je jednostavnije i sigurnije ne tretirati produkcijske chatove kao korpus za trening.

Mjerenje kvalitete i sigurnosti

Memorija zahtijeva vlastita testiranja. Provjerite pogrešno dodjeljivanje između korisnika i zakupaca, istekle vrijednosti, kontradiktorne podatke, povlačenje privole, izvoz i potpuno brisanje. Mjerite ne samo koliko se često sjećanja koriste, već i koliko ih često korisnici ispravljaju ili smatraju iznenađujućima.

Zlatni skup (Golden Set) može sadržavati scenarije kao što su: dvije osobe na istom uređaju, promjena uloge u organizaciji, promijenjena adresa dostave, promjena jezika, izbrisani račun i osjetljivi podatak koji se nikada ne smije spremiti. Svako izdanje mora dokazati da izolacija i istek i dalje funkcioniraju.

Pragmatičan plan uvođenja

1. Popisati vrste pohrane i svrhe.
2. Za svaku vrstu definirati porijeklo, valjanost i rok.
3. Započeti s bezopasnom, izričito potvrđenom preferencijom.
4. Ograničiti dohvaćanje na zakupca, identitet i trenutnu namjeru.
5. Osigurati pregled, ispravak, izvoz i brisanje.
6. Uključiti izvedene pohrane i predmemorije u lanac brisanja.
7. Redovito testirati izolaciju, istek i oporavak.

Zaključak: Dobra memorija može objasniti zašto nešto zna

Korisna memorija chatbota je mala, strukturirana i podložna kontroli. Ona razlikuje kratkoročni kontekst od trajnih značajki, pohranjuje samo prikladne činjenice te čini porijeklo i istek vidljivima. Korisnici mogu ispraviti ili izbrisati podatke bez potrebe za otvaranjem naloga za podršku.

Ne počinjite s pitanjem koji se podaci tehnički mogu pohraniti. Započnite s jednim jedinim podatkom čija je kasnija korist jasna – i istovremeno osmislite način kako se on potvrđuje, ispravlja i potpuno zaboravlja.

Izvori

• EUR-Lex: Opća uredba o zaštiti podataka, posebno članak 5.
• EDPB: Mišljenje 28/2024 o AI modelima i osobnim podacima
• EDPB: Osnove sigurnih AI sustava s osobnim podacima
• NIST Okvir za privatnost