Sarunas atmiņa Mākslīgā Intelekta čatbotā: atcerēties, izlabot un laicīgi aizmirst

Frāze "Atceries manu vēlamo piegādes adresi" var padarīt tīmekļa vietnes čatbotu ļoti ērtu. Taču tas pats mehānisms nākamajās sarunās var pārnest arī vecu, nepareizu vai jutīgu informāciju. Bieži vien tiek sajauktas trīs lietas: sesijas īstermiņa vēsture, kompakts kopsavilkums sarunas turpināšanai un ilgstošs lietotāja profils. Tiem ir atšķirīgi mērķi, riski un glabāšanas termiņi.

Tāpēc laba sarunas atmiņa nesaglabā pēc iespējas vairāk datu. Tā saglabā nedaudzus, skaidri pamatotus faktus ar norādītu izcelsmi, derīgumu un redzamu kontroli. Šajā rokasgrāmatā ir parādīts tehniskais un redakcionālais modelis, kas apvieno lietderību, pareizību un datu aizsardzību.

Stingri nošķiriet trīs krātuves veidus

Sesijas konteksts satur pēdējās ziņas, lai turpmākie jautājumi būtu saprotami. Tas beidzas pēc īsa bezdarbības perioda vai eksplicitētas tērzēšanas pabeigšanas. Turpināšanas kopsavilkumi samazina garāku vēsturi līdz nepieciešamajam darba statusam, piemēram, vēl atvērtam atbalsta tematam. Ilgstošas pazīmes ir spēkā vairākās sesijās, piemēram, lietotāja apzināti saglabāts valodas iestatījums.

Nošķiršana novērš situāciju, ka pilns tērzēšanas protokols kļūst par beztermiņa profilu. Katram krātuves veidam ir savs mērķis, piekļuve, termiņš un dzēšanas ceļš. Tehnisku tabulu ar lauku "memory" bez šādas nošķiršanas ir grūti pārbaudīt un vēl grūtāk uzticami iztīrīt.

Atcerēties tikai eksplicitētus un piemērotus faktus

Čatbotam nevajadzētu automātiski secināt ilgstošu īpašību no katra izteikuma. "Šodien man vajag rēķinu angļu valodā" neizbēgami nenozīmē, ka angļu valoda ir ilgtermiņa preference. Saglabājiet ilgstoši tikai tādus datus, kuru lietderība ir skaidra arī pēc pašreizējās sesijas un kuru saglabāšana lietotājam ir paredzama.

Īpaši jutīga informācija, brīvi ierakstīti veselības dati, maksājumu dati, paroles un vienreizēji autentifikācijas kodi nepieder pie vispārējās tērzēšanas atmiņas. Darījumu procesiem vislabākā krātuve parasti ir attiecīgā specializētā sistēma. Čatbots var iegūt apstiprinātu atsauci, nevis uzturēt otru ēnu kopiju.

Piezīmei ir nepieciešami metadati

Saglabājiet atgādinājumu kā strukturētu datu kopu, nevis kā nekontrolētu teksta bloku. Noderīgi lauki ir:

• Vērtība un tips: piemēram, vēlamā valoda vai izvēlētā produktu joma.
• Izcelsme: tieša lietotāja ievade, apstiprināts kopsavilkums vai pārbaudīta sistēma.
• Mērķis: kāpēc šī vērtība būs nepieciešama nākamajā sarunā.
• Derīguma joma: lietotājs, organizācija, tīmekļa vietne un, ja nepieciešams, lokāle.
• Laiks un termiņš: kad saglabāts, pēdējo reizi apstiprināts un automātiski izdzēsts.
• Uzticamības statuss: neapstiprināts secinājums, apstiprināts vai pārbaudīts.

Brīvi modeļa kopsavilkumi var būt noderīgi, taču tiem jābūt atpazīstamiem kā tādiem. Tie nedrīkst klusām kļūt par pārbaudītiem klienta datiem.

Pirms saglabāšanas skaidri pajautāt

Ja informāciju paredzēts izmantot ārpus pašreizējās sesijas, saskarnei ir nepieciešams saprotams lēmums. Norādiet konkrēto vērtību, mērķi un dzēšanas iespēju. Neliels apstiprinājums, piemēram, "Saglabāt šo valodu nākamajām sarunām?", ir skaidrāks nekā vispārīga piekrišana personalizētiem pakalpojumiem.

Atkarībā no mērķa juridiskais pamats var atšķirties, un tas ir jāpārbauda katra projekta ietvaros. Saskarne nedrīkst to spiest ar maldzinošiem paņēmieniem. Atteikumam nevajadzētu bez vajadzības bloķēt parasto piekļuvi čatam. Reģistrējiet lēmumu atsevišķi no saglabātā satura.

Atcerēšanās vienmēr ir arī datu ieguve

Nākamajā sarunā nedrīkst aklai kopēšanai katrā vaicājumā (prompt) ievietot visu profilu. Vispirms tiek pārbaudīta identitāte un klients, un pēc tam tiek ielādētas tikai pašreizējam nolūkam nepieciešamās pazīmes. Rēķina jautājumam var būt nepieciešama valoda un klienta numurs, bet ne iepriekšēja sūdzība par produktu.

Rādiet modelim arī izcelsmi un vecumu. Vecam, neapstiprinātam kopsavilkumam vajadzētu izraisīt precizējošu jautājumu. Savukārt vērtību no autoritatīvas sistēmas var izmantot mērķtiecīgi. Tādējādi nenoteiktība netiek apslēpta aiz tekoša formulējuma.

Labošana kā standarta produkta funkcija

Cilvēki maina savu domas, un modeļi kopsavilkumus var izveidot nepareizi. Tāpēc piedāvājiet skatu "Ko čatbots atceras" ar rediģēšanas un dzēšanas iespējām. Sarunā tādam izteikumam kā "Tas vairs nav pareizi" vajadzētu identificēt attiecīgo vērtību un apstiprināt to pirms izmaiņu veikšanas.

Labojumiem jāsasniedz visi attiecīgie līmeņi: profils, meklēšanas indekss, kešatmiņa un atvasinātais kopsavilkums. Izmainot tikai redzamo lauku, kamēr vecais iegulējums (embedding) turpina sniegt rezultātus, rodas grūti izskaidrojamas kļūdas. Saglabājiet izmaiņu audita ierakstu, neveidojot un nesaglabājot dzēsto jutīgo vērtību žurnālā bez vajadzības.

Tehniski nodrošināt termiņus un dzēšanu

VDAR 5. pants nosaka datu minimizēšanas un glabāšanas ierobežojumu principus. Pārnesiet šos principus automātiskos noteikumos. Sesijas teksts var pazust pēc īsa brīža, turpināšanas statusi – pēc lietas pabeigšanas, bet preferences – pēc ilgākas, taču definētas bezdarbības. "Beztermiņa, ja nu vēlāk noder" nav uzticams termiņš.

Dzēšanas uzdevumam ir nepieciešama izsekojama ķēde. Ir jāņem vērā pamata datu kopa, iegulējums (embedding), kešatmiņa, analītikas eksports un rezerves kopiju noteikumi. Rezerves kopijām tehniski var būt citi termiņi, taču tās nedrīkst atjaunot izdzēstos datus atpakaļ aktīvajā dienestā. Regulāri testējiet dzēšanu ar marķētiem testa datiem.

Nekādas slēptas modeļu apmācības no tērzēšanas

Produkta atmiņa un modeļa apmācība ir atsevišķi mērķi. Tas, ka lietotājs ļauj saglabāt informāciju nākamajam atbalsta kontaktam, automātiski nenozīmē piekrišanu vispārīgā modeļa uzlabošanai. Turiet apmācību vai novērtēšanas datu kopas organizatoriski un tehniski atdalītas un anonimizējiet tikai tad, ja anonimizācija patiešām ir droša.

EDPB savā atzinumā par AI modeļiem uzsver, ka jautājums par to, vai modelis ir anonīms, ir jāvērtē katrā gadījumā atsevišķi. Ar vienkāršu redzamu vārdu noņemšanu automātiski nepietiek. Tāpēc daudzām tīmekļa vietņu komandām ir vienkāršāk un drošāk pēc noklusējuma neizmantot reālās tērzēšanas kā apmācību korpusu.

Mērīt kvalitāti un drošību

Atmiņai ir nepieciešami savi testi. Pārbaudiet nepareizu piesaisti starp lietotājiem un klientiem, noilgušās vērtības, pretrunīgas ziņas, atsaukšanu, eksportu un pilnīgu dzēšanu. Mēriet ne tikai to, cik bieži atgādinājumi tiek izmantoti, bet arī to, cik bieži lietotāji tos labo vai uzskata par pārsteidzošiem.

Zelta kopa (Golden Set) var saturēt tādus scenārijus kā: divi cilvēki pie vienas ierīces, lomu maiņa organizācijā, izmainīta piegādes adrese, valodas maiņa, izdzēsts konts un jutīga informācija, ko nekad nedrīkst saglabāt. Katrai versijai ir jāpierāda, ka izolācija un termiņi joprojām darbojas.

Pragmatisks ieviešanas plāns

1. Inventarizēt krātuves veidus un mērķus.
2. Katram tipam definēt izcelsmi, derīgumu un termiņu.
3. Sākt ar nekaitīgu, tieši apstiprinātu preferenci.
4. Ierobežot datu ieguvi atbilstoši klientam, identitātei un pašreizējam nolūkam.
5. Nodrošināt skatīšanu, labošanu, eksportēšanu un dzēšanu.
6. Iekļaut atvasinātās krātuves un kešatmiņas dzēšanas ķēdē.
7. Regulāri testēt izolāciju, termiņus un atjaunošanu.

Secinājums: laba atmiņa spēj paskaidrot, kāpēc tā kaut ko zina

Noderīga čatbota atmiņa ir maza, strukturēta un kontrolējama. Tā nošķir īstermiņa kontekstu no ilgstošām pazīmēm, saglabā tikai piemērotus faktus un padara redzamu izcelsmi un termiņus. Lietotāji var labot vai dzēst datus, neatverot pieteikumu atbalsta dienestam.

Nesāciet ar jautājumu, kādus datus tehniski var saglabāt. Sāciet ar vienu informācijas vienību, kuras vēlākā lietderība ir skaidra, un vienlaikus izstrādājiet ceļu, kā tā tiek apstiprināta, izlabota un pilnībā aizmirsta.

Avoti

• EUR-Lex: Vispārīgā datu aizsardzības regula, jo īpaši 5. pants
• EDPB: Atzinums 28/2024 par AI modeļiem un personas datiem
• EDPB: Drošu AI sistēmu pamati ar personas datiem
• NIST Privātuma satvars (Privacy Framework)