Pokalbių atmintis DI pokalbių bote: įsiminti, pataisyti ir laiku pamiršti

Atsakymas „Įsiminkite mano pageidaujamą pristatymo adresą“ gali padaryti svetainės pokalbių botą patogesnį. Tačiau tas pats mechanizmas gali perkelti senus, neteisingus ar jautrius duomenis į vėlesnius pokalbius. Dažnai čia supainiojami trys dalykai: trumpalaikė sesijos eiga, kompaktiška santrauka pokalbiui tęsti ir ilgalaikis naudotojo profilis. Jie turi skirtingus tikslus, rizikas ir saugojimo terminus.

Todėl gera pokalbių atmintis nesistengia išsaugoti kuo daugiau. Ji išsaugo nedaug, aiškiai pagristų faktų su jų kilme, galiojimu ir matoma kontrole. Šiame vadove pristatomas techninis ir redakcinis modelis, apjungiantis naudą, tikslumą ir duomenų apsaugą.

Švariai atskirkite tris saugyklos tipus

Sesijos kontekstas apima paskutines žinutes, kad tolimesni klausimai liktų suprantami. Jis pasibaigia po trumpo neaktyvumo periodo arba aiškiai užbaigus pokalbį. Tęsimo santraukos sumažina ilgesnį pokalbį iki būtinos darbinės būsenos, pavyzdžiui, dar neišspręstos palaikymo temos. Ilgalaikiai požymiai galioja tarp skirtingų sesijų, pavyzdžiui, naudotojo sąmoningai išsaugotas kalbos nustatymas.

Šis atskyrimas neleidžia visam pokalbių žurnalui tapti neribotu profiliu. Kiekvienas saugyklos tipas gauna savo tikslą, prieigą, galiojimo laiką ir ištrynimo kelią. Techninę lentelę su lauku „memory“, neturinčią šio diferencijavimo, sunku patikrinti ir dar sunkiau patikimai išvalyti.

Įsiminkite tik aiškius ir tinkamus faktus

Pokalbių botas neturėtų automatiškai išvesti ilgalaikės savybės iš kiekvieno pasakymo. „Šiandien man reikia sąskaitos anglų kalba“ nebūtinai reiškia, kad anglų kalba yra ilgalaikis pasirinkimas. Visam laikui saugokite tik tuos duomenis, kurių nauda vėlesnėms sesijoms yra aiški, o išsaugojimas – tikėtinas naudotojui.

Ypač jautri informacija, laisvo formato sveikatos duomenys, mokėjimo duomenys, slaptažodžiai ir vienkartiniai autentifikavimo kodai nepriklauso bendrajai pokalbių atminčiai. Verslo operacijoms tinkamiausia saugykla paprastai yra atitinkama specializuota sistema. Pokalbių botas gali užklausti patvirtintą nuorodą, užuot kūręs antrą šėšėlinę kopiją.

Atminti skirtam įrašui reikia metaduomenų

Saugokite prisiminimą kaip struktūrizuotą duomenų rinkinį, o ne kaip nekontroliuojamą teksto bloką. Naudingi laukai yra:

• Reikšmė ir tipas: pavyzdžiui, pageidaujama kalba arba pasirinkta produkto sritis.
• Kilmė: tiesioginė naudotojo įvestis, patvirtinta santrauka arba verifikuota sistema.
• Tikslas: kodėl reikalaujama šios reikšmės kitame pokalbyje.
• Galiojimo sritis: naudotojas, organizacija, svetainė ir, jei reikia, lokalė.
• Laikas ir galiojimas: kada išsaugota, paskutinį kartą patvirtinta ir kada bus automatiškai ištrinta.
• Pasitikėjimo būsena: nepatvirtinta prielaida, patvirtinta arba verifikuota.

Laisvos modelio santraukos gali būti naudingos, tačiau turi likti atpažįstamos kaip tokios. Jos neturi tyliai tapti patvirtintais kliento duomenimis.

Prieš išsaugodami aiškiai atsipaklauskite

Jei informacija bus naudojama už esamos sesijos ribų, sąsajoje reikalingas suprantamas sprendimas. Nurodykite konkrečią reikšmę, tikslą ir galimybę ištrinti. Trumpas patvirtinimas, pavyzdžiui, „Išsaugoti šią kalbą būsimiems pokalbiams?“, yra aiškesnis nei bendras sutikimas dėl personalizuotų paslaugų.

Priklausomai nuo tikslo, teisinis pagrindas gali skirtis ir turi būti įvertintas kiekvienam projektui atskirai. Sąsaja neturėtų jo primesti naudojant tamsiuosius modelius (dark patterns). Atsisakymas neturi be reikalo riboti įprastos prieigos prie pokalbio. Sprendimą registruokite atskirai nuo išsaugoto turinio.

Prisiminti reiškia ir gauti duomenis

Kito pokalbio metu visas profilis neturi būti aklai kopijuojamas į kiekvieną užklausą (prompt). Pirmiausia patikrinama tapatybė ir klientas, o tada užkraunami tik esamam tikslui būtini požymiai. Klausimui apie sąskaitą gali prireikti kalbos ir kliento numerio, bet ne ankstesnio skundo dėl produkto.

Taip pat parodykite modeliui kilmę ir amžių. Sena, nepatvirtinta santrauka turėtų išprovokuoti patikslinamąjį klausimą. O reikšmė iš autoritingos sistemos gali būti naudojama tikslingai. Taip neapibrėžtumas nebus paslėptas po sklandžiomis formuluotėmis.

Pataisymas kaip įprastas produkto procesas

Žmonės keičia savo nuomonę, o modeliai daro netikslias santraukas. Todėl pateikite rodinį „Ką pokalbių botas prisimena“ su redagavimo ir ištrynimo funkcijomis. Pokalbio metu pasakymas, pvz., „Tai nebetiesa“, turėtų identifikuoti atitinkamą reikšmę ir patvirtinti ją prieš keičiant.

Pataisymai turi pasiekti visus susijusius lygmenis: profilį, paieškos indeksą, podėlį (cache) ir išvestinę santrauką. Tik matomo lauko pakeitimas, kol senas įterpinys (embedding) toliau duoda atitiktis, sukelia sunkiai paaiškinamus pakartotinius sutrikimus. Išlaikykite pakeitimo audito įrašą, tačiau be reikalo neįrašykite ištrintos jautrios reikšmės į žurnalą.

Griežtai užtikrinkite galiojimo pabaigą ir ištrynimą

BDAR 5 straipsnis įtvirtina duomenų kiekio mažinimo ir saugojimo apribojimo principus. Paverskite šiuos principus automatinėmis taisyklėmis. Sesijos tekstas gali išnykti po trumpo laiko, tęsimo būsenos – užbaigus atvejį, o nuostatos – po ilgesnio, bet apibrėžto neaktyvumo laiko. „Neribotai, jei vėliau prireiks“ nėra patikimas terminas.

Ištrynimo užduočiai reikalinga atsekama grandinė. Turi būti atsižvelgta į pagrindinį duomenų rinkinį, įterpinį (embedding), podėlį, analitikos eksportą ir atsarginių kopijų taisykles. Atsarginėms kopijoms techniškai gali būti taikomi kiti terminai, tačiau jos neturi grąžinti ištrintų duomenų atgal į aktyvų naudojimą. Reguliariai tikrinkite ištrynimą naudodami pažymėtus bandomuosius duomenis.

Jokio slapto modelių mokymo iš pokalbių

Produkto atmintis ir modelio mokymas yra skirtingi tikslai. Tai, kad naudotojas leidžia išsaugoti informaciją kitam kontaktui su palaikymo tarnyba, automatiškai nereiškia sutikimo tobulinti bendrąjį modelį. Laikykite mokymo ar vertinimo duomenų rinkinius organizaciškai bei techniškai atskirtus ir anonimizuokite tik tada, kai anonimizavimas iš tiesų yra patikimas.

EDPB savo nuomonėje dėl DI modelių pabrėžia, kad klausimas, ar modelis yra anonimiškas, turi būti vertinamas kiekvienu atveju atskirai. Vien tik matomų vardų pašalinimo nepakanka. Todėl daugeliui svetainių komandų paprasčiau ir saugiau pagal numatytuosius nustatymus nenaudoti realių pokalbių kaip mokymo korpuso.

Matuokite kokybę ir saugumą

Atminties funkcijai reikalingi atskiri testai. Patikrinkite neteisingą priskirimą tarp naudotojų ir klientų, pasibaigusio galiojimo reikšmes, prieštaringus duomenis, atšaukimą, eksportą ir visišką ištrynimą. Matuokite ne tik tai, kaip dažnai naudojami prisiminimai, bet ir kaip dažnai naudotojai juos taiso arba laiko netikėtais.

Ekspertinis rinkinys (Golden Set) gali apimti tokius scenarijus: du asmenys prie to paties įrenginio, vaidmenų kaita organizacijoje, pasikeitęs pristatymo adresas, kalbos pakeitimas, ištrinta paskyra ir jautrus duomenų įrašas, kuris niekada neturi būti išsaugomas. Kiekvienas leidimas turi įrodyti, kad izoliacija ir galiojimo pabaiga toliau veikia.

Pragmatiškas įgyvendinimo planas

1. Inventorizuokite saugyklų tipus ir tikslus.
2. Kiekvienam tipui apibrėžkite kilmę, galiojimą ir terminą.
3. Pradėkite nuo nekenksmingos, aiškiai patvirtintos nuostatos.
4. Apribokite duomenų gavimą pagal klientą, tapatybę ir esamą tikslą.
5. Pateikite peržiūros, pataisymo, eksporto ir ištrynimo funkcijas.
6. Įtraukite išvestines saugyklas ir podėlius į ištrynimo grandinę.
7. Reguliariai tikrinkite izoliaciją, galiojimo pabaigą ir atkūrimą.

Išvada: Gera atmintis gali paaiškinti, kodėl ji ką nors žino

Naudinga pokalbių boto atmintis yra nedidelė, struktūrizuota ir kontroliuojama. Ji atskiria trumpalaikį kontekstą nuo ilgalaikių požymių, saugo tik tinkamus faktus ir daro matomą jų kilmę bei galiojimo laiką. Naudotojai gali pataisyti arba ištrinti duomenis neatidarydami palaikymo kreipinio.

Nepradėkite nuo klausimo, kuriuos duomenis techniškai įmanoma išsaugoti. Pradėkite nuo vienintelės informacijos, kurios vėlesnė nauda yra aiški – ir kartu suprojektuokite kelią, kaip ji bus patvirtinta, pataisyta ir visiškai pamiršta.

Šaltiniai

• EUR-Lex: Bendrasis duomenų apsaugos reglamentas, ypač 5 straipsnis
• EDPB: Nuomonė 28/2024 dėl DI modelių ir asmens duomenų
• EDPB: Saugių DI sistemų su asmens duomenimis pagrindai
• NIST privatumo pagrindai (Privacy Framework)