Tekoäly-vestlusroboti selgitusküsimused: Turvaline vastamine ebaselgete päringute korral

Ebaselge küsimus ei ole veebisaidi vestlusrobotile korraldus arvatagi. „Palju see maksab?“, „Kas see töötab minu puhul?“ või „Kas ma saan seda täna muuta?“ võivad ilma toote, asukoha, lepingu või ajata omada mitut õiget tähendust. Kasulik vestlusrobot tuvastab selle lünga, esitab lühikese selgitusküsimuse ja piirab oma vastust, kuni leitakse sobiv kinnitatud allikas. Nii kaitseb see külastajaid usutavalt kõlavate valevastuste eest ja aitab tiimidel oma teadmusbaasi sihipäraselt parandada.

Miks ebaselgus on tootenõue

Paljud kvaliteediprobleemid ei teki mitte sellest, et mudel ei mõista keelt, vaid sellest, et sisend on mitmetähenduslik. Hinnaküsimus võib käia litsentsi, pakkumise, tarne või remondi kohta. Tähtajaga seotud küsimus võib sõltuda riigist, kliendirühmast või lepingutüüb洋. Kui vestlusrobot neid erinevusi ei märka, võib isegi keeleliselt elegantne vastus olla eksitav. Õige esimene reaktsioon ei ole siis mitte pikem tekst, vaid täpne ja lihtsasti mõistetav täpsustav küsimus.

NIST AI Risk Management Framework seab mõõtmise ja monitooringu alati vastavasse kasutuskonteksti. Veebisaidi tiimide jaoks tähendab see järgmist: määratlege eelnevalt, milliseid andmeid vastus tingimata vajab. Kui mõni teave puudub, peaks vestlusrobot selgitama, miks see on oluline, ja pakkuma täpselt ühe sobiva valiku. See ei tohi lisada üksikasju, mida pole küsimuses ega verifitseeritud allikas.

Hea selgitusküsimus on lühike ja põhjendatud

Täpsustav küsimus ei tohi mõjuda nagu ankeet. Alustage teabest, mis on vajalik järgmise turvalise vastuse jaoks: „Kas küsimus on olemasoleva tellimuse või uue pakkumise kohta?“ või „Millise toote mudeli kasutusjuhendit te otsite?“ Vajadusel selgitage ühe lausega, miks see valik on vajalik. Vältige avatud üleskutseid nagu „Palun esitage rohkem üksikasju“, kui piisab konkreetsest valikust. Külastajad peaksid saama küsimusele vastata ilma erialaste teadmisteta.

Piirduge ühe küsimusega sammu kohta, välja arvatud juhul, kui kaks detaili on lahutamatult seotud. Mitu küsimust korraga suurendab katkestamisi ja tekitab uusi arusaamatusi. Vestlusrobot saab pärast vastust kontrollida, kas kontekstist piisab, ja alles siis küsida järgmist teavet. See lähenemine on ka ligipääsetavam: W3C rõhutab, et juhised ja sisendid peavad olema mõistetavad. Selged valikuvõimalused aitavad lisaks abitehnoloogiat kasutavatele inimestele ka kõiki ajaheitluses olevaid külastajaid.

Määratlege vastamispiirid enne viipa (prompt) loomist

Ärge kirjutage ainult seda, kuidas vestlusrobot peaks vastama, vaid ka seda, millal see vastata ei tohi. Heas vormis piirid saab sõnastada väikese tabelina: küsimuse kategooria, vajalik kontekst, lubatud allikas, turvaline täpsustav küsimus ja üleandmise (handoff) reegel. Üldise tooteküsimuse puhul võib piisata kinnitatud kataloogist. Isikliku lepingu-, turvalisuse- või makseküsimuse puhul on aga vaja inimest või selget ametlikku protsessi. Piir on tootealane otsus, mitte spontaanne reaktsioon vestluses.

Vastamispiir ei ole ebaviisakas. Sõnastused nagu „Selleks puudub mul teave lepingutüübi kohta; saan teile näidata sobivat kontaktiviisi“ on kasulikumad kui põiklev lõik. Vestlusrobot jääb oma teadmiste taseme suhtes läbipaistvaks ja pakub järgmist tegevust. See ei luba töötlemisaega, hinda ega õiguslikku hinnangut, kui selleks pole usaldusväärset allikat.

Neli ebaselgete päringute tüüpi

• Puuduv objekt: Toodet, teenust või dokumenti pole mainitud.
• Puuduv tingimus: Piirkond, ajavahemik, lepingutüüp või õigus mõjutavad vastust.
• Mitmetähenduslik mõiste: Sõnal on veebisaidil mitu tähendust.
• Ebaselge kavatsus: Külastajad soovivad võrrelda, osta, saada kliendituge või jõuda inimeseni.

Need kategooriad teevad analüüsi võimalikuks. Kui väga paljud vestlused katkevad puuduva objekti tõttu, vajab avaleht äkki paremaid valikuabisid. Kui korduvad mitmetähenduslikud mõisted, saab teadmusbaasi täiendada sünonüümide või selgitavate sissejuhatustega. Korduvad üleandmissoovid ei pruugi näidata mudeli nõrkust, vaid küsimuste kategooriat, mida ei tohiks automatiseerida.

Turvalise dialoogiahela kujundamine

Töökindel protsess koosneb viiest sammust: kavatsuse tuvastamine, puuduva konteksti nimetamine, lühikese täpsustava küsimuse esitamine, ainult kinnitatud allikate otsimine ja vastuse lõpetamine järgmise tegevusega. Pärast iga sisendit võib vestlusrobot kontrollida, kas uus teave tõesti täidab algse lünga. Kui ei, ei tohiks see hüpata esimese vastuse juurde, vaid selgitama järgmist puuduvat tingimust. Nii jääb vestluse kulg jälgitavaks.

Näide: „Kas ma saan oma tellimust muuta?“ Ilma tellimuse staatuse ja muudatuse tüübita pole usaldusväärne kinnitus võimalik. Vestlusrobot küsib kõigepealt, kas küsimus on aadressi, koguse või toote kohta. Pärast seda saab see viidata ametlikule abilehele või pakkuda üleandmist inimesele. See ei mõtle välja muutmise tähtaega ega väida, et tal on juurdepääs kliendikontole. Piirang on siin osa heast teenindusest.

Allikate, infootsingu (retrieval) ja täpsustavate küsimuste ühendamine

Täpsustav küsimus ei peaks parandama ainult keelekasutust, vaid täpsustama ka otsingut. Kasutage külastaja vastust tootevaldkonna, keele või dokumenditüübi filtrina, kui need metaandmed on kinnitatud. Kontrollige seejärel, kas leitud allikad tõesti sobivad selle valikuga. Kui ükski allikas ei sobi, on „Ma ei leia selle kohta kinnitatud teavet“ parem kui üldine tekst sarnasest valdkonnast.

Microsoft soovitab generatiivseid rakendusi enne ja pärast kasutuselevõttu sobivate andmete ja mõõdikutega hinnata. Selgitusdialoogide puhul kuuluvad siia testjuhtumid puuduva konteksti, vastuoluliste andmete ja teadlikult vastamatute küsimustega. Ärge mõõtke ainult seda, kas robot genereerib vastuse. Kontrollige, kas see esitab õige selgitusküsimuse, säilitab allika ja annab piiri saavutamisel töö usaldusväärselt üle inimesele.

Andmesäästlik küsimine

Küsige ainult teavet, mis on vajalik järgmise turvalise vastuse jaoks. Tootekasutusjuhendi puhul on mudeli tähis mõistlik, üldise funktsiooniküsimuse puhul sageli mitte. Ärge küsige kontonumbrit, aadressi ega muid isikuandmeid, kui piisab lingist või üleandmisest inimesele. Selgitage lisaks vajaminevale teabele ka seda, mis ei ole vajalik, ning vältige selle küsimist.

Inimesele üleandmisel edastage ainult vajalik vestluse kontekst. Küsimuse kokkuvõte ja juba valitud opitsioonid võivad kliendituge aidata; kõigi sisendite täielik koopia ei ole automaatselt vajalik. Määratlege juurdepääs, säilitamine ja kustutamine koos vastutavate tiimidega. See protsess ei ole individuaalne õigusnõustamine, vaid praktiline alus andmesäästlikule dialoogi kujundamisele.

Täpsustavate küsimuste ja piiride testimine

Looge väike testkomplekt. Iga rida sisaldab ebaselget algküsimust, puuduvat konteksti, oodatavat täpsustavat küsimust, lubatud allikaid ning oodatavat piiri või üleandmist. Lisage variandid trükivigade, kõnekeele, mitme keele ja vastustega, mis ei selgita tegelikult konteksti. Test on läbitud ka siis, kui vestlusrobot viisakalt peatub ja pakub õiget järgmist teed.

Säilitage kinnitatud vead regressioonitestidena. Kui teadmuslehte või viipa muudetakse, käivitage need juhtumid uuesti. Vastasel juhul võib uus ja kasulik vastus vaikimisi ületada varem turvalise piiri. Ühendage testid klienditoe ja analüütika tagasisidega, kuid muutke sisu alles pärast allika ja vastutuse läbivaatamist.

Tüüpiliste vigade vältimine

• Mitu tundlikku detaili küsimine korraga.
• Üldise vastuse andmine, kuigi otsustav kontekst puudub.
• Täpsustava küsimuse esitamine, kuid pärast seda sama kontrollimata allika kasutamine.
• Inimesele üleandmise pakkumine ilma kättesaadava kontaktiteeta.
• Vastatud küsimuste osakaalu hindamine kõrgemalt kui turvalisi piire.
• Ebaselgete päringute dokumenteerimata jätmine eraldi testiklassina.

Meelespea veebisaidi tiimidele

• Dokumenteerige küsimuste kategooriad koos vajaliku konteksti ja lubatud allikatega.
• Sõnastage lühikesed, mõistetavad täpsustavad küsimused ühe valikuga sammu kohta.
• Kriitiliste või isiklike juhtumite puhul määratlege selge üleandmine inimesele.
• Testige vastamatuid juhtumeid kui soovitud ja läbipaistvat käitumist.
• Vaadake tagasiside, testjuhtumid ja allikate muudatused koos läbi.
• Kontrollige andmesäästlikkust ja vastutust enne käivitamist.

Kokkuvõte

Selgitusküsimused ja vastamispiirid ei tee veebisaidi vestlusrobotit vähem kasulikuks, vaid usaldusväärsemaks. Need muudavad ebaselguse lühikeseks, arusaadavaks dialoogiks ja hoiavad ära puuduva konteksti asendamise väljamõeldud detailidega. Need, kes kujundavad allikad, täpsustavad küsimused, testid ja üleandmised ühtse protsessina, loovad külastajatele paremaid vastuseid ja turvalisemaid järgmisi samme.

Allikad

• NIST AI RMF Core
• Microsoft Learn: Evaluating generative AI applications
• W3C: Labels or Instructions
• ChatReact: Feedback-Schleife
• ChatReact: Golden Set und Antwortqualität
• ChatReact: Human Handoff