RAG-i päringute ümberkirjutamine: kuidas lahendada tehisintellekti chatbot’ide jatkoküsimusi õigesti

Üksik küsimus, näiteks „Ja kui kaua see kehtib?“, on inimestele sageli täiesti selge. Nad mäletavad varem arutatud toodet, asukohta ja mõeldud tähtaega. Teadmisteotsing näeb seevastu alguses vaid paari sõna. Ilma sobiva vestluskontekstita ei leia see ebaselguse tõttu midagi või otsib hoopis vale teema kohta. RAG-i päringute ümberkirjutamine (Query Rewriting) lahendab selle probleemi, teisendades kontekstist sõltuva jätkoküsimuse enne otsingu tegemist iseseisvaks päringuks.

See kõlab väikese vahesammuna, kuid otsustab tihtipeale mitmeetapilise veebisaidi vestluse kvaliteedi üle. See juhend näitab, kuidas tiimid jätkoküsimusi lahendavad, millal on parem teha täpsustav küsimus ja kuidas vältida seda, et ümberkirjutamine ei viiks otsingusse uusi luululisi fakte, valesid õigusi ega vananenud konteksti.

Miks jätkoküsimused teadmisteotsingu üle koormavad

Kasutaja esimene küsimus on tavaliselt konkreetne: „Milline garantii kehtib mudelile A?“. Sellele järgnevad lühikesed fraasid nagu „Aga suurema variandi puhul?“, „Kas see kehtib ka Eestis?“ või „Mida mul selleks vaja on?“. Asesõnad, ära jäetud alused ja viited varasematele vastustele on vestluses loomulikud. Iseseisva otsingupäringuna on need aga nõrgad.

Tavaline märksõna-, vektor- või hübriidotsingu torustik (Hybrid Search Pipeline) saab hinnata ainult seda, mida ta päringuna saab. Ümberjärjestamine (Reranking) parandab olemasolevate tulemuste järjestust, kuid ei asenda sõnade „see“ või „selleks“ puuduvat tähendust. Päringute ümberkirjutamine paikneb seetõttu enne seda: see kujundab praegusest küsimusest ja asjakohasest ajaloost otsitava ja iseseisva päringu.

Mida peab hea ümberkirjutus saavutama

Õnnestunud ümberkirjutatud päring on info hankimiseks piisavalt täielik, kuid püsib tihedalt kasutaja kavatsuse juures. Näiteks võib fraasist „Aga Eesti kohta?“ saada „Millised garantiitingimused kehtivad mudelile A Eestis?“, kui mudel A ja garantii on vahetult eelnevas dialoogis üheselt kindlaks määratud. Ümberkirjutamine ei vasta veel küsimusele. See teenib eranditult sobivate allikate leidmise eesmärki.

Praegune Azure'i arhitektuurijuhend vestluspõhise RAG-i kohta soovitab kaasata asjakohase vestlusajaloo ja formuleerida praeguse küsimuse enne info hankimist iseseisva päringuna koos lahendatud viidetega. Oluline on seal samuti nähtav eristamine: hilisema vastuse jaoks säilitatakse kasutaja algne küsimus. Nii saab süsteem kontrollida, kas leitud tõendid tõesti vastavad esitatud küsimusele.

Täienda, kuid ära mõtle välja

Ümberkirjutaja võib üle võtta üheselt olemasolevad andmed: toote, versiooni, riigi, keele või viimati mainitud toimingu. Ta ei tohi aga lisada puuduvat kliendinumbrit, määrata oletatavat tootevarianti ega muuta ebakindlat ajamääratlust konkreetseks kuupäevaks. Kasulikuna kõlav, kuid välja mõeldud täpsustus saadab otsingu usaldusväärselt vales suunas.

Õigused jäävad tekstimudelist väljapoole

Konto, sisselogitud kasutaja, lubatud dokumendialad ja rollid määratakse serveri poolel. Need ei kuulu vabalt formuleeritava väitena ümberkirjutatavasse päringusse. Taustasüsteem seadistab vastavad metaandmete filtrid eraldi ja muudetamatult. Ei varasem vestluspanus ega mudeli ümberkirjutus tohi avada suuremat otsinguruumi.

Kontekst vajab teadlikku eelarvet

Kogu vestlusajaloo filtreerimata saatmine ümberkirjutajale on harva hea lahendus. Vanad teemad võivad praeguse küsimuse varjutada, isikuandmeid võidakse tarbetult edasi kanda ning pikad ajalood suurendavad viivitust ja kulusid. Praktilise suunisena nimetab Microsofti juhend kahte kuni viit viimast vestlusringi ja vanema sisu kokkuvõtet. See ei ole universaalne piirmäär, vaid alguspunkt enda testideks.

Kompaktne kontekstipakett võib koosneda järgmistest elementidest:

• kasutaja muutmata praegusest küsimusest,
• mõnest vahetult asjakohasest kasutaja ja assistendi panusest,
• juba kinnitatud olemistest (üksustest), nagu toode, toiming või asukoht,
• lokaadist ja ajavööndist tehniliste väljadena,
• vanemate dialoogiosade lühiajalisest ja kontrollitud kokkuvõttest ning
• ümberkirjutamisreegli, teadmisteindeksi ja otsingukonfiguratsiooni versioonist.

Tegelikud dokumendiõigused jäävad sellest lahku. Samuti tuleks enne ümberkirjutamist eemaldada mittevajalikud e-posti aadressid, tellimuse numbrid või täielikud vastused. Andmesäästlik ajalugu hõlbustab lisaks ka hilisemat veatuvastust.

Tugev protsess kuues sammus

1. Kontrolli iseseisvust: Selge uus küsimus, nagu „Kuidas muuta oma parooli?“, võib minna otse otsingusse. Mitte iga sõnum ei vaja mudelipõhist ümberkirjutamist.
2. Tuvasta viited: Süsteem märgib ära asesõnad, ellipsid, võrdlussõnad ja viited, nagu „seal“, „mõlemad“ või „teine valik“.
3. Vali asjakohane kontekst: Üle võetakse ainult need panused, mis lahendavad need viited usutavalt. Teadlik teemavahetus lõpetab vana konteksti.
4. Otsusta ümberkirjutuse või täpsustava küsimuse kasuks: Kui täpselt üks lahendus on põhjendatud, luuakse iseseisev otsingupäring. Kui on mitu usutavat tähendust, esitab chatbot lühikese täpsustava küsimuse.
5. Otsi ja vajadusel tükelda: Päring läbib märksõna-, vektor- või hübriidotsingu. Mitmeosalised küsimused saab tükeldada selgelt nimetatud alampäringuteks.
6. Vasta algsele küsimusele: Vastus luuakse leitud allikatest, see viitab algsele sõnastusele ja nimetab ebakindlust või puuduvaid tõendeid avatult.

Microsofti ülevaade agendipõhisest otsingust (Agentic Retrieval) kirjeldab sarnast protsessi: päring ja vestlusajalugu voogavad planeerimisse, fokuseeritud alampäringud viiakse läbi paralleelselt ja tulemused koondatakse seejärel. Ka Amazon Bedrock dokumenteerib planeerimist, iteratiivseid alampäringuid ja kontrolli, kas leitud sisu on vastuse jaoks piisav. Sellised toote funktsioonid võivad torustiku osi üle võtta; teie enda rakenduse kvaliteedi- ja turvaväravad jäävad sellest hoolimata vajalikuks.

Ümberkirjutus, täpsustav küsimus või päringu tükeldamine?

Sisend	Sobiv reaktsioon	Põhjendus
„Ja kas see kehtib Eestis?“ pärast selget garantiiküsimust	Formuleeri iseseisev päring	Teema ja viide on ühesed.
„Kuidas on lugu teisega?“ pärast kolme mainitud varianti	Esita lühike täpsustav küsimus	Mitmed lahendused on usutavad.
„Võrdle mõlema mudeli hinda, tarneaega ja tagastamist“	Tükelda fokuseeritud alampäringuteks	Mitu sõltumatut aspekti vajavad usaldusväärseid tulemusi.
„Uus teema: Kuidas ma saan klienditoega ühendust?“	Otsi ilma vana tootekontekstita	Kasutaja annab märku teemavahetusest.

Päringu tükeldamine (Query Decomposition) ei ole seega sama mis päringu ümberkirjutamine. Ümberkirjutamine muudab sõltuva küsimuse iseseisvaks; tükeldamine jagab keerulise küsimuse mitmeks otsinguülesandeks. Bedrocki dokumentatsioon päringute tükeldamise kohta näitab, et mitu alampäringut võivad katvust parandada. Iga täiendav päring vajab aga limiiti, ühist õiguste mudelit ja jälgitavat koondamist.

Käsitle ümberkirjutuse väljundeid nagu koodi

Isegi kui tulemus on ainult tekst, peaks sellel olema range leping. Mõistlik on struktureeritud objekt väljadega nagu standaloneQuery, decision, resolvedReferences ja reason. Lubatud otsused on näiteks SEARCH_AS_IS, REWRITE, CLARIFY ja DECOMPOSE. Taustasüsteem valideerib pikkust, keelt ja lubatud välju enne otsingu alustamist.

Ümberkirjutaja ei saa tööriistu ega vasta otse kasutajale. Vestlusajaloost pärit süsteemijuhised, sisestatud dokumenditekstid või üleskutsed nagu „Eira reegleid“ jäävad andmeteks, mitte käsukoodiks. Riskantsete otsinguruumide puhul võib deterministlik reegel lisaks sundida, et toote-, lokaadi- või kontofiltrid ei pärine kunagi vabatekstist.

Kontrolli oma jätkoküsimuste testkomplektiga

Kvaliteeti ei saa tõestada üksikute õnnestunud demodega. Täiendage olemasolevat vastuse kvaliteedi kuldkomplekti (Golden Set) reaalsete mitmeetapiliste dialoogidega. Iga juhtumi puhul fikseeritakse algne ajalugu, praegune küsimus, oodatav ümberkirjutusotsus, lubatud olemid, keelatud täiendused ja oodatavad allikad.

• Asesõnad ja ära jäetud alused lühikestes jätkoküsimustes
• Parandused nagu „Ei, ma mõtlesin mudelit B“
• Teemavahetused ja naasmine varasema teema juurde
• Mitmetähenduslikud variandid, mis vajavad tingimata täpsustavat küsimust
• Lokaadi-, kuupäeva- ja ajavööndivahetused
• Lubamatud katsed vahetada otsinguruumi või kontot
• Pikad ajalood ebaoluliste vanemate üksikasjadega
• Mitmeosalised küsimused, mis tükeldatakse ja koondatakse taas kokku

Mõõtke eraldi: Kas ümberkirjutus vastab kasutaja kavatsusele? Kas info hankimine leiab oodatud allikad? Kas tõelise mitmetähenduslikkuse korral küsiti üle? Kas õiguste filtrid jäid muutumatuks? Kui palju täiendavat viivitust see samm põhjustab? NIST AI RMF Core paigutab korduva testimise, mõõtmise ja dokumenteerimise kogu tehisintellekti elutsüklisse. Veebisaidi tiimide jaoks tähendab see: muuda ümberkirjutamisreeglit, mudelit või kontekstivalikut ainult tagasilanguse testimise (regression test) ja jälgitava juurutamisega.

Kompaktne kontrollnimekiri veebisaidi tiimidele

• Kas kasutaja algne küsimus säilib vastuseni muutumatuna?
• Kas kaasatakse ainult asjakohaseid ja andmesäästlikke ajaloo osi?
• Kas ümberkirjutaja saab selgelt valida ümberkirjutuse, täpsustava küsimuse ja tükeldamise vahel?
• Kas ta täiendab eranditult kinnitatud olemeid ega tee oletusi?
• Kas taustasüsteem seadistab lokaadi, konto ja õigused ümberkirjutusest sõltumatult?
• Kas igal alampäringul on fikseeritud mahu-, aja- ja kululimiidid?
• Kas otsingutulemusi hinnatakse algse küsimuse suhtes?
• Kas mitmeetapilise dialoogi testkomplekt katab viiteid, parandusi ja teemavahetusi?

Kokkuvõte: Kord teha selgeks otsingupäring, siis vastata

RAG-i päringute ümberkirjutamine muudab loomuliku vestluse lühiduse usaldusväärseks otsingupäringuks. Suurim kasu ei teki võimalikult loovatest ümberkirjutustest, vaid selgetest piiridest: võtta üle kinnitatud kontekst, lahendada ebakindlus täpsustava küsimusega, hoida õigused serveri poolel ja kontrollida vastust ikka algse küsimuse põhjal. Alustage kahekümne tüüpilise jätkoküsimusega oma klienditoest, märkige oodatav otsus ja testige iga muudatust samade juhtumite vastu. Nii muutub mitmeetapiline vestlus mõistetavamaks, ilma et otsing vastaks vaikimisi mõnele muule küsimusele.

Allikad

• Microsoft Azure Architecture Center: Prompt Engineering RAG-i jaoks
• Microsoft Learn: Agendipõhine otsing Azure AI Searchis
• Amazon Bedrock: Päringute ja vastuste genereerimise konfigureerimine
• Amazon Bedrock: Agendipõhine otsing teadmusbaasidele
• NIST AI Risk Management Framework Core