RAG Query Rewriting: Kif issolvi mistoqsijiet segwenti għal Chatbots AI bil-mod it-tajjeb

Mistoqsija waħedha bħal "U kemm hija valida din?" ta' spiss tkun ċara għall-bnedmin. Huma jiftakru l-prodott li kien diskuss qabel, il-post u l-iċken skadenza maħsuba. Search ta' għarfien, min-naħa l-oħra, inizjalment jara biss ftit kliem. Mingħajr kuntest ta' konversazzjoni adattat, jista' jkun li ma jsib xejn jew jfittex għal suġġett ħażin. RAG Query Rewriting issolvi din il-problema billi tittrasforma mistoqsija segwenti dipendenti mill-kuntest f'mistoqsija ta' tfittxija indipendenti qabel ma ssir it-tfittxija.

Dan jinstema' bħal pass żgħir intermedjarju, iżda spiss jiddetermina l-kwalità ta' chat b'diversi passi fuq websajt. Din il-gwida turi kif it-timijiet jisolvu mistoqsijiet segwenti, meta jkun aħjar li jistaqsu lura u kif jipprevjenu li kitba mill-ġdid iddaħħal fatti ġodda, permessi ħżiena jew kuntest antik fit-tfittxija.

Għaliex mistoqsijiet segwenti jgħabbu żżejjed it-tfittxija tal-għarfien

L-ewwel mistoqsija tal-utent normalment tkun konkreta: "X'garanzija tapplika għal Mudell A?" Wara dan segwew frażijiet qosra bħal "U għall-verżjoni l-akbar?", "Dan japplika fl-Awstrija wkoll?" jew "X'għandi bżonn għal dan?". Pronomi, suġġetti mħollija barra u referenzi għal tweġibiet preċedenti huma naturali f'konversazzjoni. Madankollu, bħala mistoqsija ta' tfittxija iżolata, huma dgħajfa.

A keyword klassika, vector jew Hybrid Search pipeline tista' tevalwa biss dak li tirċievi bħala mistoqsija. Reranking ittejjeb l-ordni tar-riżultati eżistenti, iżda ma tieħux il-post tat-tifsira nieqsa ta' "dan" jew "għal dan". Għalhekk, Query Rewriting tiġi qabel: tfassal mistoqsija ta' tfittxija indipendenti mill-mistoqsija kurrenti u mill-istorja rilevanti.

X'għandu jagħmel rewriting tajjeb

Mistoqsija rewrite li rnexxiet hija kompluta biżżejjed għar-retrieval, iżda tibqa' viċin ħafna tal-intezzjoni tal-utent. Minn "U għall-Awstrija?" tista' pereżempju ssir "Liema kundizzjonijiet ta' garanzija japplikaw għal Mudell A fl-Awstrija?", jekk Mudell A u l-garanzija kienu stabbiliti b'mod ċar fid-djalogu immedjatament preċedenti. Il-kitba mill-ġdid għadha ma twaġġabx il-mistoqsija. Hija sservi esklużivament biex issib sorsi xierqa.

Il-gwida arkitettonika kurrenti ta' Azure dwar Conversational RAG tirrakkomanda li tiġi inkluża l-istorja rilevanti tal-konversazzjoni u li l-mistoqsija kurrenti tifformula bħala mistoqsija indipendenti bir-referenzi msolvija qabel ir-retrieval. Is-separazzjoni li tidher hemmhekk ukoll hija importanti: Għat-tweġiba ta' wara, il-mistoqsija oriġinali tal-utent tinżamm. B'dan il-mod, is-sistema tista' tivverifika jekk l-evidenza misjuba fil-fatt taqbilx mal-mistoqsija li saret.

Żid, iżda tivvintax

Rewriter jista' jadotta dettalji eżistenti b'mod ċar: prodott, verżjoni, pajjiż, lingwa jew l-aħħar proċess imsemmi. Madankollu, m'għandux iżid numru tal-klijent li jkun nieqes, ma jistabbilixxi l-ebda varjant tal-prodott preżunt u ma jibdilx indikazzjoni ta' ħin inċerta f'data konkreta. Speċifikazzjoni li tinstema' utli iżda vvintata tibgħat it-tfittxija b'mod affidabbli fid-direzzjoni l-ħażina.

Il-permessi jibqgħu barra mill-mudell tat-test

Il-klijent, l-utent illoggjat, iż-żoni ta' dokumenti approvati u r-rwoli huma determinati min-naħa tas-server. Huma ma jappartjenux fil-mistoqsija ta' rewrite bħala stqarrija fformulata liberament. Il-backend jissettja l-filtri tal-metadana korrispondenti b'mod separat u li ma jistax jinbidel. Nixtiequ li l-ebda kontribut ta' chat preċedenti u l-ebda użu mill-ġdid tal-mudell ma jiftaħ spazju ta' tfittxija akbar.

Il-kuntest għandu bżonn baġit konxju

L-invio tal-istorja sħiħa taċ-chat mhux iffiltrata lir-rewriter rari jkun soluzzjoni tajba. Suġġetti antiki jistgħu jdawlu l-mistoqsija kurrenti, kontenut personali jista' jittieħed mingħajr bżonn u storja twila żżid il-latenza u l-spejjeż. Bħala orjentazzjoni prattika, il-gwida ta' Microsoft tgħid tnejn sa ħames dawriet ta' konversazzjoni aktar reċenti u sommarju ta' kontenut aktar antik. Dan mhuwiex limitu universali, iżda punt tat-tluq għal testijiet tiegħek stess.

Pakett ta' kuntest kompatt jista' jkun magħmul mill-komponenti li ġejjin:

• il-mistoqsija kurrenti tal-utent mhux mibdula,
• ftit kontributi tal-utent u tal-assistent immedjatament rilevanti,
• entitajiet diġà kkonfermati bħal prodott, proċess jew post,
• locale u żona tal-ħin bħala oqsma tekniċi,
• sommarju ta' ħajja qasira u vverifikat ta' partijiet ta' djalogu aktar antiki u
• il-verżjoni tar-regola tar-rewrite, l-indiċi tal-għarfien u l-konfigurazzjoni tar-retrieval.

Il-permessi tad-dokumenti veri jibqgħu separati minn dan. Bl-istess mod, indirizzi tal-email, numri tal-ordnijiet jew tweġibiet sħaħ mhux meħtieġa għandhom jitneħħew qabel ir-rewrite. Storja bl-ekonomija tad-data tiffaċilita wkoll is-soluzzjoni tal-problemi aktar tard.

Proċess robust f'sitt passi

1. Iċċekkja l-indipendenza: Mistoqsija ġdida u ċara bħal "Kif nbiddel il-password tiegħi?" tista' tmur direttament fit-tfittxija. Mhux kull messaġġ jeħtieġ rewrite mill-mudell.
2. Għaraf ir-referenzi: Is-sistema timmarka pronomi, ellissi, kliem ta' paragun u referenzi bħal "hemmhekk", "it-tnejn" jew "it-tieni opzjoni".
3. Agħżel il-kuntest rilevanti: Jittieħdu biss il-kontributi li jisolvu dawn ir-referenzi b'mod plausibbli. Bidla konxja fis-suġġett ttemm il-kuntest l-antik.
4. Iddeċiedi dwar Rewrite jew Mistoqsija lura: Jekk riżoluzzjoni waħda biss tkun affidabbli, tinħoloq mistoqsija ta' tfittxija indipendenti. Jekk hemm diversi tifsiriet plausibbli, il-chatbot jagħmel mistoqsija ta' kjarifika qasira.
5. Fittex u fittex li tqassam jekk meħtieġ: Il-mistoqsija tgħaddi minn Keyword, Vector jew Hybrid Search. Mistoqsijiet b'diversi partijiet jistgħu tinqasmu f'sotto-mistoqsijiet imsemmija b'mod ċar.
6. Wieġeb għall-mistoqsija oriġinali: It-tweġiba hija ġenerata mis-sorsi misjuba, tirreferi għall-kliem oriġinali u tissemmi b'mod miftuħ inċertezza jew evidenza nieqsa.

Il-pjan ġenerali ta' Microsoft dwar Agentic Retrieval jiddeskrivi proċess simili: Il-mistoqsija u l-istorja tal-konversazzjoni jidħlu fl-ippjanar, sotto-mistoqsijiet ifukati jiġu esegwiti b'mod parallel u r-riżultati jingħaqdu wara. Amazon Bedrock iddokumentat ukoll l-ippjanar, sotto-mistoqsijiet iterattivi u l-verifika dwar jekk il-kontenut misjub hux biżżejjed għal tweġiba. Tali karatteristiċi ta' prodott jistgħu jieħdu partijiet mill-pipeline; il-gates ta' kwalità u sigurtà tal-applikazzjoni tiegħek stess xorta jibqgħu meħtieġa.

Rewrite, Mistoqsija ta' kjarifika jew Query Decomposition?

Input	Reazzjoni xierqa	Raġuni
"U dan japplika fl-Awstrija?" wara mistoqsija ċara ta' garanzija	Ifformula mistoqsija indipendenti	L-oġġett u r-referenza huma ċari.
"X'ġara mill-oħra?" wara li semmejt tliet varjanti	Agħmel mistoqsija ta' kjarifika qasira	Diversi riżoluzzjonijiet huma plausibbli.
"Qabbel il-prezz, il-ħin tal-kunsinna u r-ritorn għaż-żewġ mudelli"	Qassam f'sotto-mistoqsijiet ifukati	Diversi aspetti indipendenti jeħtieġu riżultati solidi.
"Suġġett ġdid: Kif nista' nakkwista s-support?"	Fittex mingħajr il-kuntest tal-prodott l-antik	L-utent qed jindika bidla fis-suġġett.

Għalhekk, Query Decomposition mhix l-istess bħal Query Rewriting. Rewriting jagħmel mistoqsija dipendenti waħda indipendenti; Decomposition taqsam mistoqsija kumplessa f'diversi kompiti ta' tfittxija. Il-dokumentazzjoni Bedrock dwar Query Decomposition turi li diversi sotto-mistoqsijiet jistgħu jtejbu l-kopertura. Madankollu, kull mistoqsija addizzjonali teħtieġ limitu, mudell ta' permess komuni u għaqda li tista' tiġi traċċata.

Ittratta l-outputs tar-rewrite bħal code

Anke jekk ir-riżultat ikun biss test, għandu jkollu kuntratt strett. Oġġett strutturat b'oqsma bħal standaloneQuery, decision, resolvedReferences u reason jagħmel sens. Deċiżjonijiet permessi huma pereżempju SEARCH_AS_IS, REWRITE, CLARIFY u DECOMPOSE. Il-backend jivvalida t-tul, il-lingwa u l-oqsma permessi qabel ma tibda tfittxija.

Ir-rewriter ma jirċievi l-ebda għodda u ma jwieġebx direttament lill-utent. Struzzjonijiet tas-sistema mill-istorja taċ-chat, testijiet ta' dokumenti inseriti jew talbiet bħal "Innjora r-regoli" jibqgħu data, mhux kmandi ta' kontroll. Għal spazji ta' tfittxija b'riskju, regola deterministika tista' addizzjonalment sforza li filtri tal-prodott, locale jew klijent qatt ma jidħlu minn test liberu.

Iċċekkja b'test set ta' mistoqsijiet segwenti tiegħek stess

Il-kwalità ma tistax tiġi ppruvata b'demos wieħed li rnexxew. Żid mal-Golden Set eżistenti għall-kwalità tat-tweġibiet djalogi reali multipli. Għal kull każ, jinżammu l-istorja oriġinali, il-mistoqsija kurrenti, id-deċiżjoni ta' rewrite mistennija, l-entitajiet permessi, iż-żidiet pprojbiti u s-sorsi mistennija.

• Pronomi u suġġetti mħollija barra f'mistoqsijiet segwenti qosra
• Korrezzjonijiet bħal "Le, jien ridt ngħid Mudell B"
• Bidliet fis-suġġett u ritorn għal suġġett preċedenti
• Varjanti ambigwi li neċessarjament jeħtieġu mistoqsija lura
• Bidliet fil-locale, id-data u ż-żona tal-ħin
• Pruvi mhux permessi biex jinbidel l-ispazju tat-tfittxija jew il-klijent
• Stejjer twal b'dettalji aktar antiki mhux rilevanti
• Mistoqsijiet b'diversi partijiet li jinqasmu u jerġgħu jingħaqdu

Kejjel b'mod separat: Il-kitba mill-ġdid taqbel mal-intezzjoni tal-utent? Ir-retrieval isib is-sorsi mistennija? Kien hemm mistoqsija lura f'każ ta' ambigwità reali? Il-filtri tal-permessi baqgħu mhux mibdula? Kemm latenza addizzjonali jikkawża l-pass? Il-NIST AI RMF Core jorganizza t-testijiet ripetuti, il-kejl u id-dokumentazzjoni fiċ-ċiklu sħiħ tal-ħajja tal-AI. Għat-timijiet tal-websajt dan ifisser: Biddel ir-regola ta' rewrite, il-mudell jew l-għażla tal-kuntest biss b'regression test u rollout li jista' jiġi osservat.

Checklist kompatta għat-timijiet tal-websajt

• Il-mistoqsija oriġinali tal-utent tibqa' mhux mibdula sat-tweġiba?
• Partijiet mill-istorja rilevanti u bl-ekonomija tad-data biss jiddaħħlu?
• Ir-rewriter jista' jagħżel b'mod ċar bejn re-writing, mistoqsija lura u tqassim?
• Iżid biss entitajiet ikkonfermati u l-ebda suppożizzjonijiet?
• Il-backend jissettja l-locale, il-klijent u l-permessi b'mod indipendenti mill-rewrite?
• Kull sotto-mistoqsija għandha limiti fissi ta' kwantità, ħin u spejjeż?
• Ir-riżultati tar-retrieval jiġu evalwati kontra l-mistoqsija oriġinali?
• Test set ta' djalogu multiplu jkopri referenzi, korrezzjonijiet u bidliet fis-suġġett?

Konklużjoni: L-ewwel ikjarifika l-mistoqsija tat-tfittxija, imbagħad wieġeb

RAG Query Rewriting tagħmel mill-brevità naturali tal-konversazzjoni mistoqsija ta' tfittxija solidi. L-akbar benefiċċju ma jiġix minn kitba mill-ġdid kreattiva kemm jista' jkun, iżda minn limiti ċari: adotta kuntest ikkonfermat, solvi l-inċertezza permezz ta' mistoqsija lura, żomm il-permessi fuq is-server u kompli iċċekkja t-tweġiba kontra l-mistoqsija oriġinali. Ibda b'għoxrin mistoqsija segwenti tipika mis-support tiegħek, immarka d-deċiżjoni mistennija u ttestja kull bidla kontra l-istess każijiet. B'hekk, chat b'diversi passi jsir aktar faċli biex jinftiehem, mingħajr ma t-tfittxija twieġeb bil-kwiet mistoqsija oħra.

Sorsi

• Microsoft Azure Architecture Center: Prompt Engineering għal RAG
• Microsoft Learn: Agentic Retrieval f'Azure AI Search
• Amazon Bedrock: Ikkonfigura mistoqsijiet u ġenerazzjoni ta' tweġibiet
• Amazon Bedrock: Agentic Retrieval għal bażijiet ta' għarfien
• NIST AI Risk Management Framework Core