RAG Query Rewriting: σωστή επίλυση επακόλουθων ερωτήσεων για chatbot τεχνητής νοημοσύνης

Μια μεμονωμένη ερώτηση όπως «Και για πόσο διάστημα ισχύει αυτό;» είναι συχνά σαφής για τους ανθρώπους. Θυμούνται το προϊόν που συζητήθηκε προηγουμένως, την τοποθεσία και την προθεσμία στην οποία αναφέρονται. Μια αναζήτηση γνώσης, αντίθετα, βλέπει αρχικά μόνο λίγες λέξεις. Χωρίς το κατάλληλο συμφραζόμενο της συνομιλίας ίσως δεν βρίσκει τίποτα ή αναζητά λάθος θέμα. Το RAG Query Rewriting λύνει αυτό το πρόβλημα μετατρέποντας, πριν από την αναζήτηση, μια επακόλουθη ερώτηση που εξαρτάται από τα συμφραζόμενα σε αυτόνομο ερώτημα αναζήτησης.

Αυτό ακούγεται σαν ένα μικρό ενδιάμεσο βήμα, όμως συχνά καθορίζει την ποιότητα ενός πολυβάθμιου chatbot ιστοτόπου. Αυτός ο οδηγός δείχνει πώς οι ομάδες επιλύουν επακόλουθες ερωτήσεις, πότε είναι προτιμότερο να ζητούν διευκρίνιση και πώς αποτρέπουν μια αναδιατύπωση από το να εισάγει στην αναζήτηση νέα δεδομένα, εσφαλμένες άδειες ή παρωχημένο πλαίσιο.

Γιατί οι επακόλουθες ερωτήσεις υπερφορτώνουν μια αναζήτηση γνώσης

Η πρώτη ερώτηση του χρήστη είναι συνήθως συγκεκριμένη: «Ποια εγγύηση ισχύει για το μοντέλο A;» Ακολουθούν σύντομες διατυπώσεις όπως «Και για τη μεγαλύτερη έκδοση;», «Ισχύει αυτό και στην Αυστρία;» ή «Τι χρειάζομαι γι’ αυτό;». Οι αντωνυμίες, τα παραλειπόμενα υποκείμενα και οι αναφορές σε προηγούμενες απαντήσεις είναι φυσικά στη συνομιλία. Ως μεμονωμένο ερώτημα αναζήτησης όμως είναι αδύναμα.

Μια κλασική ροή λέξεων-κλειδιών, διανυσμάτων ή υβριδικής αναζήτησης μπορεί να αξιολογήσει μόνο ό,τι λαμβάνει ως ερώτημα. Η επανακατάταξη βελτιώνει τη σειρά των υπαρχόντων αποτελεσμάτων, δεν αντικαθιστά όμως τη σημασία που λείπει από το «αυτό» ή το «γι’ αυτό». Γι’ αυτό το Query Rewriting προηγείται: διαμορφώνει από την τρέχουσα ερώτηση και το σχετικό ιστορικό ένα αναζητήσιμο, αυτόνομο ερώτημα.

Τι πρέπει να πετυχαίνει μια καλή αναδιατύπωση

Ένα επιτυχημένο ερώτημα αναδιατύπωσης είναι αρκετά πλήρες για την ανάκτηση, αλλά παραμένει κοντά στην πρόθεση του χρήστη. Από το «Και για την Αυστρία;» μπορεί, για παράδειγμα, να γίνει «Ποιοι όροι εγγύησης ισχύουν για το μοντέλο A στην Αυστρία;», όταν το μοντέλο A και η εγγύηση προκύπτουν ξεκάθαρα από τον αμέσως προηγούμενο διάλογο. Η αναδιατύπωση δεν απαντά ακόμη την ερώτηση. Χρησιμεύει αποκλειστικά για την εύρεση κατάλληλων πηγών.

Η τρέχουσα οδηγία αρχιτεκτονικής της Azure για συνομιλιακό RAG συνιστά να συμπεριλαμβάνεται σχετικό ιστορικό συνομιλίας και η τρέχουσα ερώτηση να διατυπώνεται πριν από την ανάκτηση ως αυτόνομο ερώτημα με επιλυμένες αναφορές. Σημαντικός είναι ο διαχωρισμός που φαίνεται επίσης εκεί: για τη μεταγενέστερη απάντηση διατηρείται η αρχική ερώτηση του χρήστη. Έτσι το σύστημα μπορεί να ελέγξει αν τα ευρήματα που εντοπίστηκαν τεκμηριώνουν πράγματι την ερώτηση που υποβλήθηκε.

Συμπλήρωση, αλλά όχι επινόηση

Ένας αναδιατυπωτής μπορεί να υιοθετεί σαφώς διαθέσιμες πληροφορίες: προϊόν, έκδοση, χώρα, γλώσσα ή την τελευταία διαδικασία που αναφέρθηκε. Δεν επιτρέπεται όμως να συμπληρώνει έναν αριθμό πελάτη που λείπει, να ορίζει μια εικαζόμενη παραλλαγή προϊόντος ή να μετατρέπει μια αβέβαιη χρονική αναφορά σε συγκεκριμένη ημερομηνία. Μια διευκρίνιση που ακούγεται χρήσιμη αλλά είναι επινοημένη στέλνει την αναζήτηση αξιόπιστα προς λάθος κατεύθυνση.

Οι άδειες παραμένουν έξω από το γλωσσικό μοντέλο

Ο μισθωτής, ο συνδεδεμένος χρήστης, οι εγκεκριμένες περιοχές εγγράφων και οι ρόλοι καθορίζονται από τον διακομιστή. Δεν πρέπει να εμφανίζονται ως ελεύθερα διατυπωμένοι ισχυρισμοί στο ερώτημα αναδιατύπωσης. Το υποσύστημα εξυπηρετητή εφαρμόζει τα σχετικά φίλτρα μεταδεδομένων χωριστά και αμετάβλητα. Ούτε παλαιότερη συμβολή στη συνομιλία ούτε αναδιατύπωση του μοντέλου επιτρέπεται να ανοίγουν μεγαλύτερο χώρο αναζήτησης.

Το πλαίσιο χρειάζεται συνειδητό όριο

Η αποστολή ολόκληρου του ιστορικού συνομιλίας χωρίς φιλτράρισμα στον αναδιατυπωτή σπάνια είναι καλή λύση. Παλαιά θέματα μπορεί να επισκιάσουν την τρέχουσα ερώτηση, προσωπικά δεδομένα να μεταφερθούν χωρίς ανάγκη και μεγάλα ιστορικά να αυξήσουν καθυστέρηση και κόστος. Ως πρακτικό προσανατολισμό, η οδηγία της Microsoft αναφέρει δύο έως πέντε πρόσφατους γύρους συνομιλίας και μια σύνοψη παλαιότερου περιεχομένου. Δεν πρόκειται για καθολικό όριο, αλλά για αφετηρία για δικές σας δοκιμές.

Ένα συμπαγές πακέτο συμφραζομένων μπορεί να αποτελείται από τα εξής στοιχεία:

• την αμετάβλητη τρέχουσα ερώτηση του χρήστη,
• λίγες άμεσα σχετικές συμβολές του χρήστη και του βοηθού,
• ήδη επιβεβαιωμένες οντότητες όπως προϊόν, διαδικασία ή τοποθεσία,
• τη γλώσσα και τη ζώνη ώρας ως τεχνικά πεδία,
• μια βραχύβια, ελεγμένη σύνοψη παλαιότερων τμημάτων διαλόγου και
• την έκδοση του κανόνα αναδιατύπωσης, του δείκτη γνώσης και της ρύθμισης ανάκτησης.

Οι πραγματικές άδειες εγγράφων παραμένουν ξεχωριστές από αυτά. Επίσης, διευθύνσεις ηλεκτρονικού ταχυδρομείου, αριθμοί παραγγελιών ή πλήρεις απαντήσεις που δεν χρειάζονται πρέπει να αφαιρούνται πριν από την αναδιατύπωση. Ένα ιστορικό που περιορίζει τα δεδομένα διευκολύνει επιπλέον την επακόλουθη αναζήτηση σφαλμάτων.

Μια ανθεκτική ροή σε έξι βήματα

1. Έλεγχος αυτοτέλειας: Μια σαφής νέα ερώτηση όπως «Πώς αλλάζω τον κωδικό πρόσβασής μου;» μπορεί να πάει απευθείας στην αναζήτηση. Δεν χρειάζεται κάθε μήνυμα αναδιατύπωση από μοντέλο.
2. Αναγνώριση αναφορών: Το σύστημα επισημαίνει αντωνυμίες, ελλείψεις, λέξεις σύγκρισης και αναφορές όπως «εκεί», «και τα δύο» ή «η δεύτερη επιλογή».
3. Επιλογή σχετικού πλαισίου: Ενσωματώνονται μόνο οι συμβολές που επιλύουν εύλογα αυτές τις αναφορές. Μια συνειδητή αλλαγή θέματος τερματίζει το παλιό πλαίσιο.
4. Απόφαση για αναδιατύπωση ή διευκρίνιση: Αν μία μόνο επίλυση είναι επαρκώς τεκμηριωμένη, δημιουργείται αυτόνομο ερώτημα αναζήτησης. Αν υπάρχουν περισσότερες εύλογες σημασίες, το chatbot υποβάλλει μια σύντομη διευκρινιστική ερώτηση.
5. Αναζήτηση και, αν χρειάζεται, διάσπαση: Το ερώτημα περνά από αναζήτηση λέξεων-κλειδιών, διανυσμάτων ή υβριδική αναζήτηση. Ερωτήσεις με πολλά μέρη μπορούν να διασπώνται σε σαφώς ονομασμένα υποερωτήματα.
6. Απάντηση στην αρχική ερώτηση: Η απάντηση παράγεται από τις πηγές που βρέθηκαν, αναφέρεται στην αρχική διατύπωση και δηλώνει ανοιχτά την αβεβαιότητα ή την έλλειψη τεκμηρίων.

Η επισκόπηση της Microsoft για Agentic Retrieval περιγράφει μια συγγενική ροή: το ερώτημα και το ιστορικό συνομιλίας τροφοδοτούν τον σχεδιασμό, εστιασμένα υποερωτήματα εκτελούνται παράλληλα και τα ευρήματα συνενώνονται στη συνέχεια. Η τεκμηρίωση του Amazon Bedrock καταγράφει επίσης τον σχεδιασμό, τα επαναληπτικά υποερωτήματα και τον έλεγχο αν το περιεχόμενο που βρέθηκε επαρκεί για απάντηση. Τέτοιες λειτουργίες προϊόντος μπορούν να αναλάβουν τμήματα της ροής· τα ποιοτικά και ασφαλιστικά όρια της δικής σας εφαρμογής παραμένουν όμως αναγκαία.

Αναδιατύπωση, διευκρινιστική ερώτηση ή Query Decomposition;

Είσοδος	Κατάλληλη αντίδραση	Αιτιολόγηση
«Και ισχύει αυτό στην Αυστρία;» μετά από σαφή ερώτηση για εγγύηση	Διατύπωση αυτόνομου ερωτήματος	Το αντικείμενο και η αναφορά είναι σαφή.
«Τι γίνεται με το άλλο;» μετά την αναφορά τριών παραλλαγών	Υποβολή σύντομης διευκρινιστικής ερώτησης	Πολλές επιλύσεις είναι εύλογες.
«Σύγκρινε τιμή, χρόνο παράδοσης και επιστροφή για τα δύο μοντέλα»	Διάσπαση σε εστιασμένα υποερωτήματα	Πολλές ανεξάρτητες πτυχές χρειάζονται αξιόπιστα ευρήματα.
«Νέο θέμα: Πώς επικοινωνώ με την υποστήριξη;»	Αναζήτηση χωρίς το παλιό πλαίσιο προϊόντος	Ο χρήστης σηματοδοτεί αλλαγή θέματος.

Επομένως, το Query Decomposition δεν είναι το ίδιο με το Query Rewriting. Η αναδιατύπωση καθιστά μια εξαρτημένη ερώτηση αυτόνομη· η διάσπαση χωρίζει μια σύνθετη ερώτηση σε περισσότερες εργασίες αναζήτησης. Η τεκμηρίωση του Bedrock για Query Decomposition δείχνει ότι πολλά υποερωτήματα μπορούν να βελτιώσουν την κάλυψη. Κάθε πρόσθετο ερώτημα χρειάζεται όμως όριο, κοινό μοντέλο αδειών και ιχνηλάσιμη συνένωση.

Αντιμετώπιση των εξόδων αναδιατύπωσης όπως του κώδικα

Ακόμη και αν το αποτέλεσμα είναι μόνο κείμενο, πρέπει να έχει αυστηρό συμβόλαιο. Χρήσιμο είναι ένα δομημένο αντικείμενο με πεδία όπως standaloneQuery, decision, resolvedReferences και reason. Επιτρεπτές αποφάσεις είναι, για παράδειγμα, οι SEARCH_AS_IS, REWRITE, CLARIFY και DECOMPOSE. Το υποσύστημα εξυπηρετητή επικυρώνει μήκος, γλώσσα και επιτρεπτά πεδία προτού ξεκινήσει αναζήτηση.

Ο αναδιατυπωτής δεν λαμβάνει εργαλεία και δεν απαντά άμεσα στον χρήστη. Οι οδηγίες συστήματος από το ιστορικό συνομιλίας, τα επικολλημένα κείμενα εγγράφων ή προτροπές όπως «Αγνόησε τους κανόνες» παραμένουν δεδομένα, όχι εντολές ελέγχου. Για επικίνδυνους χώρους αναζήτησης, ένας ντετερμινιστικός κανόνας μπορεί επιπλέον να επιβάλλει τα φίλτρα προϊόντος, γλώσσας ή μισθωτή να μην προέρχονται ποτέ από ελεύθερο κείμενο.

Έλεγχος με δικό σας σύνολο δοκιμών επακόλουθων ερωτήσεων

Η ποιότητα δεν αποδεικνύεται με μεμονωμένες επιτυχημένες επιδείξεις. Συμπληρώστε το υπάρχον Golden Set για την ποιότητα απαντήσεων με πραγματικούς διαλόγους πολλών βημάτων. Για κάθε περίπτωση καταγράφονται το αρχικό ιστορικό, η τρέχουσα ερώτηση, η αναμενόμενη απόφαση αναδιατύπωσης, οι επιτρεπτές οντότητες, οι απαγορευμένες προσθήκες και οι αναμενόμενες πηγές.

• αντωνυμίες και παραλειπόμενα υποκείμενα σε σύντομες επακόλουθες ερωτήσεις
• διορθώσεις όπως «Όχι, εννοούσα το μοντέλο B»
• αλλαγές θέματος και επιστροφή σε προγενέστερο θέμα
• αμφίσημες παραλλαγές που απαιτούν οπωσδήποτε διευκρινιστική ερώτηση
• αλλαγές γλώσσας, ημερομηνίας και ζώνης ώρας
• μη επιτρεπτές προσπάθειες αλλαγής του χώρου αναζήτησης ή του μισθωτή
• μακρά ιστορικά με άσχετες παλαιότερες λεπτομέρειες
• ερωτήσεις με πολλά μέρη που διασπώνται και συνενώνονται ξανά

Μετρήστε χωριστά: Συμφωνεί η αναδιατύπωση με την πρόθεση του χρήστη; Βρίσκει η ανάκτηση τις αναμενόμενες πηγές; Ζητήθηκε διευκρίνιση σε πραγματική ασάφεια; Παρέμειναν αμετάβλητα τα φίλτρα αδειών; Πόση πρόσθετη καθυστέρηση προκαλεί το βήμα; Το NIST AI RMF Core εντάσσει την επαναλαμβανόμενη δοκιμή, μέτρηση και τεκμηρίωση σε ολόκληρο τον κύκλο ζωής της τεχνητής νοημοσύνης. Για ομάδες ιστοτόπων αυτό σημαίνει: αλλάζετε κανόνα αναδιατύπωσης, μοντέλο ή επιλογή πλαισίου μόνο με δοκιμή παλινδρόμησης και παρατηρήσιμη διάθεση.

Σύντομη λίστα ελέγχου για ομάδες ιστοτόπων

• Διατηρείται η αρχική ερώτηση του χρήστη αμετάβλητη έως την απάντηση;
• Συμπεριλαμβάνονται μόνο σχετικά και ελαχιστοποιημένα τμήματα ιστορικού;
• Μπορεί ο αναδιατυπωτής να επιλέγει σαφώς μεταξύ αναδιατύπωσης, διευκρίνισης και διάσπασης;
• Συμπληρώνει αποκλειστικά επιβεβαιωμένες οντότητες και όχι υποθέσεις;
• Ορίζει το υποσύστημα εξυπηρετητή τη γλώσσα, τον μισθωτή και τις άδειες ανεξάρτητα από την αναδιατύπωση;
• Διαθέτει κάθε υποερώτημα σταθερά όρια πλήθους, χρόνου και κόστους;
• Αξιολογούνται τα ευρήματα ανάκτησης σε σχέση με την αρχική ερώτηση;
• Καλύπτει ένα σύνολο δοκιμών πολλαπλών διαλόγων αναφορές, διορθώσεις και αλλαγές θέματος;

Συμπέρασμα: πρώτα διευκρινίστε το ερώτημα αναζήτησης, έπειτα απαντήστε

Το RAG Query Rewriting μετατρέπει τη φυσική συντομία της συνομιλίας σε αξιόπιστο ερώτημα αναζήτησης. Το μεγαλύτερο όφελος δεν προκύπτει από όσο το δυνατόν πιο δημιουργικές αναδιατυπώσεις, αλλά από σαφή όρια: υιοθέτηση επιβεβαιωμένου πλαισίου, επίλυση της αβεβαιότητας με διευκρινιστική ερώτηση, διατήρηση των αδειών στον διακομιστή και συνεχής έλεγχος της απάντησης σε σχέση με την αρχική ερώτηση. Ξεκινήστε με είκοσι τυπικές επακόλουθες ερωτήσεις από την υποστήριξή σας, σημειώστε την αναμενόμενη απόφαση και ελέγξτε κάθε αλλαγή με τις ίδιες περιπτώσεις. Έτσι ένας πολυβάθμιος διάλογος γίνεται κατανοητός, χωρίς η αναζήτηση να απαντά σιωπηρά σε άλλη ερώτηση.

Πηγές

• Microsoft Azure Architecture Center: Prompt Engineering για RAG
• Microsoft Learn: Agentic Retrieval στο Azure AI Search
• Amazon Bedrock: Ρύθμιση ερωτημάτων και παραγωγής απαντήσεων
• Amazon Bedrock: Agentic Retrieval για βάσεις γνώσης
• NIST AI Risk Management Framework Core