RAG filtri metapodataka za AI chatbotove: Razdvajanje jezika, verzije i pristupa

AI chatbot može pronaći semantički vrlo slične dijelove teksta, a ipak pripremiti pogrešan odgovor: engleske upute umjesto hrvatskih, dokumentaciju prethodne verzije umjesto trenutne ili interne napomene za gosta bez dopuštenja. Rangiranje u tom slučaju nije nužno loše. Prostor pretraživanja bio je pogrešan.

RAG filtri metapodataka rješavaju upravo ovaj problem. Oni prije ili tijekom pretraživanja ograničavaju koji dokumenti i chunkovi uopće dolaze u obzir kao kontekst. Relevantnost nakon toga odgovara na pitanje „Što sadržajno najbolje odgovara?“. Filtar najprije odgovara na „Što se u ovoj situaciji smije i treba uzeti u obzir?“.

Zašto sama sličnost nije pouzdan opseg

Vektorsko i hibridno pretraživanje razvrstavaju sadržaje prema jezičnoj ili semantičkoj blizini. Priručnik za verziju proizvoda 4 može biti iznimno sličan pitanju o verziji 5. Cjenik za drugo tržište može sadržavati iste nazive proizvoda. A interni dokument podrške može pružiti precizniji odgovor od javno dostupnog FAQ-a, iako nikada ne bi smio pojaviti u javnom chatu.

Stoga bi retriever trebao razdvajati dvije vrste uvjeta:

• Stroga ograničenja poput klijenta, uloge, statusa objave ili dopuštenog područja podataka. Kod nepoznate vrijednosti pretraživanje mora ostati zatvoreno.
• Kriterije stručnog odabira poput jezika, obitelji proizvoda, verzije, regije ili razdoblja valjanosti. Oni povećavaju preciznost i sprječavaju kontradiktoran kontekst.

Trenutni OWASP pregled za LLM aplikacije izričito svrstava rizične čimbenike vektora i ugradnji (embeddings) u granicu povjerenja AI aplikacije. To je važna perspektiva: provjera autentičnosti prije chata nije dovoljna ako naknadno pretraživanje sličnosti i dalje radi preko preširokog indeksa.

Shema metapodataka koja funkcionira u svakodnevici

Dobri filtri ne počinju dugim upitom, već s nekoliko kanonskih polja. Za mnoge chatbotove na web stranicama dovoljno je šest skupina:

• Jezik i tržište: npr. locale i market, s fiksno definiranim vrijednostima umjesto slobodnog teksta.
• Proizvod i verzija: stabilan ID proizvoda, raspon verzija i opcionalno platforma ili tarifa.
• Valjanost: status odobrenja, vrijedi od, vrijedi do i jedinstvena verzija izvora.
• Ciljna skupina: javno, klijent, partner ili interni tim – odvojeno od stvarne provjere uloga.
• Područje pristupa: klijent, grupa ili principal, isključivo iz verificiranog konteksta poslužitelja.
• Podrijetlo: ID izvora, URL, vrsta dokumenta i odgovorno područje sadržaja radi sljedivosti.

Metapodaci pripadaju razini na kojoj se vrši pretraživanje. Ako se dokument dijeli na chunkove, ključna polja opsega moraju pouzdano završiti na svakom chunku. Inače dokument može biti ispravno klasificiran, dok pojedinačni rezultati pretraživanja gube tu klasifikaciju. OpenAI dokumentacija za File Search, na primjer, prikazuje kako se atributi datoteka koriste za filtre metapodataka. Amazon Bedrock referenca dokumentira operatore usporedbe, popisa i raspona za istu osnovnu ideju.

Nikada nemojte prepustiti autorizaciju filtara jezičnom modelu

Model smije iz pitanja izvesti smjernice poput jezika ili povezanosti s proizvodom. Međutim, ne smije odlučivati kojemu klijentu osoba pripada ili koju ulogu ima. Te vrijednosti moraju dolaziti iz sesije, sustava identiteta i pravila poslužiteljske strane. Također, niz filtara koji je generirao model ne bi se smio proslijediti servisu za pretraživanje bez provjere.

Robustan tijek rada izgleda ovako:

1. Poslužitelj autentične upit i utvrđuje dopušteno područje podataka.
2. Deterministička pravila postavljaju stroga polja poput klijenta, uloge i statusa objave.
3. Prepoznata obilježja poput jezika ili proizvoda verificiraju se u odnosu na dopuštene vrijednosti.
4. Retriever izvodi samo tipiziranu, parametriziranu strukturu filtara.
5. Aplikacija ponovno provjerava vraćene izvore s obzirom na očekivani opseg.
6. U slučaju nedostajućeg ili kontradiktornog konteksta, chatbot postavlja dodatno pitanje ili prikazuje siguran fallback.

Microsoftova dokumentacija o sigurnosnim filtrima pravi korisnu razliku: Principal u filtru u početku je samo vrijednost. Autentifikacija i autorizacija moraju se pouzdano odvijati izvan izraza za pretraživanje. Za korisničke portale, naš članak o razdvajanju javnog i autentificiranog AI chatbota detaljnije obrađuje ovu granicu.

Pred-filtriranje (Pre-filter) ili naknadno filtriranje (Post-filter)?

Pozicija filtra utječe na kvalitetu i vrijeme izvođenja. Pre-filtar ograničava kandidate već tijekom vektorskog pretraživanja. Post-filtar najprije pretražuje šire, a zatim uklanja nedopuštene rezultate. Prema Azure dokumentaciji o vektorskim filtrima, post-filtriranje kod selektivnih filtara i malog k može previdjeti odgovarajuće rezultate; pre-filtriranje daje prednost odzivu (recall) u dopuštenom dijelu podataka, ali kod vrlo uskih filtara može uzrokovati veće računalno opterećenje.

Za stroge granice pristupa koncept „najprije traži široko, a zatim sakrij” nije prikladan osnovni obrazac. Autorizirani opseg trebao bi biti primoran unutar samog upita za pretraživanje. Za čisto stručne filtre tim može izmjeriti varijante pre- i post-filtriranja. Pritom nije važno samo prosječno vrijeme odgovora, već i koliko često postojeći, dopušteni rezultat nedostaje zbog odabranog redoslijeda.

Filtri ne zamjenjuju rangiranje. Unutar dopuštenog korpusa Hybrid Search i Reranking i dalje mogu dati prioritet najboljim izvorima. Redoslijed je dakle: definirati opseg, dohvatiti kandidate, procijeniti relevantnost, provjeriti izvore, generirati odgovor.

Četiri tipična slučaja filtriranja

Jezik sa svjesnim fallbackom

Za pitanje na hrvatskom jeziku prvi dohvat trebao bi odabrati odobrene sadržaje na hrvatskom. Ako nema pogodaka, aplikacija ne bi smjela tiho miješati više jezika. Eksplicitna druga putanja može se vratiti na odobreni osnovni jezik i tu okolnost naznačiti u odgovoru. Locale-QA za višejezične baze znanja dodatno provjerava jesu li varijante sadržajno zaista ravnopravne.

Verzija proizvoda i vremenska valjanost

Izvor ne bi trebao izgledati aktualno samo zato što je nedavno indeksiran (crawlan). Presudni su stručna verzija i odobrenje. Označite sadržaje stabilnim ID-om proizvoda, rasponom verzije, valid_from, valid_until i statusom. Kod preklapajućih odobrenja cjevovod mora prijaviti konflikt umjesto da oba teksta stavi u isti prompt. Kako učestalost indeksiranja i održavanje izvora međusobno djeluju, opisuje vodič o održavanju aktualnosti baze znanja AI chatbota.

Klijent i uloga

Kod zajedničkog indeksa svaki dohvat mora sadržavati klijenta utvrđenog na poslužiteljskoj strani i valjane principale. Nedostajući ACL metapodaci znače „nije moguće dohvatiti”, a ne „javno”. Nakon promjene uloge ili ukidanja dopuštenja, test mora pokazati da stare sesije više ne dobivaju ranije dopuštene chunkove.

Javna podrška i interne radne upute

Interna uputa za eskalaciju može stručno savršeno odgovarati korisničkom pitanju. To je ne čini dopuštenim izvorom. Razdvojite opseg objave i vrstu dokumenta; neodobrene sadržaje prema zadanim postavkama označite kao isključene. Javni bot bi u slučaju sumnje trebao prijeći na kontaktni put ili primopredaju čovjeku (handoff), umjesto da nagađa interne detalje.

Najčešće pogreške pri implementaciji

• Taksonomija sa slobodnim tekstom: vrijednosti poput hr, HR i hr-HR nenamjerno stvaraju tri skupine.
• Default-open: chunkovi bez uloge, statusa ili klijenta dospijevaju u svaki prostor pretraživanja.
• Pogrešna logička operacija: OR između klijenta i jezika praktički ukida strogu granicu.
• Drift između dokumenta i chunka: pri ponovnom indeksiranju novi metapodaci se ne prenose na sve chunkove.
• Samo pozitivni testovi: tim provjerava pojavljuje li se dopušteni dokument, ali ne i nedostaje li sigurno zabranjeni dokument koji slično zvuči.
• Prazni rezultati kao problem modela: uski filtar ne vraća ništa, a aplikacija pušta model da nastavi odgovarati bez izvora.

QA filtara: Testirajte granice, a ne samo pogotke

Korisni skup testova za svaki očekivani odgovor sadrži barem jednog bliskog protukandidata: pogrešan jezik, stara verzija, isteklo odobrenje, drugi klijent ili interna ciljna skupina. Tako test pokazuje odvaja li filtar zaista sadržaj ili je samo slučajno stavio pravi pogodak na vrh.

Važne metrike su stopa povrede opsega, odziv (recall) u dopuštenom dijelu podataka, udio praznih dohvata, broj nepoznatih vrijednosti metapodataka, latencija filtriranja na 95. percentilu te udio fallback odgovora i pojašnjavajućih pitanja. Za ograničeni sadržaj tolerirana stopa povrede opsega mora biti nula. NIST AI RMF Core preporučuje testiranje AI sustava prije upotrebe i redovito u radu te dokumentiranje granica sigurnosti, pouzdanosti i konteksta.

Nemojte u zapisnike (logove) bilježiti nepotrebne sadržaje ili čitava korisnička pitanja. Uglavnom su dovoljni verzija filtra, apstraktni opseg, broj kandidata, odabrani ID-jevi izvora, razlog odbijanja i rezultat naknadne provjere. Tako dijagnostika pogrešaka ostaje moguća bez stvaranja drugog curenja podataka u sustavu opservabilnosti.

Praktična kontrolna lista prije uvođenja

1. Dokumentirajte kanonska polja metapodataka, tipove podataka, dopuštene vrijednosti i vlasnike.
2. Razdvojite stroge granice pristupa od stručnih polja odabira.
3. Nedostajuće sigurnosno relevantne vrijednosti dosljedno tretirajte kao nedopuštene.
4. Izgradite filtre iz verificiranog konteksta poslužitelja i parametrizirajte unos.
5. Nakon unosa i dijeljenja na chunkove (chunking) nasumično provjerite metapodatke.
6. Testirajte pozitivne, negativne, granične i opozvane slučajeve na stvarnom indeksu.
7. Izmjerite ponašanje pre-/post-filtriranja s realističnim k i selektivnim opsezima.
8. Prazne rezultate usmjerite u pojašnjavajuće pitanje, siguran fallback ili preusmjeravanje čovjeku.
9. Verzionirajte promjene filtara i uvodite ih zajedno s regresijskim testovima dohvaćanja.

RAG filtri metapodataka stoga su više od puke praktične značajke pretraživanja. Oni su poveznica između modela sadržaja, identiteta, aktualnosti i kvalitete dohvaćanja. Tko najprije deterministički definira opseg, daje rangiranju i jezičnom modelu manju, čišću i provjerljivu osnovu za rad.

Sljedeći korak: Odaberite stvarno pitanje podrške i izradite pet gotovo odgovarajućih suprotnih izvora s pogrešnim jezikom, verzijom i dopuštenjem. Tek kada nijedan od njih ne prijeđe dopušteni opseg dohvaćanja, filtar bi trebali pustiti u produkcijski tijek chata.

Izvori

• OpenAI: File Search i Metadata Filtering
• Microsoft: Filtri u vektorskim upitima
• Microsoft: Security Filter Pattern
• Amazon Bedrock: RetrievalFilter API
• NIST: AI Risk Management Framework Core
• OWASP: GenAI LLM Top 10 2026