Permessi RAG għal Chatbots fuq Websajts: Kontroll Sigur tal-Aċċess għad-Dokumenti

Chatbot fuq websajt jista' jgħaqqad tweġibiet minn paġni ta' FAQ, dokumenti ta' prodotti, u sorsi ta' għarfien interni. Dan jgħin ħafna - sakemm l-istess bażi ta' għarfien ma jkollhiex kontenut li mhuwiex intenzjonat għal kulħadd. F'dak il-każ, mhix il-kwalità tal-mudell tal-lingwa waħedha li tiddetermina tweġiba sigura, iżda l-pass ta' rkupru (retrieval) ta' qabel: Liema dokumenti huma verament permessi li jidhru għal din l-inkjesta speċifika?

Il-permessi RAG jgħaqqdu identitajiet, rwoli jew gruppi verifikati ma' metadejta fuq id-dokumenti. Iċ-chatbot jirċievi biss sorsi li diġà jkunu ġew iffiltrati. L-għan huwa deliberatament strett: Mudell m'għandux jiddeċiedi abbażi tal-prompt jekk xi ħaġa hix kunfidenzjali. L-applikazzjoni tillimita l-kuntest permess, tiddokumenta din id-deċiżjoni, u tagħżel fallback sigur f'każ ta' inċertezza.

Għaliex ir-regoli tal-prompt ma jissostitwixxux il-kontroll tal-aċċess

Istruzzjoni tas-sistema bħal "Tagħtix informazzjoni interna" tagħmel sens, iżda mhix livell ta' permess. Jekk dokument mhux permess diġà jasal fil-kuntest, it-tweġiba tista' tiġborha fil-gqsir, tiżvelaha indirettament, jew tirrikostruwiha fuq talba. Ukoll, verifika tat-test wara li jiġi ġġenerat tkun tard wisq u suġġetta għal żbalji. Is-sigurtà tibda għalhekk qabel il-ġenerazzjoni u preferibbilment qabel il-klassifikazzjoni tar-riżultati.

Azure AI Search jiddeskrivi s-Security Trimming bħala mudell ta' filtru: Id-dokumenti jġorru valuri ta' identità jew grupp; il-mistoqsija fiha biss il-principals tal-persuna li qed tagħmel it-talba. bl-istess mod, Amazon Bedrock jinnota li filtri ta' rkupru li jafu b'ACL ma jissostitwixxux l-awtentikazzjoni. L-applikazzjoni tiegħek trid l-ewwel verament tivverifika l-identità u tgħaddi biss kuntest verifikat.

L-erba' elementi ta' soluzzjoni robusta

1. Ivverifika l-identità u s-session min-naħa tas-server

Twieqa ta' chat pubblika normalment ma jkollha l-ebda dritt fuq dokumenti. Tista' taċċessa biss sorsi pubbliċi. Għal portal tal-klijenti jew żona tal-impjegati, madankollu, il-persuna tiġi identifikata permezz tal-login eżistenti. Aqra r-rwol, l-organizzazzjoni, u l-gruppi rilevanti min-naħa tas-server mis-sessjoni jew minn token ffirmat. Qatt tistrieħ fuq qasam mibgħut liberament mill-browser bħal role=admin jew fuq messaġġ ta' chat li jasserixxi appartenenza.

2. Żomm metadejta dwar il-permessi ma' kull sors

Kull chunk jeħtieġ informazzjoni dwar l-aċċess li tkun traċċabbli flimkien mat-test, l-URL, u d-data tal-aġġornament: bħal audience=public, ID ta' tenant, lista ta' gruppi permessi, jew klassifikazzjoni. Din il-metadejta trid tiġi mill-istess sors professjonali bħall-permess tad-dokument. spreadsheet separata li tiġi miżmuma biss kultant toħloq devjazzjoni perikoluża. Għal dokumenti ġodda u bidliet fid-drittijiet tal-grupp, is-sinkronizzazzjoni tal-metadejta tappartjeni għall-workflow tal-pubblikazzjoni jew tal-crawl.

3. Iffiltra qabel ir-ranking

Il-query tibni filtru mill-kuntest verifikat. Huwa biss wara li jiġu evalwati r-riżultati semantiċi jew ibridi. B'hekk, manwal kunfidenzjali ma jistax jirbaħ bħala riżultat partikolarment xieraq u mbagħad jitneħħa aktar tard. F'każ ta' diversi tenants, l-ID tat-tenant hija filtru obbligatorju, mhux sempliċiment sinjal ta' ranking. Għal dejta personali jew protezzjoni speċjali, huwa rakkomandat li tintuża żona ta' dejta ddedikata minflok ġabra komuni li tiġi ffiltrata biss loġikament.

4. Żomm reġistru tas-sorsi u d-deċiżjoni

Għas-sapport u l-analiżi tal-inċidenti, it-traskrizzjonijiet taċ-chat waħedhom mhumiex biżżejjed. Għal kull talba, għandu jkun traċċabbli liema attributi ta' identità mhux sensittivi ntużaw biex jinħoloq il-filtru, liema klassi ta' filtru applikat, kemm riżultati fadal wara l-filtru, u liema sorsi fil-fatt daħlu fil-prompt. Tissejvjax kontenut sħiħ jew tokens mhux meħtieġa. Event ta' verifika (audit) li ma jaħlix dejta jagħmel l-iżbalji identifikabbli mingħajr ma jibdel il-monitoring f'sors ieħor ta' tnixxija ta' informazzjoni.

Proċess prattiku għal timijiet ta' websajts

1. Assenja kull sors ta' għarfien lil udjenza speċifika: pubblika, klijent, sieħeb, tim intern, jew tenant speċifiku.
2. Għallat liema session claims jippruvaw din l-udjenza. Gruppi mis-sistema ta' identità huma aktar robusti minn inputs f'formolarji magħżula liberament.
3. Ittrasferixxi dawn il-claims min-naħa tas-server fil-filtru tal-irkupru u ppermetti biss sett żgħir u magħruf ta' oqsma ta' filtru.
4. Agħmel tqabbil f'kull crawl: dokumenti ġodda, modifikati u mneħħija jeħtieġu wkoll metadejta ta' permess aġġornata.
5. Għaddi lill-mudell ir-riżultati ffiltrati biss, flimkien ma' istruzzjoni ċara biex ma radenx informazzjoni li tkun nieqsa.
6. Jekk ma jkun hemm l-ebda riżultat, jekk is-sorsi jkunu kontradittorji jew f'każ ta' permess mhux ċar, idderieġi lejn kanal ta' kuntatt sigur.

Dan il-proċess jikkumplimenta l-istrutturar deskritt fl-artiklu tagħna dwar ir-RAG-Chunking: Sezzjonijiet tajbin ittejbu r-riżultati, iżda ma jissostitwixxux il-kontroll tal-aċċess. Bl-istess mod, sorsi aġġornati jibqgħu importanti; stat ta' permessi skadut huwa kemm problema ta' kwalità kif ukoll ta' sigurtà.

Mudell ta' żball: Filtru wara l-irkupru

L-iżball tad-disinn komuni huwa: Is-sistema tirkupra l-aħjar għaxar riżultati, tivverifika t-tikketti tagħhom wara, u tneħħi d-dokumenti problematiċi. Dan jidher biżżejjed għall-ewwel, iżda jfalli minħabba effetti sekondarji. Ir-riżultat mhux permess jista' diġà jidher f'logs, caches, jew output ta' debug. Barra minn hekk, il-punteġġ tiegħu jbiddel l-għażla tar-riżultati l-oħra. Aħjar li tuża filtru fit-talba tal-irkupru li jippermetti biss dokumenti awtorizzati bħala kandidati.

It-tieni mudell ta' żball huwa l-fiduċja blind f'funzjoni ACL ta' fornitur. Id-dokumentazzjoni tal-manifattur tista' tgħid b'mod ċar li servizz iqis l-ACLs waqt l-irkupru, iżda stess ma tivverifikax l-awtentiċità tal-kuntest tal-utent li jkun għadda. Għalhekk verifika b'mod preċiż: Min jawtentika l-persuna? Minn fejn ġejjin il-gruppi? Meta jiġu ssinkronizzati d-drittijiet fis-sistema tal-irkupru? X'jiġri meta tkun nieqsa l-metadejta?

Fail closed: X'għandu jiġri f'każ ta' inċertezza

F'każ ta' claim nieqsa, sors li mhux iwwerjat, jew żball fl-irkupru, iċ-chatbot m'għandux jipprova jagħmel tiftix aktar wiesa'. Uża tweġiba newtrali: Il-kontenut mitlub mhuwiex disponibbli fil-kuntest tal-aċċess attwali; persuna ta' kuntatt umana tista' tivverifika l-aċċess. Dawk mhix dgħjufija tal-Conversational UX, iżda limitu onest. L-artiklu dwar il-Human Handoff juri kif trasferiment bħal dan jista' jiġi ddisinjat b'mod konkret u mingħajr ma jispiċċa f meħda tajba.

Għal kontenut pubbliku, l-istess idea tapplika fuq skala iżgħar: Jekk is-sorsi ma jkunux biżżejjed, il-bot għandu jindika l-inċertezza, joffri links verifikati jew jindika triq ta' kuntatt - minflok jivvinta dettalji li jidhru kredibbli. Dan inaqqas l-alluċinazzjonijiet u jipprevjeni li tweġiba li tippreżenta ruħha bħala utli titlob approvazzjoni żbaljata.

Każijiet ta' ttestjar li għandhom jsiru qabel it-tnedija

Test tal-permessi mhuwiex kontroll ta' darba mill-admin. Oħloq Golden Set żgħir b'mistoqsijiet identiċi għal diversi rwoli: mistieden, klijent reġistrat, sieħeb awtorizzat, utent imblukkat, u amministratur. Speċifika s-sorsi mistennija għal kull kombinazzjoni, mhux biss it-test tat-tweġiba mistenni. Ittestja wkoll bidliet fil-gruppi, sessjonijiet skaduti, dokumenti mħassra, metadejta ACL nieqsa u interruzzjoni fis-servizz tal-irkupru.

Iċċekkja mill-inqas erba' affarijiet fir-riżultati: l-ebda URL jew ID ta' dokument mhux permess ma jilħaq il-kuntest; sorsi permessi jibqgħu aċċessibbli; it-tweġiba ma semmi l-ebda kontenut minn dokumenti ffiltrati; u l-fallback jibqa' wieħed li jinftiehem. Żid dawn il-kontrolli mat-testijiet tal-kwalità tat-tweġibiet tiegħek fit-Antwortqualitäts-Tests, biex is-sigurtà u l-kwalità professjonali jiġu mkejla flimkien.

L-implimentazzjoni pragmatika tal-protezzjoni tad-dejta u t-trasparenza

Id-dejta dwar il-permessi hija stess ta' min jipproteġiha. Uża IDs tekniċi stabbli minflok ismijiet b'test miftuħ fil-metadejta tal-irkupru meta jkun possibbli. Illimita l-logs tal-verifika għall-għan, il-perjodu ta' żmien, u l-attributi meħtieġa. Informa lill-utenti b'mod li jinftiehem meta chatbot jaċċessa ż-żona li tkun illloggedja fiha, u offri triq umana għal mistoqsijiet dwar l-aċċess. Dan l-artiklu ma jissostitwixxi l-ebda parir legali individwali; perjodi ta' żamma konkreti u bażijiet legali jiddependu mill-kuntest tal-użu.

Teknikament, taqbel li jkollok responsabbiltà ċara: Is-sidien tal-kontenut iżommu l-udjenzi, it-tim tal-identità huwa responsabbli għall-claims u l-verifika tas-sessjoni, it-tim tal-prodott iżomm il-filtri u l-fallbacks ittestjati. B'hekk il-bażi ta' għarfien ma ssirx pool ta' dejta mhux ikkontrollat, iżda sors li l-portata tiegħu tibqa' traċċabbli.

Checklist qabel it-tnedija uffiċjali

• Kull sors mhux pubbliku huwa assenjat għal rwol, grupp, jew ID tat-tenant?
• Il-kuntest tal-mistoqsija ġej minn identità verifikata min-naħa tas-server?
• Il-filtru jaħdem qabel l-irkupru u r-ranking?
• Il-bidliet fid-drittijiet u l-crawls huma ssinkronizzati flimkien?
• Hemm testijiet ta' rigressjoni bbażati fuq ir-rwoli bis-sorsi mistennija?
• Kull stat mhux magħruf jew żbaljat iwassal għal handoff sigur?
• Il-logs ma jaħlux dejta u huma biżżejjed għall-analiżi tal-żbalji?

Konklużjoni

Chatbot tajjeb fuq websajt ma jweġibx kull mistoqsija għal kull persuna. Juri biss sorsi li jaqblu mal-kuntest tal-aċċess verifikat u jibqa' deliberatament kawt f'każ ta' inċertezza. Ibda b'matriċi ta' sorsi żgħira, filtru min-naħa tas-server u ftit rwoli ta' ttestjar ċari. Wara dan, tista' tespandi l-metadejta tal-permessi, il-verifiki u s-sinkronizzazzjoni pass pass - mingħajr ma tħalli s-sigurtà f'idejn il-formulazzjonijiet tal-prompt.

Sorsi

• Microsoft Learn: Security Filter Pattern in Azure AI Search
• Microsoft Learn: Document-level access control in Azure AI Search
• Amazon Bedrock: ACL awareness enablement
• Amazon Bedrock: Document-level access controls