Nimhiú Sonraí RAG a Chosc: Bunús Foinsí, Coraintín agus Tástálacha Athinnéacsaithe

Is féidir le bota comhrá gréasáin freagra dea-bhéasach, inchreidte ó thaobh teanga de agus ceart go teicniúil a thabhairt — ach fós féin a bheith ag obair le bunachar eolais atá nimhithe. I gcás nimhiú sonraí RAG, ní hé foclaíocht aon cheiste amháin is príomhsprioc na cúblála. Ina áit sin, téann ábhar bréagach, saobhtha nó nach ndearnadh seiceáil leordhóthanach air isteach sa slabhra sonraí buan: an fhoinse, an parsálaí, an smután, na meiteashonraí, an leabú agus, ar deireadh, an t-innéacs aisghabhála táirgthe. Fanann an earráid ansin thar go leor seisiún agus is féidir léi dul i bhfeidhm ar ghnáthcheisteanna freisin.

Dá bhrí sin, tosaíonn cosaint éifeachtach i bhfad roimh an leid. Ní mór d'fhoirne a bheith in ann na ceisteanna seo a fhreagairt faoi gach mír eolais: cén áit ar tháinig sí, cé atá freagrach aisti, cén leagan a próiseáladh, cad iad na claochluithe a rinneadh agus cén tseiceáil a rinneadh sular ceadaíodh don chuardach í? Soláthraíonn bunús na foinse an rian sin. Is féidir le coraintín atá deighilte go teicniúil cosc a chur ar athruithe neamhsheiceáilte a bheith in-aisghabhála láithreach. Ansin deimhníonn tástálacha spriocdhírithe athinnéacsaithe gur chuir an t-ábhar glanta na sean-smutáin ina n-ionad i ndáiríre.

Cad is nimhiú sonraí RAG ann — agus cad nach ea

Déanann an rangú OWASP LLM04:2025 ar Data and Model Poisoning cur síos ar chúbláil sonraí réamhoiliúna, sonraí mionchoigeartaithe nó sonraí leabaithe mar riosca don tsláine. I gcás bota comhrá gréasáin, is é an cineál deireanach an ceann is follasaí: ionghabháiltear doiciméad agus roinntear ina chodanna é; leabaítear na smutáin sin agus stóráiltear mar veicteoirí iad san innéacs aisghabhála. Má shaobhtar an doiciméad sin d'aon ghnó nó de thaisme, féadfaidh sé teacht chun cinn mar fhoinse a bhfuil cuma ábhartha uirthi nuair a chuirtear ceisteanna oiriúnacha.

Ní mór na rioscaí a idirdhealú, cé gur féidir leo forluí: déanann Prompt Injection iarracht treoracha nó sonraí a shá isteach ag am rite chun iompar beartaithe an chórais a athrú; is féidir le Prompt Injection indíreach teacht isteach sa chomhthéacs trí dhoiciméid aisghafa freisin. I gcodarsnacht leis sin, athraíonn nimhiú sonraí an stór eolais fadtéarmach nó na díorthaigh a eascraíonn as. Réitíonn cearta rochtana fadhb eile: socraíonn siad cé aige a bhfuil cead doiciméad a fheiceáil. Socraíonn bunús agus ceadú na foinse ar cheart an doiciméad sin a chur san innéacs mar fhoinse iontaofa eolais. In ailtireacht láidir, teastaíonn rialuithe ar leith agus aistrithe comhordaithe do gach ceann de na trí riosca.

Tá an dromchla ionsaithe ar fud an tslabhra sonraí ar fad

Is annamh a chruthaítear innéacs RAG ó bhailiúchán amháin a ndearnadh seiceáil láimhe air. Léann ransaitheoirí gréasáin leathanaigh ghréasáin, sioncronaíonn nascóirí fillteáin néalstórála, uaslódálann úsáideoirí comhaid agus iompórtálann comhéadain sonraí táirgí. Ina theannta sin, úsáidtear parsálaithe, OCR, glanadh teanga, smutánú agus saibhriú meiteashonraí. Is féidir le gach céim ábhar mícheart a ghlacadh isteach nó ráiteas a bhí ceart ar dtús a scaradh óna chomhthéacs.

I measc na gcúiseanna coitianta tá córas foinse a cuireadh i mbaol, doiciméad scátháin a ndearnadh nasc nua leis, dréachtchomhad a foilsíodh de thaisme, tionónta a sannadh go mícheart, nó nuashonrú parsálaí a chuireann luachanna tábla faoi na ceannteidil mhíchearta. Is féidir diallais a bhrath trí hais chripteagrafach an ábhair a chur i gcomparáid le luach tagartha iontaofa; ní chruthaíonn hais chomhionann go bhfuil an t-ábhar fíor, cothrom le dáta ná ceadaithe.

Bunús mar thaifead sonraí infhíoraithe

Ba cheart taifead bunúis a bheith ag gach doiciméad agus ag gach smután a dhíorthaítear uaidh. Ar a laghad, is úsáideach go praiticiúil iad seo: ID cobhsaí na foinse, URL canónach na foinse, an t-úinéir freagrach, am na haisghabhála, leagan an doiciméid, hais an ábhair, stádas ceadaithe, aicme iontaoibhe, leagan an pharsálaí, leagan an smutánaithe, an tsamhail leabaithe agus glúin an innéacs. I gcás uaslódálacha láimhe, cuirtear ról an duine a rinne an t-uaslódáil agus an ceadúnas fíoraithe leis. I gcórais shioncronaithe, tá sé tábhachtach freisin cén nascóir fíordheimhnithe a thug an comhad isteach.

Déileálann NIST AI 600-1 Generative AI Profile le bunús ábhair, doiciméadú inrianaithe, tástálacha agus meastóireachtaí mar ghnéithe tábhachtacha de bhainistiú riosca na hintleachta saorga giniúnaí. I gcórais RAG, ciallaíonn sé sin nach é an t-innéacs reatha amháin atá tábhachtach. Tá an caidreamh inrianaithe idir leagan athbhreithnithe na foinse, rith na próiseála agus glúin fhoilsithe an innéacs mar chuid den doiciméadú oibríochta freisin.

Scarann coraintín an ionghabháil ón bhfoilsiú

Príomhghné den ailtireacht is ea an deighilt dhian seo: ní bhíonn ábhar nua nó athraithe inchuardaithe láithreach. Téann sé isteach i gcrios ionghabhála ar dtús. Ansin fíoraíonn an phíblíne bunús an chomhaid, a chineál agus a mhéid, an síniú nó an hais a bhfuiltear ag súil léi, an tionónta ceadaithe, iomláine na meiteashonraí agus méid an athraithe. Ní chruthaítear an téacs agus na smutáin i nglúin neamhtháirgthe den innéacs go dtí sin.

Ba cheart na rialacha a bheith bunaithe ar riosca. Is féidir athrú ar leathanach Ceisteanna Coitianta atá fíordheimhnithe agus faoi chúram inmheánach a cheadú tar éis tástálacha uathoibríocha. Os a choinne sin, spreagann fearann nua, athrú neamhghnách mór ar an téacs, úinéir comhaid anaithnid nó foinse gan duine freagrach coraintín agus athbhreithniú daonna. Má bhíonn faisnéis éigeantach ar iarraidh, cuirtear an prionsabal “fail closed” i bhfeidhm: fanann an tseanghlúin dheimhnithe gníomhach agus ní fhoilsítear an staid nua gan fógra.

Ceadú mar ghlúin dho-athraithe den innéacs

Tar éis na seiceála, ní dhéantar an t-innéacs táirgthe a fhorscríobh céim ar chéim. Is fearr glúin nua le leagan ar leith agus manifest ina sonraítear na doiciméid agus na smutáin a bhfuiltear ag súil leo, haiseanna na bhfoinsí, leaganacha na gclaochluithe agus stampaí ama. Ní athraíonn ailias nó cumraíocht ródaithe go hadamhach chuig an nglúin sin go dtí go mbíonn na tástálacha uile rathúil. Is féidir filleadh ar an nglúin roimhe sin ar feadh tréimhse theoranta shainithe.

Tá an nós imeachta cosúil le himirce rialaithe. Léiríonn ár n-alt faoi shamhail leabaithe RAG a athrú cén fáth a bhfuil glúnta comhthreomhara den innéacs agus tástálacha comparáide úsáideach i gcás athruithe teicniúla freisin. Má bhíonn amhras ann faoi nimhiú, tagann ceist slándála eile chun cinn: cén leasú ar an bhfoinse agus cé na smutáin dhíorthaithe is gá a bhlocáil?

Cás samplach ficseanúil: sroicheann tréimhse fillte mhícheart an bota comhrá tacaíochta

Samhlaímis go n-oibríonn miondíoltóir bota comhrá le haghaidh ceisteanna faoi tháirgí agus seirbhísí. Gach oíche, sioncronaíonn an bunachar eolais an t-ionad cabhrach oifigiúil agus roinnt tairseacha ceadaithe de chuid monaróirí. Tar éis athrú ar nasc, leanann nascóir atreorú chuig leathanach scátháin nach bhfuil ceadaithe. Luaitear tréimhse fillte 90 lá in ionad 30 lá i ndoiciméad PDF a bhfuil cuma inchreidte air. Roinntear an comhad ina smutáin agus cuirtear roinnt codanna san innéacs le cosúlacht shéimeantach ard.

An mhaidin dár gcionn, geallann an bota comhrá an tréimhse mhícheart nuair a chuirtear ceisteanna faoi earraí a thabhairt ar ais. Níor athríomhchláraíodh an tsamhail teanga agus níor chuir na húsáideoirí aon treoir dhíobhálach isteach. Ní dhéanann an córas aisghabhála ach bunús mícheart a sholáthar. Cuireann an córas monatóireachta foláireamh amach toisc go bhfuil fearann nua le feiceáil den chéad uair mar fhoinse freagra agus nach n-oireann toradh tástála Golden Set don tréimhse fillte don fhianaise a bhfuiltear ag súil léi.

An coraintín rialaithe agus an t-atosú

1. Ní stopann an fhoireann ach an fhoinse ionghabhála lena mbaineann agus cuireann sí cosc ar athruithe eile ar ghlúin reatha an innéacs.
2. Déantar ID an doiciméid amhrasaigh, IDanna uile na smután a dhíorthaítear uaidh agus na freagraí inar úsáideadh iad a thaifeadadh i loga an teagmhais.
3. Cuirtear bac ar an bhfearann scátháin agus bogtar a chuid smután go coraintín. Maidir le ceisteanna faoin tréimhse fillte, tugann an bota comhrá treoir shábháilte shealadach chuig tacaíocht dhaonna nó chuig leathanach deimhnithe an bheartais.
4. Athshocraítear an t-ailias chuig an nglúin dheireanach den innéacs a bhfuil sé cruthaithe fúithi go raibh sí glan. Fanann na réimsí eolais eile nach ndearnadh difear dóibh ar fáil.
5. Cuirtear teorainn leis an nascóir ionas nach n-úsáideann sé ach an fhoinse chanónach. Ansin tógann an phíblíne glúin nua ón manifest deimhnithe.
6. Ní chuirtear an ghlúin sin i dtáirgeadh go dtí go mbíonn na tástálacha athinnéacsaithe críochnaithe agus faomhadh saineolach tugtha.

Cuireann an t-ord sin teorainn leis an damáiste gan an bota comhrá ar fad a mhúchadh róluath. Is é an nasc idir sonraí an bhunúis agus na díorthaigh an ghné ríthábhachtach: mura ndéantar doiciméid a mhapáil chuig smutáin, ní bheidh sé soiléir cé na veicteoirí ba cheart a bhaint.

Ní mór do thástálacha athinnéacsaithe níos mó ná píblíne rathúil a léiriú

Ní léiríonn stádas glas an phoist ach gur cuireadh deireadh leis an bpróiseas go teicniúil. Ní chruthaíonn sé gur imigh na sean-smutáin ná go mbíonn na foinsí cearta chun tosaigh i gcás ceisteanna réalaíocha. Dá bhrí sin, déanann pacáiste láidir tástála an fardal, an aisghabháil agus iompar na bhfreagraí a sheiceáil.

1. Seiceáil an manifest agus na scriosuithe

Cuir an ghlúin nua i gcomparáid leis an manifest ceadaithe. Ní mór gach leagan doiciméid a bhfuiltear ag súil leis a bheith ann; ní ceadmhach IDanna doiciméad ná smután atá blocáilte a bheith ann. Tá “tombstones” thar a bheith tábhachtach d'ábhar scriosta nó athsholáthraithe. Murach sin, dá gcuirfí leabuithe nua leis gan na seanleabuithe a bhaint, d'fhanfadh na seantorthaí nimhithe san innéacs.

2. Tástálacha aisghabhála le foinsí a bhfuiltear ag súil leo

I gcás ceisteanna criticiúla, ní leor téacs freagra a bhfuiltear ag súil leis. Sainmhínigh freisin IDanna foinsí ceadaithe agus toirmiscthe, íoslíon torthaí agus coinníollacha eisiaimh. Mar shampla, ní mór don tréimhse fillte teacht ón mbeartas canónach; ní ceadmhach don fhearann scátháin atá ar coraintín a bheith sna torthaí is airde ná i gcomhthéacs na samhla. Mínítear conas tacair seiceála den sórt sin a struchtúrú san alt faoi cháilíocht freagraí le Golden Set agus tástálacha RAG.

3. Tástálacha diúltacha agus tástálacha cúblála

I dtimpeallacht tástála leithlisithe, is féidir le foirne foinse tástála neamhcheadaithe atá marcáilte go soiléir a ionghabháil. Ní mór don phíblíne í a choinneáil ar coraintín agus ní ceadmhach do chuardach atá cosúil le cuardach táirgthe í a aisghabháil. Déantar tástáil freisin ar athruithe neamhghnácha fearainn, úinéirí ar iarraidh, difríochtaí móra san ábhar agus dátaí contrártha. Déanann tuarascáil NIST AI 100-2 ar Adversarial Machine Learning nimhiú a rangú mar chatagóir ionsaithe ina tacsanomaíocht agus leagann sí béim ar an ngá atá ann frithbhearta agus a dteorainneacha a mheas go córasach.

4. Comparáid roimh an athrú agus ina dhiaidh

Cuir na ceisteanna céanna ar an nglúin ghlan dheireanach agus ar an nglúin nua. Cuir foinsí na dtorthaí, rangú na dtorthaí, an fhianaise sna freagraí, an ráta gan freagra agus measúnú saineolaithe i gcomparáid. Is féidir le sciar beag canáraí comharthaí breise táirgthe a sholáthar, fad nach bhfaigheann úsáideoirí rochtain ar fhoinsí neamhsheiceáilte. Ní dhéantar an t-athrú táirgthe go dtí go gcomhlíontar na teorainneacha slándála agus cáilíochta a socraíodh.

Monatóireacht: aimhrialtachtaí a bhrath go luath

Ná déan monatóireacht ar mheasúnuithe freagraí amháin. I measc na gcomharthaí úsáideacha tá fearainn nua nó neamhchoitianta na bhfoinsí, céatadán na bhfoinsí neamhsheiceáilte sa sruth ionghabhála, méideanna neamhghnácha doiciméad, difríochtaí móra i haiseanna nó i dtéacs, líon mór smután nua ó úinéir amháin, athruithe ar na príomhfhoinsí sa Golden Set agus freagraí gan fianaise dheimhnithe. Ba cheart do na méadrachtaí tagairt a dhéanamh d'IDanna bunúis, seachas do cheisteanna iomlána úsáideoirí a stóráiltear gan ghá.

Tá sé tábhachtach freisin go mbeadh an t-ábhar cothrom le dáta. Níor nimhíodh seanbheartas a cuireadh in ionad fadó d'aon ghnó, ach d'fhéadfadh an éifeacht chéanna a bheith aige. Cuireann an t-alt faoi bhunachair eolais a choinneáil cothrom le dáta agus Crawl QA minicíocht, freagracht agus conairí scriosta leis na rialuithe slándála.

Seicliosta d'ionghabháil shábháilte RAG

• An bhfuil ID cobhsaí, bunús canónach, duine freagrach agus aicme iontaoibhe ag gach foinse?
• An ndéantar hais, leagan an doiciméid, an parsálaí, an smutánú agus an tsamhail leabaithe a thaifeadadh le chéile?
• An bhfanann foinsí nua nó foinsí a athraíodh go mór lasmuigh den chuardach táirgthe go dtí go ndéantar iad a sheiceáil?
• An mbíonn coraintín mar thoradh ar fhearainn nua, sínithe ar iarraidh nó athruithe dochreidte ar an ábhar?
• An bhfoilsítear innéacsanna ceadaithe mar ghlúnta leaganaithe agus ailias ar féidir filleadh air?
• An mbaineann an t-athinnéacsú na smutáin athsholáthraithe ar bhealach infhíoraithe, seachas sonraí nua a chur leis amháin?
• An seiceálann Golden Set na freagraí agus na foinsí a bhfuiltear ag súil leo agus na foinsí toirmiscthe araon?
• An bhfuil rogha chúltaca shábháilte ann do thopaicí a bhfuil a bhfoinsí blocáilte le linn teagmhais?
• An bhfuil róil ar leith ainmnithe don ionghabháil, don fhaomhadh saineolach, don fhreagairt ar theagmhais agus don athfhoilsiú?
• Tar éis gach teagmhais, an ndéantar taifead ar an rialú ar theip air agus ar an tástáil aischéimnithe a cuireadh leis?

Conclúid

Ní féidir nimhiú sonraí RAG a réiteach le riail leide amháin. Eascraíonn an chosaint as slabhra soláthair eolais is féidir a fhíorú: bunús a dhoiciméadú, athruithe a sheiceáil i gcoraintín, leaganacha a chur ar innéacsanna, seandíorthaigh a bhaint go sábháilte agus aisghabháil a thástáil leis na foinsí a bhfuiltear ag súil leo. Tosaigh leis na haicmí doiciméad is mó riosca agus le Golden Set beag. Fiú leis an teaglaim sin amháin, is féidir a fheiceáil cén fhoinse a thacaíonn le freagra — agus is féidir cosán spriocdhírithe aischuir a úsáid sula mbeidh staid mhícheart eolais ina gnáthstaid bhuan.

Foinsí

• OWASP GenAI Security Project: LLM04:2025 Data and Model Poisoning
• NIST AI 600-1: Artificial Intelligence Risk Management Framework – Generative Artificial Intelligence Profile
• NIST AI 100-2: Adversarial Machine Learning – Taxonomy and Terminology of Attacks and Mitigations