Prompt Injection i gChatbots Suíomhanna Idirlín: Cosaint do RAG, Uirlisí agus Data

Ní bhainistíonn chatbot suímh idirlín ceisteanna neamhdhíobhálacha amháin. Is féidir le cuairteoirí iarracht a dhéanamh a rialacha a athscríobh, treoracha inmheánacha a nochtadh nó gníomhartha neamhúdaraithe a spreagadh. Is deacra fós orduithe a bhrath nach bhfuil go díreach sa chomhrá, ach atá i bhfolach i leathanach gréasáin atá scrofa, i ndoiciméad uaslódáilte nó i gcóras tríú páirtí nasctha.

Dá bhrí sin, más mian leat Prompt Injection i gchatbots suíomhanna idirlín a theorannú, ní féidir leat brath ar Prompt Córais atá scriofa go han-docht amháin. Tá gá le hailtireacht ilchisealach: déantar cóireáil ar ionchuir agus ar fhoinsí mar rud neamh-iontaofa, sriantar ceadanna go teicniúil, seiceáiltear aschuir roimh phróiseáil bhreise agus deimhnithear gníomhartha rioscaigh le cód cinntitheach nó le duine daonna.

Céard a chiallaíonn Prompt Injection i gchatbot suímh idirlín

Déanann OWASP cur síos ar Prompt Injection mar ionchur a athraíonn iompar nó aschur múnla teanga gan iarracht. Tagann Prompt Injection díreach go díreach ón úsáideoir, mar shampla mar iarratas chun rialacha roimhe seo a thabhairt faoi deara. Tá Prompt Injection indíreach i bhfolach i gcontent seachtrach a fhágann an córas níos déanaí: leathanaigh ghréasáin, doiciméid eolais, ríomhphoist, sonraí táirgí nó comhaid.

Tá an t-idirdhealú seo tábhachtach d'oibreoirí suíomhanna idirlín. Tá dromchla ionsaithe níos lú ag chatbot FAQ amháin ná mar atá ag córas a bhíonn ag scríobadh leathanaigh ghréasáin, ag cuardach doiciméid inmheánacha, ag léamh sonraí CRM nó ag feidhmiú feidhmeanna. Feabhsaíonn Retrieval-Augmented Generation, nó RAG go gearr, bonn saineolais na bhfreagraí, ach ní dhíolann sé an riosca injection. Is féidir go mbeadh treoracha ionramháilte nó míthuisceana i dtobar foinsí atá marthanach go maith fiú.

Riosca a mheas de réir feidhmeanna seachas ainm an mhúnla

Ní hé an cheist chinntitheach amháin ná: „Cén múnla a úsáidimid?“, ach: „Cén éifeacht is féidir le freagra ionramháilte a bheith aige?“ Cruthaigh léarscáil shimplí feidhmeanna agus sonraí don chatbot:

• Cén fhoinse phoiblí nó inmheánach atá ceadaithe a léamh?
• Cén sonraí pearsanta, rúnda nó atá criticiúil don ghnó atá inrochtana?
• An féidir leis téacs a chruthú amháin nó an féidir leis ticéid, treoracha (leads), ríomhphoist, coinneacha nó orduithe a chruthú freisin?
• Cén gníomhartha a athraíonn córais sheachtracha?
• Cén cinntí a ghlactar go huathoibríoch gan duine daonna chun iad a sheiceáil?

Dá mhéad cearta léite, cearta scríofa agus leibhéal uathoibrithe atá ann, is ea is mó a bhíonn gá le teorainneacha teicniúla lasmuigh den mhúnla. Cabhraíonn an forbhreathnú atá ann cheana ar earráidí coitianta chatbots AI leis an ngnáth-mheasúnú. Le haghaidh Prompt Injection, caithfidh tú sreafaí sonraí, teorainneacha muiníne agus cearta gníomhaíochta a dhoiciméadú freisin.

Ceithre chrios muiníne a dheighilt go soiléir ó chéile

Deighleann samhail slándála phraiticiúil idir ceithre chrios, fiú má phróiseáiltear iad go teicniúil san iarratas céanna.

Crios 1: Rialacha córais agus treoirlínte

Anseo atá an ról, an cuspóir ceadaithe, teorainneacha freagartha agus rialacha eskalaithe. Tugann na rialacha seo treoir don mhúnla, ach ní rialú rochtana iontaofa iad. Tugann OWASP rabhadh go sonrach gan Prompts Córais a láimhseáil mar rún nó mar mheicníocht slándála. Ní bhaineann dintiúir rochtana, eochracha naisc agus faisnéis inmheánach íogair leis an gcrios seo.

Crios 2: Ionchuir ó chuairteoirí

Tá gach teachtaireacht comhrá neamh-iontaofa. Limit fad, cineálacha comhaid agus feidhmeanna ceadaithe; normalaigh ionchuir le haghaidh próiseála teicniúla agus marcáil iad go soiléir sa prompt mar shonraí úsáideora. Is féidir le scagaire patrúin ionsaithe aitheanta a bhrath, ach ní ceadmhach dó ceisteanna dlisteanacha a bhlocáil go ginearálta. Is féidir go mbeadh imní dhlisteanach ag cuairteoir a fhoighníonn faoi „ignore previous instructions“ i ndoiciméadú slándála.

Crios 3: Foinsí faighte agus comhthéacs RAG

Fanann ábhar scrofa, PDFs agus torthaí seirbhísí seachtracha mar shonraí, ní mar threoir. Deighil a n-ábhar go sofheicthe ón gcomhthéacs rialaithe, stóráil an bunús agus an t-am fhaighte, agus ná ceadaigh ach foinsí ceadaithe. Taispeánann an t-alt ar nuashonrú bhonn eolais chatbot AI conas a oibríonn fardal foinsí, minicíocht scríobtha agus QA le chéile.

Crios 4: Uirlisí, gníomhartha agus aschuir

Ní ceadmhach glaonna feidhme a fheidhmiú ach amháin mar gheall go ngineann an múnla téacs atá oiriúnach. Seiceálann rialtóir cinntitheach ainm na feidhme, paraiméadair, cead, comhthéacs seisiúin agus córais spriocdhírithe ceadaithe. Maidir le haschuir mhúnla a úsáidfear níos déanaí mar HTML, Markdown, SQL, cosán comhaid nó paraiméadair API, tá gá le bailíochtú agus ionchódú atá oiriúnach don chomhthéacs sin.

Laghdaíonn Least Privilege an tionchar

Ní féidir Prompt Injection a eisiamh go hiontaofa le beart amháin faoi láthair. Dá bhrí sin, caithfear an feidhmchlár a thógáil sa chaoi is go mbeidh tionchar chomh beag agus is féidir ag iarracht ionramhála rathúil. Molann OWASP agus Microsoft prionsabal an phribhléid is lú (Least Privilege) chuige seo.

• Úsáid aitheantais theicniúla scartha do léamh agus do scríobh.
• Ná tabhair rochtain ach ar na sonraí atá riachtanach do chuspóir sonrach an chatbot.
• Teorannaigh feidhmeanna do scéimreacha paraiméadar beaga atá sainmhínithe go soiléir.
• Úsáid ceadanna gearrthéarmacha más gá do ghníomh iad ar chor ar bith.
• Iarr deimhniú sainráite do chéimeanna rioscaigh nó do-athraithe.
• Ná fág údarú faoi théacs saor an mhúnla riamh.

Mar shampla, is féidir le chatbot tacaíochta dréacht ticéid a ullmhú, ach ní n-oibreodh sé go huathoibríoch chun faighteoirí, tosaíochtaí nó cearta rochtana inmheánacha randamacha a chinneadh. Is féidir le chatbot treoracha (leads) sonraí teagmhála struchtúrtha a ghlacadh gan cearta léite a fháil ar an CRM iomlán dá bharr.

Foinsí RAG a sheiceáil agus a aonrú

Déanann Prompt Injection indíreach píblíne na bhfoinsí mar chuid d'ailtireacht na slándála. Is féidir le leathanach ionramháilte breathnú go neamhdhíobhálach agus fós téacs a bheith ann a dhéanann múnla a léirmhíniú mar threoir. I gcórais ilmhódacha, is féidir le híomhánna nó formáidí comhaid eile ról a imirt freisin.

Dá bhrí sin, tabhair isteach ionchur foinsí le rialacha ceadaithe: fearainn agus réimsí doiciméad atá ceadaithe, úinéirí atá inrianaithe, leaganú, seiceáil malware agus comhad chomh maith le hathbhreithniú ar ábhar nua nó athraithe go neamhghnách. Marcáil sleachta a fhaightear i gcomhthéacs an mhúnla go sainráite mar untrusted content. Is féidir le toradh ó chuardach faisnéis a sholáthar, ach ní ceadmhach dó rialacha córais nó cearta uirlisí a athrú.

Seiceáil freisin an bhfuil an freagra Clúdaithe ag na foinsí i ndáiríre. Déanann an treoir ar caighdeán freagartha chatbot AI le Golden Set agus tástálacha RAG cur síos ar Groundedness agus ar chomhoiriúnú foinsí. Comhlánaíonn an t-iniúchadh cáilíochta seo rialtáin slándála, ach ní thógann sé a n-áit.

Is ciseal amháin iad scagairí ionchuir agus aschuir, ní hé an réiteach iomlán é

Is féidir le seirbhísí cosanta speisialaithe iarrachtaí ionsaithe díreacha agus indíreacha a bhrath. Déanann Microsoft Prompt Shields comhthéacs idir ionsaithe i n-ionchuir úsáideoirí agus treoracha i bhfolach i ndoiciméid a shainaithint. Molann Google ina threoirlíne slándála bearta cosanta freisin i gcoinne Prompt Injection, tascanna níos cúnga, aitheantais úsáideoirí, teorainneacha méide agus maoirseacht dhaonna ag leibhéal riosca níos airde.

Soláthraíonn scagairí den sórt sin comharthaí dóchúlachta. Dá bhrí sin, pleanáil iompar céimnithe: blocáil, freagairt go sábháilte, athrú go mód atá teoranta go docht nó aistriú chuig duine daonna. Logáil an t-aicme cinntí agus an leagan teicniúil, ach seachain stóráil téacs iomlán gan ghá. I gcás sonraí pearsanta, tá feidhm freisin ag na réimsí scrúdaithe a ndéantar cur síos orthu san alt ar Chatbots AI agus GDPR. Ní comhairle dlí é an t-alt seo.

Aschuir mhúnla a bhailíochtú roimh phróiseáil bhreise

Ní ráthaíonn ionchur sábháilte aschur sábháilte. Liostaíonn OWASP láimhseáil aschuir mhí-oiriúnach mar riosca ar leith: is féidir le téacs múnla críochnú níos déanaí i HTML, scripteanna, fiosruithe bunachar sonraí nó cosáin chomhaid. Dá bhrí sin, déan cóireáil ar gach aschur múnla ar dtús mar rud neamh-iontaofa freisin.

Iarr formáid struchtúrtha dhocht do sreafaí uathoibrithe agus bailíochtaigh é i gcoinne scéimre. Úsáid liostaí bána do dhromchlaí feidhme agus do chórais spriocdhírithe. Ionchódaigh téacs sofheicthe don chomhthéacs aschuir faoi seach. Diúltaigh réimsí gan choinne, URLs seachtracha agus paraiméadair lasmuigh de luachanna ceadaithe. Ba cheart go ngabhfadh sonraí íogaire trí scrúdú beartais ar leith arís roimh iad a thaispeáint nó a tharchur.

Prompt Injection a thástáil le sraith tástála slándála

Comhlánaigh an Golden Set saineolais le cásanna tástála adbharsacha. Caithfidh na tástálacha an córas táirgthe iarbhír a thástáil, lena n-áirítear retrieval, uirlisí agus loighic ceada, ní amháin an bunmhúnla. Tá na nithe seo a leanas i sraith úsáideach:

• iarrachtaí díreacha chun rialacha a ionadú nó chun treoracha inmheánacha a fhiosrú;
• leaganacha iltheangacha, ionchódaithe agus scaipthe thar roinnt teachtaireachtaí;
• ceisteanna saineolais neamhdhíobhálacha ina bhfuil eochairfhocail chomhchosúla agus nár cheart a bhlocáil go neamhchirt;
• sleachta ionramháilte i bhfoinse eolais tástála;
• ainmneacha feidhme neamhúdaraithe, paraiméadair bhreise agus seoltaí spriocdhírithe coimhthíocha;
• iarrachtaí chun sonraí rúnda nó ábhar seisiúin roimhe seo a aschur;
• tástálacha d'aschuir HTML, Markdown agus nasc;
• bealaí goir, handoff agus deimhnithe do ghníomhartha rioscaigh.

Ná tomhais amháin an mbaineann scagairí éifeacht amach. Seiceáil an toradh deiridh: An ndearnadh gníomh neamhúdaraithe a chosc? An raibh sonraí rúnda cosanta i gcónaí? An raibh iarratas dlisteanach ag obair fós? An raibh cás suntais logáilte go hiontaofa?

Plean cur chun feidhme praiticiúil d'fhoirne suíomhanna idirlín

1. Scóip a cheapadh: Foinsí sonraí, uirlisí, cearta scríofa agus spriocanna seachtracha a dhoiciméadú.
2. Criosanna muiníne a dheighilt: Rialacha córais, ionchuir úsáideoirí, ábhar RAG agus aschuir gníomhaíochta a mharcáil go teicniúil.
3. Cearta a laghdú: Rochtain gan úsáid a bhaint as agus gníomhartha scríofa a bhriseadh síos i bhfeidhmeanna beaga.
4. Bailíochtú a chur leis: Teorainneacha ionchuir, aschuir struchtúrtha, liostaí bána agus ionchódú atá speisialta don chomhthéacs a thabhairt isteach.
5. Deimhniú a shocrú: Gníomhartha rioscaigh agus sreafaí sonraí íogaire a dhaingniú le Human-in-the-Loop.
6. Sraith tástála a rith: Cásanna rialaithe díreacha, indíreacha agus dlisteanacha a thástáil roimh gach eisiúint ábhartha.
7. Oibriúchán a mhonatóiriú: Tarluithe scagtha, gníomhartha diúltaithe, athruithe foinsí neamhghnácha agus rabhaidh bhréagacha a athbhreithniú go rialta.

Léirsheic: Cosaint ar Prompt Injection

• Níl aon secrets sa Prompt Córais agus ní thógann sé áit údaraithe.
• Déantar cóireáil ar théacsanna úsáideoirí agus ar fhoinsí seachtracha mar rud neamh-iontaofa de réir réamhshocraithe.
• Tá ceadú, bunús, leagan agus úinéirí freagracha ag foinsí RAG.
• Leanann uirlisí Least Privilege agus ní ghlacann siad ach le paraiméadair bhailíochtaithe.
• Teastaíonn deimhniú inrianaithe do ghníomhartha rioscaigh.
• Seiceáiltear aschuir mhúnla roimh HTML, API, CRM nó córais spriocdhírithe eile.
• Déantar scagairí slándála a mheas le False Positives agus False Negatives.
• Ritheann tástálacha ionsaithe díreacha agus indíreacha go rialta agus tar éis athruithe.

Conclúid

Ní fadhb innealtóireachta prompt amháin é Prompt Injection. Do chatbots suíomhanna idirlín, ní thagann cosaint láidir ann ach amháin nuair a dhéanann an feidhmchlár cóireáil ar ionchuir, foinsí, aschuir agus gníomhartha mar chriosanna muiníne scartha. Is féidir le scagairí ionsaithe a bhrath, ach theorannaíonn Least Privilege, bailíochtú cinntitheach agus deimhniú daonna an tionchar féideartha a bhíonn acu.

Tosaigh le léarscáil feidhmeanna agus sonraí do chatbot. Bain cearta neamhriachtanacha, aonraigh ábhar RAG agus tástáil an cosán iomlán go dtí an gníomh seachtrach. Ar an gcaoi sin, fanfaidh an chatbot úsáideach gan ligean do théacs saor múnla cinneadh a dhéanamh faoi cheadanna nó faoi athruithe atá criticiúil don ghnó.

Foinsí

• OWASP GenAI Security Project: LLM01:2025 Prompt Injection
• OWASP GenAI Security Project: LLM07:2025 System Prompt Leakage
• OWASP GenAI Security Project: LLM05:2025 Improper Output Handling
• NIST: Generative Artificial Intelligence Profile (NIST AI 600-1)
• Microsoft Learn: Defend against indirect prompt injection attacks
• Microsoft Learn: Prompt Shields in Azure AI Content Safety
• Google AI for Developers: Safety and factuality guidance