Issikura s-Sejħiet ta' Tools ta' KI-Chatbot: Drittijiet, Konferma u Mogħdija ta' Rollback

Chatbot ta' websajt isir radikalment differenti ladarba ma jibqax biss iwieġeb, iżda jkun jista' jillandja azzjonijiet. Mistoqsija dwar appuntament hija xi ħaġa sempliċi. Madankollu, ikkanċellar ta' appuntament, bidla fl-indirizz jew rifużjoni tbiddel l-istat reali tan-negozju. Il-mudell tal-lingwa huwa permess jissuġġerixxi sejħa ta' tool adattata. Madankollu, jekk l-azzjoni hijiex permessa għandu jiġi deċiż minn saff ta' applikazzjoni deterministiku u separat. Sejħiet ta' tools siguri għal KI-chatbot ma jinħolqux permezz ta' System-Prompt strett ħafna, iżda permezz ta' funzjonijiet limitati, verifika tad-drittijiet min-naħa tas-server, konferma li tiftehem u mogħdija ta' eżekuzzjoni kkontrollata.

Għaliex mudell tal-lingwa tajjeb ma jissostitwixxix l-awtorizzazzjoni

Mudell jaħdem bil-probabbiltajiet. Jista' jifhem ħażin intenzjoni, iżid parametru jew jirreaġixxi għal kontenut manipulat. Id-deskrizzjoni tar-riskju OWASP dwar Excessive Agency issemmi tliet kawżi tipiċi: wisq funzjonalità, permessi wiesgħa wisq u wisq awtonomija. Għalhekk il-problema mhijiex biss input malizzjuż. Anke talba ambigwa jew żball plawżibbli tal-mudell jistgħu jħejju azzjoni mhux mixtieqa.

L-aktar regola arkitettonika importanti hija: Il-mudell jifformula suġġeriment, iżda l-applikazzjoni tawtorizzah u tesegwixxih. Sejħa ta' tool bħal cancelAppointment għall-ewwel hija biss intenzjoni strutturata. Huwa biss Policy-Check li jivverifika l-utent, il-kerrej (tenant), l-oġġett, l-azzjoni permessa, l-istat attwali u l-konferma meħtieġa. Din is-separazzjoni tikkumplimenta l-protezzjoni kontra Prompt Injection f'Chatbots ta' Websajt; din tibqa' meħtieġa anke jekk ma tiġi skoperta l-ebda attakk.

Isklassifika kull tool skont l-impatt minflok skont l-isem

It-timijiet m'għandhomx jikklassifikaw iċ-chatbot kollu b'mod ġenerali bħala "sigur" jew "kritiku". Dak li huwa deċiżiv huwa l-impatt ta' kull tool individwali. Matriċi ta' riskju sempliċi toħloq ċarezza:

• Read-only u ftit sensittiv: Ġbir ta' ħinijiet tal-ftuħ jew informazzjoni dwar il-prodott disponibbli pubblikament.
• Read-only u data personali: Wirja tal-istatus ta' ordni jew data tal-klijent; għal dan, l-identità, il-kerrej u r-referenza għall-oġġett għandhom jiġu vverifikati.
• Write, iżda faċilment reversibbli: Ħolqien ta' talba interna għal sejħa lura jew żieda ta' nota mhux vinkolanti.
• B'konsegwenzi kbar jew diffiċli biex jireversja: Ikkanċellar ta' prenotazzjoni, bidla fid-data ta' kuntatt, pubblikazzjoni ta' kontenut, slendar ta' messaġġi jew avvjament ta' pagamenti.

Minn din il-klassi joħorġu d-drittijiet, il-livell ta' konferma, il-limiti u l-logging. Approvazzjoni ġenerali bħal "Iċ-chatbot jista' juża s-CRM" hija wisq wiesgħa. Huwa aħjar li jkollok lista ta' kapaċitajiet konkreti b'parametri definiti u tranżizzjonijiet ta' stat permessi.

Least Privilege jibda mid-disinn tal-funzjonijiet

L-OWASP Authorization Cheat Sheet tirrakkomanda Least Privilege u Deny by Default. Għal sejħiet ta' tools, dan ifisser: Chatbot jirċievi biss il-funzjoni u s-silta tad-data li huma meħtieġa għall-pass rispettiv.

Għodod żgħar minflok interfaces universali

Tool bħal getOrderStatus(orderId) huwa aktar faċli biex jiġi ssikurat minn aċċess miftuħ għad-database. Tool bħal requestCallback(topic, timeWindow) huwa aktar ikkontrollabbli minn funzjoni ġenerali biex jintbagħtu messaġġi kwalunkwe. Funzjonijiet miftuħa ta' SQL, Shell, URL jew Email ikabbru l-impatt possibbli mingħajr bżonn. Tools ta' ttestjar li ma għadhomx meħtieġa għandhom jisparixxu wkoll mill-katalgu produttiv.

Eżegwixxi fil-kuntest tal-utent illoggjat

Il-backend m'għandux jistrieħ biss fuq il-fatt li l-mudell se jgħaddi l-ID tal-klijent it-tajba. Għandu jikseb l-utent u l-kerrej attwali mis-session ta' fiduċja u jerġa' jivverifika għal kull oġġett jekk hemmx aċċess. Id-differenza prattika bejn chat pubbliku u żona protetta hija spjegata fid-dettall fl-artiklu dwar L-Identità u l-Aċċess għad-Data fil-Portal tal-Klijenti. Kont ta' servizz ġenerali b'aċċess sħiħ normalment huwa shortcut żbaljat għal azzjonijiet relatati mal-utent.

Ivvalida l-parametri b'mod deterministiku

Il-parametri tat-tool jeħtieġu schema strett: oqsma permessi, tipi, tulijiet, firxiet ta' valuri u regoli ta' stat. ID ta' appuntament għandha tkun tal-utent, data għandha tkun f'firxa valida, u azzjoni għandha taqbel mal-istatus attwali. Oqsma mhux magħrufa jiġu miċħuda. L-applikazzjoni għandha tiżgura wkoll li l-isem tat-tool stess jiġi minn Allowlist stabbilita u ma jiġix eżegwit minn test generat liberament.

Il-konferma għandha turi l-azzjoni reali

Għal bidliet b'konsegwenzi kbar, il-mistoqsija "Żgur li trid tkompli?" mhix biżżejjed. Il-Linja Gwida tal-OWASP dwar l-Awtorizzazzjoni tat-Tranżazzjonijiet tiddeskrivi l-prinċipju "What You See Is What You Sign": L-utenti għandhom ikunu jistgħu jagħrfu u jikkonfermaw id-data essenzjali tal-azzjoni konkreta. Għal chatbot ta' websajt, dan ifisser pereżempju:

• "Ikkanċella l-appuntament tat-18 ta' Awgust fis-14:30" minflok "Ikkonferma l-bidla"
• "Ibdel l-indirizz tal-konsenja għall-ordni ...84 għal Vjenna" minflok "Issejvja d-data"
• "Oħloq talba għal sejħa lura bis-suġġett Fattura" minflok "Ibgħat it-talba"

Il-konferma tiġi marbuta min-naħa tas-server ma' dan l-abbozz ta' azzjoni speċifiku. Jekk ir-riċevitur, l-ammont, id-data, id-destinazzjoni jew parametri essenzjali oħra jinbidlu, il-konferma tiskadi. Din tirċievi perjodu ta' validità qasir u ma tistax terġa' tintuża għat-tieni azzjoni. Għal proċessi partikolarment kritiċi, jista' jkun hemm bżonn ta' login mill-ġdid jew approvazzjoni minn bniedem. Il-mudell ma jistax jaqbeż dan il-pass u lanqas ma jista' jissostitwih b'risposta fformulata b'mod trankwillanti.

Ippjana l-idempotenza, il-limiti u l-mogħdija ta' rollback

Anke sejħa ta' tool awtorizzata b'mod korrett tista' tasal darbtejn minħabba raġunijiet tekniċi: Il-browser jirrepeti talba, timeout jattiva retry, jew l-utent jibgħat l-istess messaġġ mill-ġdid. Għalhekk, tools li jiktbu għandhom jużaw Idempotency ID min-naħa tas-server. Għall-istess ID, l-istess azzjoni tiġi eżegwita l-aktar darba waħda; retry jirċievi r-riżultat diġà magħruf.

Barra minn hekk, kull tool jeħtieġ limiti xierqa: sejħiet massimi għal kull session, timeouts qosra, retries limitati u waqfien f'każ ta' sekwenzi mhux tas-soltu. Qabel l-eżekuzzjoni, il-backend jerġa' jivverifika l-istat. B'hekk, pereżempju, prenotazzjoni li diġà ġiet ikkanċellata ma tiġix iproċessata għat-tieni darba. Fejn possibbli, azzjoni għandha l-ewwel tinħoloq bħala abbozz jew ordni rriżervata. Għal bidliet diretti inevitabbli, għandu jkun ċar kif dawn jistgħu jiġu kumpensati, imħassra jew mgħoddija lil tim ta' support. Degraded Mode u pjan ta' rollback imħejjija jipprevjenu li jkun hemm bżonn ta' improvvisazzjoni f'każ ta' inċident.

Żomm log mingħajr ma tiġbor sigrieti

Log ta' sigurtà għandu jkun kapaċi jwieġeb min approva liema azzjoni, fuq liema bażi, u b'liema riżultat ġiet eżegwita. Informazzjoni utli tinkludi ID ta' attur psewdonimizzata, tool u verżjoni, referenza tal-oġġett, verżjoni tal-policy, deċiżjoni ta' awtorizzazzjoni, ID ta' konferma, Idempotency ID, il-ħin u r-riżultat. Passwords, tokens, storja sħiħa ta' chat u data personali mhux meħtieġa m'għandhomx post f'dan il-log.

L-OWASP AI Agent Security Cheat Sheet tirrakkomanda data ta' deċiżjoni strutturata għal azzjonijiet b'riskju għoli u separazzjoni bejn id-deċiżjoni u l-eżekuzzjoni. Dan huwa differenti minn tracing tekniku sħiħ: Għall-verifika tas-sigurtà, dak li jgħodd huwa prova konċiża u affidabbli tal-katina ta' approvazzjoni. Iż-żamma u l-aċċess għandhom ikunu bbażati fuq il-ħtieġa reali ta' verifika.

Arkitettura robusta f'ħames saffi

1. Djalogu u Suġġeriment: Il-mudell jagħraf l-intenzjoni u joħloq abbozz ta' azzjoni strutturat, iżda ma jesegwixxi xejn direttament.
2. Deċiżjoni ta' Policy: Komponent deterministiku jivverifika l-Allowlist tat-tool, l-utent, il-kerrej, l-oġġett, il-parametri, il-klassi tar-riskju u l-limiti.
3. Konferma: L-interface turi d-data essenzjali tal-azzjoni. l-approvazzjoni hija għal żmien qasir u marbuta mal-abbozz mhux mibdul.
4. Eżekuzzjoni: Executor limitat b'mod strett jerġa' jivverifika l-awtorizzazzjoni immedjatament qabel is-sejħa u juża Idempotency ID.
5. Prova u Reazzjoni: Ir-riżultat, l-iżbalji u l-katina ta' approvazzjoni jiġu rreġistrati b'mod parsimonjuż fid-data; allarmi, kumpensazzjoni u trasferiment lill-bniedem huma definiti.

In-NIST AI RMF Core jorganizza dawn il-kompiti f'Govern, Map, Measure u Manage. Prattikament dan ifisser: iddefinixxi r-responsabbiltajiet u l-limiti tar-riskju, ifhem il-kuntest tal-użu, ittestja l-kontrolli u rreaġixxi għal devjazzjonijiet osservati.

Matriċi ta' ttestjar qabel il-Go-Live

It-testijiet pożittivi waħedhom mhumiex biżżejjed. Tool għandu jfalli b'mod sigur anke under kundizzjonijiet xejn favorevoli. Mill-inqas dawn il-każijiet għandhom jidħlu f'matriċi ta' ttestjar li tista' tiġi ripetuta:

• Utent mhux illoggjat jew mhux awtorizzat jitlob l-azzjoni.
• Session valida tirreferi għal oġġett ta' kerrej ieħor.
• Parametri essenzjali jinbidlu wara l-konferma.
• L-istess talba tiġi ripetuta minħabba timeout jew double-click.
• Tool jirritorna struzzjonijiet manipulati jew oqsma addizzjonali mhux mistennija.
• Sejħa taqbeż il-limiti ta' ħin, kwantità jew spiża.
• Is-sistema fil-mira tfalli bejn il-verifika u l-eżekuzzjoni.
• Permess jiġi revokat ftit qabel l-eżekuzzjoni.

Ir-riżultati mistennija mhumiex biss azzjonijiet b'suċċess, iżda odbijiet ċari, data mhux mibdula u avvenimenti ta' sigurtà li jistgħu jintużaw. Qabel ma jiġi attivat l-aċċess għall-kitba għall-utenti reali, il-proċess jista' jiġi vverifikat fis-Shadow Mode b'talbiet reali, mingħajr ma jiġu eżegwiti l-azzjonijiet suġġeriti.

Lista ta' kontroll għat-timijiet tal-websajt

• Kull tool huwa żgħir, iddedikat għal skop speċifiku u minn Allowlist stabbilita?
• L-utent, il-kerrej, l-oġġett u l-azzjoni huma vverifikati min-naħa tas-server?
• Japplikaw Deny by Default u permessi tekniċi minimi?
• L-utenti jaraw id-data essenzjali kollha qabel azzjonijiet kritiċi?
• Il-konferma tiskadi f'każ ta' bidliet u wara żmien qasir?
• L-Idempotency ID tipprevjeni eżekuzzjoni doppja?
• Jeżistu limiti, timeout, waqfien, kumpensazzjoni u Human Handoff?
• It-tokens, is-sigrieti u d-data personali mhux meħtieġa jibqgħu barra mil-logs?
• Il-matriċi ta' ttestjar tkopri żbalji fir-drittijiet, manipulazzjoni, retries u faċilitajiet li jfallu?

Konklużjoni: Il-mudell jissuġġerixxi, l-applikazzjoni tiddeċiedi

Chatbot ta' websajt li kapaċi jaġixxi m'għandux għalfejn jibda b'aċċess sħiħ. Ibda b'azzjoni limitata strettament u reversibbli, u ibni l-katina ta' approvazzjoni b'mod viżibbli madwarha. Meta d-disinn tat-tool, l-awtorizzazzjoni min-naħa tas-server, il-konferma konkreta, l-idempotenza u l-mogħdija ta' rollback jiġu ddisinjati flimkien, iċ-chat jibqa' utli mingħajr ma jagħti lill-mudell ir-romblu ta' sistema ta' sigurtà. Għall-pass li jmiss, taħdem tajjeb workshop mat-timijiet tal-prodott, l-iżvilupp, is-support u l-protezzjoni tad-data: Agħżel azzjoni reali, ikklassifika r-riskju tagħha u iddefinixxi l-każ ta' ċaħda sigura qabel l-ewwel approvazzjoni live.