Chatbot tal-IA pubbliku vs portal tal-klijenti: separazzjoni sigura tal-identità u l-aċċess għad-data

Chatbot fuq sit web pubbliku jista' jwieġeb mistoqsijiet dwar prodotti, jispjega l-ħinijiet tal-ftuħ jew iwassal lill-viżitatur lejn il-paġna tas-servizz it-tajba. Iżda meta fil-portal tal-klijenti jkun mistenni jara l-istatus ta' ordni, kuntratti, fatturi jew każijiet ta' appoġġ, ma jinbidilx biss il-kontenut. Tinħoloq fruntiera ġdida ta' sigurtà. Chatbot tal-IA awtentikat irid jifred b'mod ċar l-identità, il-permess, is-sessjoni u l-azzjoni konkreta.

Għalhekk l-aktar deċiżjoni importanti fl-arkitettura mhix: “Liema mudell nużaw?” Hija: “Liema informazzjoni u liema azzjoni huma permessi f'kull żona ta' fiduċja?” Meta t-tim iwieġeb din il-mistoqsija qabel ma jiddisinja l-prompt, inaqqas ir-riskju ta' kxif ta' data, rabtiet żbaljati ma' kontijiet u azzjonijiet mhux intenzjonati. Il-gwida li ġejja hija orjentazzjoni teknika u organizzattiva, mhux parir legali individwali.

Għaliex il-modalità pubblika u dik awtentikata huma żewġ modi ta' tħaddim

Fiċ-chat pubbliku, il-persuna għall-ewwel mhix magħrufa. Is-sistema tista' tkun taf biss il-kuntest tal-konverżazzjoni, il-lingwa magħżula u data tas-sessjoni li hija teknikament meħtieġa. Għalhekk it-tweġibiet għandhom ikunu limitati għal sorsi approvati u aċċessibbli għal kulħadd. Indirizz tal-email, numru ta' ordni jew dikjarazzjoni bħal “Dan huwa l-kuntratt tiegħi” għadhom mhumiex prova ta' awtorizzazzjoni.

Fil-portal tal-klijenti, min-naħa l-oħra, hemm sessjoni tal-utent li jkun daħal fil-kont. Iżda anki hemmhekk, id-dħul ma jfissirx awtomatikament li kull riżorsa u kull azzjoni huma permessi. L-OWASP Authentication Cheat Sheet tiddistingwi bejn awtentikazzjoni, verifika tal-identità u ġestjoni tas-sessjoni. Il-Linji Gwida dwar l-Identità Diġitali tan-NIST, Reviżjoni 4 attwali wkoll jittrattaw il-verifika tal-identità, l-awtentikazzjoni u l-federazzjoni bħala elementi separati. Għat-timijiet tas-siti web dan ifisser li ċ-chat jista' juża biss sinjali ta' fiduċja li s-sistema ta' madwaru tipprovdi b'mod verifikabbli.

Tliet żoni minflok chatbot li jista' jagħmel kollox

Soluzzjoni robusta taqsam l-għarfien u l-għodod f'mill-inqas tliet żoni:

• Żona pubblika: kontenut approvat tas-sit web, informazzjoni ġenerali dwar il-prodotti, proċessi, modi ta' kuntatt u għajnuna mhux vinkolanti.
• Żona awtentikata: data u proċessi marbuta mal-kont, l-organizzazzjoni, ir-rwol jew il-permess tal-utent li jkun daħal.
• Żona protetta b'mod speċjali: bidliet sensittivi, ħlasijiet, konklużjoni ta' kuntratti, indirizzi ġodda tal-kunsinna, tibdil fil-permessi jew azzjonijiet oħra li jeħtieġu konferma addizzjonali jew reviżjoni minn persuna.

Dawn iż-żoni m'għandhomx jeżistu biss fil-prompt tas-sistema. Iridu jkunu riflessi fis-sorsi tad-data, fl-APIs, fir-rwoli, fil-permessi tal-għodod u fil-kontrolli fuq in-naħa tas-server. Prompt jista' jiggwida l-imġiba, iżda mhuwiex kontroll tal-aċċess. L-istess japplika għar-RAG: tfittxija fuq dokumenti pubbliċi u privati f'indiċi wieħed u mhux iffiltrat toħloq wiċċ ta' attakk usa' milli meħtieġ.

L-awtentikazzjoni mhijiex l-awtorizzazzjoni

B'mod simplifikat, l-awtentikazzjoni twieġeb: “Liema identità diġitali daħlet?” L-awtorizzazzjoni twieġeb: “Din l-identità tista' taqra dan l-oġġett speċifiku jew teżegwixxi din il-funzjoni?” Fiċ-chat, id-differenza faċilment tintesa għax l-utenti jsemmu l-identifikaturi b'mod naturali: “Urini l-fattura 4711” jew “Ibdel l-indirizz għall-ordni 815”.

Ir-rakkomandazzjonijiet tal-OWASP kontra l-IDOR jeħtieġu kontroll tal-permess għal kull oġġett, anki meta l-identifikaturi jkunu diffiċli biex wieħed jaħsibhom. Fil-prattika, is-server joħroġ il-kont attwali mis-sessjoni protetta u jiċċekkja ma' kull talba jekk il-fattura, l-ordni jew il-biljett jappartjenux għall-ispazju tad-data permess. Il-mudell tal-lingwa m'għandux jaċċetta identifikatur tal-klijent jew tal-oġġett li ddaħħal liberament bħala bażi ta' fiduċja.

X'jista' jwieġeb iċ-chat pubbliku tas-sit web

Għaż-żona pubblika, lista pożittiva hija aħjar minn lista twila ta' projbizzjonijiet. Pereżempju, jistgħu jiġu approvati l-perjodi ġenerali tar-ritorn, ir-reġjuni tal-kunsinna, il-karatteristiċi tal-prodotti, l-istruzzjonijiet, il-loġika ġenerali tal-prezzijiet jew it-triq lejn il-login. Mhumiex approvati l-istatus individwali tal-ordnijiet, id-dettalji tal-kuntratti, appuntamenti personali, noti interni jew dikjarazzjoni dwar jekk kont partikolari jeżistix.

Anki tweġibiet li jidhru bla ħsara jistgħu jikxfu informazzjoni. “M'hemm l-ebda kont b'dan l-indirizz tal-email” tikkonferma tentattiv ta' verifika. Tweġiba newtrali bħal “Idħol fil-portal tal-klijenti biex tara informazzjoni marbuta mal-kont” iżżomm il-fruntiera stabbli. Għat-tentattivi ta' manipulazzjoni huma meħtieġa wkoll miżuri bħal dawk deskritti fl-artiklu Prompt Injection f'chatbots tas-siti web.

X'jeħtieġ addizzjonalment chatbot tal-IA awtentikat

Wara l-login, l-assistent jista' jagħmel aktar, iżda biss fil-kuntest iddeterminat fuq in-naħa tas-server. Inputs sensibbli jinkludu referenza interna tas-sessjoni, l-organizzazzjoni jew it-tenant permess, ir-rwoli u sett dejjaq ta' funzjonijiet. Kredenzjali mhux ipproċessati, passwords, tokens sħaħ tas-sessjoni jew oqsma personali mhux meħtieġa m'għandhomx jidħlu fil-kuntest tal-mudell.

L-OWASP Authorization Cheat Sheet tirrakkomanda kontrolli tal-permess għal kull riżorsa u funzjoni speċifika. Għas-sejħiet tal-għodod, dan ifisser li l-mudell ma jiddeċidix jekk fattura tistax tintwera. Huwa jitlob l-informazzjoni permessa mingħand servizz; is-servizz jerġa' jiċċekkja s-sessjoni, ir-rwol, it-tenant u l-oġġett. Iċ-chat imbagħad jirċievi biss l-oqsma li huma meħtieġa għat-tweġiba.

Kif taqsam il-konfini tad-data u tal-għodod fil-prattika

L-għodod tal-qari u tal-kitba għandhom ikunu separati. Għodda waħda msejħa “Immaniġġja l-kont tal-klijent” hija wiesgħa wisq. Funzjonijiet żgħar bħal “elenka l-ordnijiet miftuħa tiegħi”, “aqra l-istatus ta' ordni permessa” jew “ipprepara każ ta' appoġġ” huma aħjar. Kull funzjoni għandha skema minima ta' input, kontroll tal-permess fuq is-server, każijiet ta' żball ċari u output limitat.

L-istess loġika hija rakkomandata għar-RAG: sorsi pubbliċi fi spazju ta' tfittxija pubbliku, u dokumenti marbuta mal-kont fi spazju ta' tfittxija ffiltrat skont it-tenant u r-rwol. Il-filtri jinħolqu fuq is-server mis-sessjoni, mhux minn dettalji miktuba liberament fiċ-chat. Bidliet fis-sorsi, fir-rwoli u fl-approvazzjonijiet għandhom jidħlu fi proċess dokumentat; l-artiklu dwar Content Governance u Change Control jipprovdi mudell prattiku.

Ikkunsidra l-iskadenza tas-sessjoni, il-logout u apparati kondiviżi

Interfaċċa ta' chat m'għandhiex tagħti l-impressjoni li permess jibqa' validu għal dejjem. L-OWASP Session Management Cheat Sheet tiddeskrivi s-sessjoni bħala r-rabta bejn l-awtentikazzjoni, it-traffiku HTTP u l-kontroll tal-aċċess. Meta s-sessjoni tiskadi, it-talba li jmiss għal data privata trid tfalli b'mod sigur. Tweġiba antika li għadha tidher fl-istorja m'għandhiex tiġi interpretata bħala permess ġdid.

It-timijiet għandhom jittestjaw ukoll il-logout, il-bidla tal-kont, il-bidla tar-rwol u l-apparati kondiviżi. Wara bidla, stejjer privati ta' konverżazzjonijiet m'għandhomx jidhru fil-kont li jmiss. Meta s-sessjoni tkun skadiet, l-assistent għandu jwassal b'mod ċar lejn login ġdid mingħajr ma jirrepeti dettalji sensittivi mis-sessjoni ta' qabel. Għar-reġistrazzjoni u l-analiżi japplika l-prinċipju tal-minimizzazzjoni tad-data; l-artiklu dwar analitika ta' chatbot li tiffranka d-data juri konfini xierqa għall-avvenimenti u ż-żamma.

Azzjonijiet sensittivi jeħtieġu konferma separata

Login fil-portal mhux neċessarjament biżżejjed għal kull azzjoni. Meta ċ-chat ibiddel indirizz tal-kunsinna, jikkonferma kuntratt jew jibda ħlas, is-sistema għandha titlob konferma ċara u marbuta mal-azzjoni speċifika. L-OWASP Transaction Authorization Cheat Sheet tifred il-login mill-awtorizzazzjoni tat-tranżazzjoni u titlob kontrolli fuq is-server kif ukoll verifika tad-data essenzjali tat-tranżazzjoni.

Mudell sigur jaħdem hekk: Iċ-chat jiġbor it-talba u juri sommarju li jinftiehem. Il-portal jiċċekkja l-permess attwali u, jekk meħtieġ, jitlob awtentikazzjoni mill-ġdid jew fattur ieħor. Servizz fuq is-server jeżegwixxi eżattament l-azzjoni kkonfermata biss wara dan. Jekk id-destinazzjoni, l-ammont jew data essenzjali oħra jinbidlu, il-konferma preċedenti tiskadi.

Eżempju: Ritorn mingħajr kxif ta' data

Persuna anonima tistaqsi: “Nista' nirritorna l-ordni tiegħi?” Iċ-chat pubbliku jispjega l-loġika ġenerali tar-ritorn u jagħti link għall-portal. Ma jitlobx indirizz sħiħ jew dettalji tal-ħlas. Wara l-login, iċ-chat tal-portal jista' jelenka l-ordnijiet tal-istess kont li jistgħu jintbagħtu lura permezz ta' għodda tal-qari. Meta l-persuna tagħżel ordni, is-server jerġa' jiċċekkja l-permess għall-oġġett u r-regoli applikabbli.

Għar-ritorn proprju, għodda separata tal-azzjoni toħloq sommarju. Il-persuna tikkonferma l-oġġett u l-għażla tal-ġbir fl-interfaċċa tal-portal. Jekk il-kontroll ifalli, iċ-chat ma jikxifx sinjali interni tar-riskju iżda joffri pass sigur li jmiss. Meta tkun meħtieġa kjarifika umana, isir Human Handoff ikkontrollat bl-inqas kuntest meħtieġ u approvat.

Matriċi tat-test qabel it-tnedija

Matriċi tat-test m'għandhiex tivverifika biss il-mogħdijiet ideali. Uża mill-inqas żewġ kontijiet bi rwoli simili u data separata, u ttestja l-każijiet li ġejjin:

• Talba anonima għal informazzjoni ġenerali u mbagħad għal data privata tal-kont.
• Il-kont A li jkun daħal jaqra oġġett tiegħu u mbagħad jipprova l-identifikatur ta' oġġett tal-kont B.
• Sessjoni skaduta, logout, bidla tal-kont u tneħħija ta' rwol waqt chat attiv.
• Bidla tal-lingwa f'nofs il-proċess mingħajr ma jinbidlu l-ispazju tad-data jew il-permess.
• Prompt Injection fl-input tal-utent u f'dokumenti li jinġabru mis-sistema.
• Falliment ta' għodda tal-qari, timeout u data kontradittorja mill-backend.
• Azzjoni ta' kitba mingħajr konferma, b'data mibdula u b'konferma skaduta.
• Trasferiment lil persuna bl-inqas kuntest tal-konverżazzjoni li jista' jinftiehem u jiġi ġġustifikat.

Ir-riżultati mistennija għandhom ikunu ddefiniti minn qabel: Liema tweġiba hija permessa fil-pubbliku? Liema żball HTTP jinħoloq fuq is-server? Liema informazzjoni tista' tidher fiċ-chat? Liema avveniment jiġi rreġistrat mingħajr kontenut kunfidenzjali? Degraded Mode ippjanat jgħin meta jfallu s-servizzi tal-identità jew tal-backend; għal dan hemm gwida separata għall-Incident Response u r-Rollback.

Lista ta' kontroll għal fruntiera robusta tal-portal

• Iddokumenta ż-żona pubblika, dik awtentikata u dik protetta b'mod speċjali.
• Immudella separatament l-awtentikazzjoni, l-awtorizzazzjoni u l-konferma tat-tranżazzjoni.
• Oħroġ il-kont u t-tenant mis-sessjoni sigura.
• Iċċekkja l-permess għall-oġġett fuq is-server ma' kull qari u kitba.
• Ifred teknikament u ffiltra s-sorsi RAG pubbliċi u privati.
• Żomm il-permessi tal-għodod minimi u ifred il-qari mill-kitba.
• Ikkunsidra l-iskadenza tas-sessjoni, il-logout, il-bidla tal-kont u l-bidliet fir-rwoli fiċ-chat.
• Agħti sommarju ċar ta' azzjonijiet sensittivi u itlob konferma mmirata.
• Illimita l-Handoff u r-reġistrazzjoni għad-data meħtieġa.
• Ittestja b'mod riproduċibbli tentattivi ta' aċċess orizzontali b'mill-inqas żewġ kontijiet.

Chatbot tal-IA awtentikat ma jsirx sigur sempliċement għax jidher wara login. Is-sigurtà tinħoloq meta kull informazzjoni u kull azzjoni jkollhom fruntiera li tista' tiġi vverifikata. Għalhekk ibda bil-mappa taż-żoni u bil-matriċi tat-test qabel ma tqabbad sorsi privati tad-data jew għodod li jiktbu. B'dan il-mod, iċ-chat pubbliku jibqa' utli u ċ-chat tal-portal jibqa' kapaċi jaġixxi mingħajr ma jitħalltu ż-żewġ żoni ta' fiduċja.

Sorsi

• NIST SP 800-63, Reviżjoni 4: Linji Gwida dwar l-Identità Diġitali
• OWASP Authentication Cheat Sheet
• OWASP Authorization Cheat Sheet
• OWASP Session Management Cheat Sheet
• OWASP Insecure Direct Object Reference Prevention Cheat Sheet
• OWASP Transaction Authorization Cheat Sheet