Prijenos dokumenata u AI chatbotu: Provjera datoteka, zaštita podataka i preusmjeravanje

Sličica za prijenos u prozoru chata djeluje jednostavno: odaberite datoteku, postavite pitanje, primite odgovor. Tehnički i urednički, međutim, na ovom mjestu započinje zaseban proces. Dokument može sadržavati osobne podatke, aktivni sadržaj, manipulirane strukture datoteka, nečitljive skenove ili upute koje jezični model ne smije tretirati kao pouzdane činjenice. Stoga prijenos dokumenata u AI chatbotu treba jasna ograničenja prije prijenosa, nekoliko stanica za provjeru nakon toga i razumljiv izlaz ako nešto ne funkcionira.

Sljedeći vodič namijenjen je timovima za web stranice, podršku i proizvode. On ne opisuje pojedinačnu funkciju jednog proizvođača, već pouzdan ciljni model: ljudi prije prijenosa znaju što je dopušteno; sustav razdvaja prihvaćanje, sigurnosnu provjeru i analizu sadržaja; pogreške ostaju razumljive; osjetljivi slučajevi kontrolirano prelaze na čovjeka.

Prijenos treba jasnu svrhu

Nemojte započeti s što dužim popisom podržanih formata, već s nekoliko zadataka. Treba li chatbot objasniti podatke s računa, sažeti tehničku dokumentaciju ili dopuniti upit podršci snimkom zaslona? Za svaki zadatak mora biti utvrđeno koji su sadržaji potrebni, koju odluku sustav smije donijeti i kada je ljudska provjera obavezna.

Ovo ograničenje svrhe sprječava da prijenos postane opće spremište dokumenata. Također pomaže pri oblikovanju: dokaz za reklamaciju treba drugačije napomene i pravila pohrane od javnog opisa proizvoda za bazu znanja. Postojeći vodič o treniranju s FAQ-ima, dokumentima i sadržajem web stranice bavi se kuriranom bazom znanja; ovdje je, međutim, riječ o datotekama koje posjetitelji šalju tijekom razgovora koji je u tijeku.

Učinite vidljivima dopuštene vrste datoteka, veličine i količine

Ljudi bi trebali vidjeti pravila prije nego što se otvori dijalog za datoteke: dopušteni formati, maksimalna veličina, maksimalni broj i prihvaćaju li se datoteke zaštićene lozinkom ili sažete datoteke. Upotrijebite popis dopuštenih formata koji dopušta samo poslovno potrebne formate. „Svi dokumenti“ nije koristan zahtjev.

HTML atribut accept poboljšava odabir u pregledniku, ali nije sigurnosna kontrola. MDN izričito napominje da korisnici često mogu zaobići ograničenje odabira i da se provjera stoga mora provesti na strani poslužitelja. Sučelje stoga smije nuditi odgovarajuće ekstenzije datoteka, dok poslužitelj neovisno o tome procjenjuje ekstenziju, prijavljeni MIME tip, stvarni potpis i strukturu.

Nemojte preuzimati nazive datoteka i metapodatke bez provjere

Izvorni naziv može sadržavati posebne znakove, dijelove putanje, vrlo duge nizove znakova ili osjetljive informacije. Za internu pohranu sustav bi trebao dodijeliti vlastiti nasumični identifikator i tretirati vidljivi naziv samo kao pročišćenu informaciju za prikaz. Također, ugrađeni metapodaci mogu sadržavati imena, informacije o uređaju ili lokaciji. Trebaju li ti podaci ovisi o svrsi.

Dokument OWASP File Upload Cheat Sheet između ostalog preporučuje popis dopuštenih ekstenzija, neovisnu provjeru tipa, sigurna imena datoteka, ograničenja veličine, pohranu izvan web korijena (webroot) i zaštitu od neovlaštenih prijenosa. Niti jedna pojedinačna provjera nije dovoljna sama po sebi; smislen je lanac malih, razumljivih kontrola.

Razdvojite prihvaćanje, sigurnosnu provjeru i analizu

Prihvaćena datoteka ne bi trebala odmah biti dostupna u chatu. Robustan tijek poznaje najmanje tri stanja: primljeno, u provjeri i odobreno za analizu. Tijekom provjere datoteka se nalazi u izoliranom području. Tek nakon uspješne kontrole ekstrakcija dobiva pristup. Izravne javne URL adrese ili predvidljive putanje pohrane treba izbjegavati.

Provjera zlonamjernog softvera i strukture

Ovisno o riziku, skeniranje virusa ili sandbox, provjera potpisa te, kod odgovarajućih Office ili PDF datoteka, Content Disarm and Reconstruction spadaju u proces. Arhive, ugniježđene datoteke i neuobičajeno jako sažeti sadržaji trebaju vlastita ograničenja jer mogu vezati resurse ili napasti parsere. Skeneri i biblioteke moraju biti ažurni i konfigurirani tako da se isteklom vremenu (timeout) ili pogrešci parsera ne pristupa kao odobrenju.

Ekstrakcija teksta je zaseban status kvalitete

Sigurna datoteka svejedno može biti neupotrebljiva: nakrivljen sken, fotografija s odsjajem, ručno pisana bilješka ili PDF bez tekstualnog sloja koji se može ekstrahirati. Stoga bi sustav trebao odvojeno prijaviti je li datoteka sigurno prihvaćena i je li sadržaj dovoljno dobro pročitan. Niska kvaliteta ekstrakcija ne smije se prikrivati izmišljenim dopunama.

Formulirajte pogreške precizno i s jasnim uputama za djelovanje

„Prijenos nije uspio“ ostavlja otvorenim što dalje učiniti. Bolje su prepoznatljive poruke: format nije podržan, datoteka je prevelika, prepoznata je zaštita lozinkom, sigurnosna provjera nije prošla, tekst nije čitljiv ili obrada privremeno nije dostupna. Poruka ne bi trebala otkrivati interne detalje skenera ili infrastrukture, ali bi trebala ponuditi sigurnu korekciju.

WCAG 2.2 zahtijeva tekstualnu identifikaciju i opis kod automatski prepoznatih pogrešaka pri unosu. Objašnjenje uz Success Criterion 3.3.1 Error Identification naglašava da samo ponovno prikazani obrazac nije dovoljan. Za chat to znači: navedite naziv datoteke odnosno poziciju prijenosa, objasnite pogrešku u tekstualnom obliku i ponudite konkretnu opciju za zamjenu, uklanjanje ili preusmjeravanje.

Obavijestite o napretku na pristupačan način

Kod većih datoteka dolazi do vremena čekanja. Sama vizualna traka ne pomaže svim ljudima. Promjene statusa kao što su „prijenos u tijeku“, „sigurnosna provjera“, „sadržaj se čita“ i „spremno“ trebale bi biti programski prepoznatljive bez nepoželjnog pomicanja fokusa tipkovnice. Objašnjenje W3C-a uz WCAG 4.1.3 Status Messages izričito navodi napredak, uspjeh i pogreške kao relevantne informacije o statusu.

Akcija otkazivanja mora ostati dostupna. Nakon otkazivanja trebalo bi biti vidljivo je li prijenos doista zaustavljen i je li već primljena kopija odbačena. Na mobilnim uređajima naziv datoteke, napredak i gumb za uklanjanje trebaju biti raspoređeni tako da ne prekrivaju unos niti važnu navigaciju.

Objasnite zaštitu podataka prije prijenosa

Napomena prije prijenosa podataka mora odgovoriti na pitanja: Za što se datoteka koristi? Tko je može vidjeti? Koliko dugo ostaje pohranjena? Koristi li se njezin sadržaj za poboljšanje modela? Kako se datoteka može ukloniti? Opće izjave o zaštiti podataka ostaju važne, ali ne zamjenjuju kontekstualnu napomenu izravno uz prijenos.

Članak 5. Opće uredbe o zaštiti podataka između ostalog sadrži ograničenje svrhe, smanjenje količine podataka i ograničenje pohrane. U praksi to znači: zahtijevajte samo potrebne dokumente, izbjegavajte nepotrebne stranice ili metapodatke, odredite opravdani rok brisanja i tehnički provjerite stvarno brisanje. Ovo nije pojedinačni pravni savjet; konkretne obveze moraju se procijeniti za svaku pojedinu primjenu.

Razdvojite javne chatove i zaštićene procese

Javni chat na web stranici nije automatski pravo mjesto za ugovore, identifikacijske dokumente, zdravstvene podatke ili dokumente o računima. Kod osjetljivih procesa razgovor bi trebala prijeći u autentificirano područje ili uspostavljeni sigurni kanal. Članak javni AI chatbot nasuprot korisničkog portala pokazuje kako se razdvajaju identitet i pristup podacima.

Čak i u prijavljenom području vrijedi načelo najmanjih privilegija. Djelatnik podrške možda treba uvid u račun, ali ne i automatski trajni pristup svim prenesenim dokumentima nekog računa. Pristupi, preuzimanja i brisanja trebali bi se sljedivo bilježiti, bez nepotrebnog kopiranja sadržaja dokumenta u analitičke događaje.

Sadržaj dokumenta ostaje nepouzdan

Odobrena datoteka je tehnički obrađena, ali sadržajno još uvijek nije mjerodavan izvor. Dokumenti mogu biti zastarjeli, kontradiktorni ili namjerno manipulirani. Također mogu sadržavati upute koje bi trebale navesti model na curenje podataka ili zaobilaženje pravila. Stoga tretirajte ekstrahirani tekst kao untrusted content, razdvojite ga od sustavskih pravila i ograničite alate i pristupe podacima.

Vodič o Prompt Injectionu kod chatbotova na web stranicama objašnjava ovo ograničenje za RAG i alate. Za prijenose se dodaje: odgovori bi se trebali pozivati na prepoznatljive dijelove dokumenta, navesti nesigurnost i kod kritičnih odluka ne dopunjavati podatke koji nedostaju.

Ljudsko preusmjeravanje (Human Handoff) s malim paketom konteksta

Preusmjeravanje je potrebno ako sigurnosna provjera više puta ne uspije, ako je ekstrakcija nepouzdana, ako su identitet ili ovlaštenje nejasni ili ako je stručna odluka izvan chatbota. Prenose se samo informacije koje su čovjeku potrebne za nastavak: zahtjev, status prijenosa, sigurna referenca dokumenta, konkretna poruka o pogrešci, već potvrđeni podaci i željeni sljedeći korak.

Datoteka se ne bi trebala dodatno slati nezaštićenom e-poštom samo zato što je chatbot nije mogao pročitati. Planirani proces ljudskog preusmjeravanja čuva kontekst, nadležnost i očekivanja, bez nepotrebnog umnožavanja osjetljivih sadržaja.

Mjerite događajima, a ne sadržajem dokumenata

Za poboljšanje proizvoda često su dovoljni strukturirani događaji: odabir započet, prijenos otkazan, tip odbijen, dosegnuto ograničenje veličine, sigurnosna provjera prošla, ekstrakcija nedovoljna, odabrano preusmjeravanje i potvrdno brisanje. Nazivi datoteka, ekstrahirani tekst i osobni sadržaji ne spadaju automatski u analitiku ili dnevnike pogrešaka.

Evaluaciju pokazatelja uspjeha i zaštite vršite zajedno. Visoka stopa prijenosa bezvrijedna je ako mnogi ljudi ne razumiju koja se datoteka očekuje ili ako osjetljivi dokumenti završe u javnom chatu. Stoga su važni i stopa korekcija, odustajanje nakon napomene o zaštiti podataka, udio nečitljivih datoteka, vrijeme do razumljive poruke o pogrešci i uspješan nastavak nakon preusmjeravanja.

Kontrolni popis prije puštanja u rad

• Je li za svaki slučaj prijenosa definiran jasan svrha i dopušteni tip dokumenta?
• Jesu li format, veličina, količina, zaštita lozinkom i pohrana vidljivi prije odabira?
• Provjerava li poslužitelj ekstenziju, MIME tip, potpis, strukturu i ograničenja veličine neovisno o pregledniku?
• Jesu li karantena, provjera zlonamjernog softvera, ekstrakcija i odobrenje implementirani kao odvojena stanja?
• Primaju li ljudi precizne i pristupačne poruke o napretku i pogreškama?
• Premještaju li se osjetljivi procesi u autentificirani kanal ili kanal pod nadzorom čovjeka?
• Jesu li rok brisanja, pristup, bilježenje i potvrđeno brisanje praktički testirani?
• Tretira li chatbot ekstrahirani tekst kao nepouzdan i citira li prepoznatljive dijelove?
• Sadrži li analitika samo potrebne događaje umjesto naziva datoteka ili sadržaja dokumenata?
• Je li preusmjeravanje testirano na stvarnim slučajevima pogrešaka na računalu i mobilnim uređajima?

Zaključak: Siguran prijenos počinje prije same datoteke

Dobar prijenos dokumenata čini granice vidljivima prije nego što podaci poteku. Nakon toga razdvaja tehničko prihvaćanje, sigurnosnu provjeru, kvalitetu sadržaja i stručnu odluku. Tako AI chatbot može koristiti dokumente kao koristan kontekst razgovora, a da pritom ne vjeruje preuranjeno svakom primljenom bajtu ili svakoj ekstrahiranoj uputi.

Ako želite izgraditi chatbot na web stranici i uklopiti takve procese u pouzdanu cjelokupnu arhitekturu, možete pogledati funkcionalnosti sustava ChatReact. Planirajte prijenos pritom kao kontrolirani servisni proces – s jasnim pristankom, razumljivim statusom i sigurnim putem do čovjeka.

Izvori

• OWASP Cheat Sheet Series: File Upload
• MDN: accept HTML attribute
• W3C WAI: Understanding Status Messages
• W3C WAI: Understanding Error Identification
• EUR-Lex: Uredba (EU) 2016/679