Nahrávanie dokumentov do AI chatbota: Kontrola súborov, ochrana údajov a handoff

Ikonka pre nahrávanie v okne chatu vyzerá jednoducho: vybrať súbor, položiť otázku, získať odpoveď. Technicky a redakčne tu však začína samostatný proces. Dokument môže obsahovať osobné údaje, aktívny obsah, manipulované štruktúry súborov, nečitateľné skeny alebo inštrukcie, ktoré by jazykový model nemal považovať za dôveryhodné fakty. Preto nahrávanie dokumentov do AI chatbota vyžaduje jasné hranice pred prenosom, viaceré kontrolné stanovištia po ňom a zrozumiteľnú únikovú cestu, ak niečo nefunguje.

Nasledujúci sprievodca je určený pre tím pre web, podporu a produkt. Neopisuje funkciu jedného konkrétneho výrobcu, ale udržateľný cieľový stav: ľudia pred nahrávaním vedia, čo je povolené; systém oddeľuje prijatie, bezpečnostnú kontrolu a vyhodnotenie obsahu; chyby zostávajú zrozumiteľné; citlivé prípady sa kontrolovane presúvajú k človeku.

Nahrávanie musí mať jasný účel

Nezačínajte s čo najdlhším zoznamom podporovaných formátov, ale s niekoľkými konkrétnymi úlohami. Má chatbot vysvetliť údaje z faktúry, zhrnúť technické dokumenty alebo doplniť požiadavku na podporu snímkou obrazovky? Pre každú úlohu musí byť jasné, aký obsah je potrebný, aké rozhodnutie môže systém urobiť a kedy je nevyhnutná ľudská kontrola.

Tento viazaný účel zabraňuje tomu, aby sa nahrávanie stalo všeobecným úložiskom dokumentov. Pomáha tiež pri návrhu: doklad k reklamácii vyžaduje iné upozornenia a pravidlá uchovávania než verejný opis produktu pre bázu znalostí. Existujúci sprievodca na tréning s FAQ, dokumentmi a obsahom webu sa zaoberá kurátorovanou bázou znalostí; tu ide naopak o súbory, ktoré návštevníci predkladajú počas prebiehajúcej konverzácie.

Zviditeľnite povolené typy súborov, veľkosti a množstvá

Ľudia by mali vidieť pravidlá skôr, než sa otvorí dialóg na výber súboru: povolené formáty, maximálnu veľkosť, maximálny počet a či sú akceptované súbory chránené heslom alebo komprimované súbory. Použite whitelist (pozitívny zoznam), ktorý povoľuje iba formáty nevyhnutné pre podnikanie. „Všetky dokumenty“ nie je užitočná požiadavka.

HTML atribút accept zlepšuje výber v prehliadači, ale nepredstavuje bezpečnostnú kontrolu. MDN výslovne upozorňuje, že používatelia môžu obmedzenie výberu často obísť, a preto sa kontrola musí vykonávať na strane servera. Rozhranie teda môže ponúknuť vhodné prípony súborov, zatiaľ čo server nezávisle od toho posudzuje príponu, nahlásený typ MIME, skutočný podpis a štruktúru.

Nepreberajte názvy súborov a metaúdaje bez kontroly

Pôvodný názov môže obsahovať špeciálne znaky, časti ciest, veľmi dlhé reťazce znakov alebo citlivé informácie. Pre interné ukladanie by mal systém prideliť vlastný náhodný identifikátor a so zobrazovaným názvom zaobchádzať len ako s vyčistenou informáciou pre zobrazenie. Aj vstavané metaúdaje môžu obsahovať mená, informácie o zariadení alebo lokálne údaje. Či sú tieto údaje potrebné, musí vyplynúť z účelu.

Príručka OWASP File Upload Cheat Sheet okrem iného odporúča pozitívny zoznam prípon, nezávislú kontrolu typu, bezpečné názvy súborov, limity veľkosti, ukladanie mimo webrootu a ochranu pred neoprávneným nahrávaním. Žiadna samostatná kontrola sama o sebe nestačí; zmysel má reťazec malých, zrozumiteľných kontrol.

Oddeľte prijatie, bezpečnostnú kontrolu a vyhodnotenie

Prijatý súbor by nemal byť okamžite k dispozícii v chate. Robustný proces má najmenej tri stavy: prijatý, v procese kontroly a schválený na vyhodnotenie. Počas kontroly sa súbor nachádza v izolovanej oblasti. Až po úspešnej kontrole získa extrakcia prístup. Vyhnite sa priamym verejným URL adresám alebo predvídateľným cestám uloženia.

Kontrola na škodlivý kód a kontrola štruktúry

V závislosti od rizika patrí do procesu antivírusový sken alebo sandbox, kontrola podpisu a pri vhodných súboroch Office alebo PDF aj Content Disarm and Reconstruction. Archívy, zložitejšie vorezané súbory a neobvykle silne komprimovaný obsah vyžadujú vlastné limity, pretože môžu viazať zdroje alebo útočiť na parser. Skenery a knižnice musia byť aktuálne a nakonfigurované tak, aby časový limit (timeout) alebo chyba parsera neboli považované za schválenie.

Extrakcia textu je samostatný stav kvality

Bezpečný súbor môže byť napriek tomu nepoužiteľný: krivý sken, fotografia s odleskmi, rukou písaná poznámka alebo PDF bez extrahovateľnej textovej vrstvy. Systém by preto mal samostatne hlásiť, či bol súbor bezpečne prijatý a či bol jeho obsah dostatočne prečítaný. Nízka kvalita extrakcie nesmie byť maskovaná vymyslenými dopĺňaniami.

Formulujte chyby presne a s možnosťou riešenia

„Nahrávanie zlyhalo“ necháva otvorenú otázku, čo robiť ďalej. Lepšie sú rozlíšiteľné hlásenia: formát nie je podporovaný, súbor je príliš veľký, zistená ochrana heslom, bezpečnostná kontrola neprešla, text nie je čitateľný alebo spracovanie je dočasne nedostupné. Správa by nemala prezrádzať interné detaily skenera alebo infraštruktúry, ale mala by ponúknuť bezpečnú opravu.

WCAG 2.2 vyžaduje pri automaticky zistených chybách vstupu textovú identifikáciu a opis. Vysvetlenie k Kritériu úspešnosti 3.3.1 Error Identification zdôrazňuje, že iba opätovne zobrazený formulár nestačí. Pre chat to znamená: uviesť názov súboru resp. pozíciu nahrávania, vysvetliť chybu v textovej forme a ponúknuť konkrétnu možnosť nahradenia, odstránenia alebo odovzdania.

Oznámte pokrok bezbariérovo

Pri väčších súboroch vznikajú čakacie doby. Samotný vizuálny indikátor nepostačuje pre všetkých ľudí. Zmeny stavu ako „Prebieha nahrávanie“, „Bezpečnostná kontrola“, „Čítanie obsahu“ a „Pripravené“ by mali byť programovo rozpoznateľné bez toho, aby bez vyzvania presúvali zamierenie klávesnice (focus). Vysvetlenie W3C k WCAG 4.1.3 Status Messages výslovne uvádza pokrok, úspech a chyby ako relevantné stavové informácie.

Akcia na zrušenie musí zostávať dostupná. Po zrušení by malo byť viditeľné, či sa prenos skutočne zastavil a či sa prijatá kópia zahodila. Na mobilných zariadeniach je potrebné názov súboru, pokrok a tlačidlo na odstránenie usporiadať tak, aby neprekrývali vstup ani dôležitú navigáciu.

Vysvetlite ochranu osobných údajov pred nahrávaním

Upozornenie musí pred prenosom údajov odpovedať na otázky: Na čo sa súbor použije? Kto ho môže vidieť? Ako dlho zostane uložený? Použije sa jeho obsah na zlepšenie modelu? Ako je možné súbor odstrániť? Všeobecné zásady ochrany osobných údajov sú naďalej dôležité, ale nenahrádzajú kontextové upozornenie priamo pri nahrávaní.

Článok 5 Všeobecného nariadenia o ochrane údajov (GDPR) obsahuje okrem iného obmedzenie účelu, minimalizáciu údajov a obmedzenie uchovávania. V praxi to znamená: vyžadovať len nevyhnutné dokumenty, vyhnúť sa nepotrebným stránkam alebo metaúdajom, stanoviť odôvodnenú lehotu na vymazanie a technicky overiť skutočné vymazanie. Toto nie je individuálne právne poradenstvo; konkrétne povinnosti sa musia posúdiť pre dané nasadenie.

Oddeľte verejné chaty a chránené procesy

Verejný chat na webovej stránke nie je automaticky správnym miestom pre zmluvy, doklady totožnosti, zdravotné údaje alebo bankové výpisy. Pri citlivých procesoch by mala konverzácia prejsť do autentifikovanej zóny alebo zavedeného bezpečného kanála. Článok verejný AI chatbot vs. zákaznícky portál ukazuje, ako oddeliť identitu a prístup k údajom.

Aj v prihlásenej zóne platí princíp minimálnych privilégií. Pracovník podpory môže potrebovať náhľad do dokladu, ale nie automaticky trvalý prístup ku všetkým nahratým dokumentom daného účtu. Prístupy, sťahovania a vymazania by mali byť dohľadateľne zaznamenávané v logoch bez toho, aby sa obsah dokumentu zbytočne kopíroval do analytických udalostí.

Obsah dokumentu zostáva nedôveryhodný

Schválený súbor je technicky spracovaný, ale z hľadiska obsahu stále nie je autoritatívnym zdrojom. Dokumenty môžu byť zastarané, rozporuplné alebo úmyselne manipulované. Môžu tiež obsahovať inštrukcie určené na to, aby prinútili model k úniku údajov alebo obídeniu pravidiel. S extrahovaným textom preto zaobchádzajte ako s nedôveryhodným obsahom (untrusted content), oddeľte ho od systémových pravidiel a obmedzte nástroje a prístup k údajom.

Sprievodca k Prompt Injection pri webových chatbotoch vysvetľuje túto hranicu pre RAG a nástroje. Pri nahrávaní platí navyše: odpovede by sa mali odvolávať na rozpoznateľné miesta v dokumente, pomenovať neistotu a pri kritických rozhodnutiach nedopĺňať chýbajúce údaje.

Human Handoff s malým balíkom kontextu

Odovzdanie človeku je potrebné, ak bezpečnostná kontrola opakovane zlyhá, extrakcia zostáva nespoľahlivá, identita alebo oprávnenie nie sú jasné, alebo odborné rozhodnutie leží mimo možností chatbota. Odovzdávajú sa len tie informácie, ktoré človek potrebuje na pokračovanie: požiadavka, stav nahrávania, bezpečný odkaz na dokument, konkrétna chybová správa, už potvrdené údaje a požadovaný ďalší krok.

Súbor by sa nemal dodatočne odosielať nechráneným e-mailom len preto, že ho chatbot nedokázal prečítať. Plánovaný proces Human Handoff zachováva kontext, zodpovednosť a očakávania bez zbytočného rozmnožovania citlivého obsahu.

Merajte pomocou udalostí, nie pomocou obsahu dokumentov

Na zlepšovanie produktu často postačujú štruktúrované udalosti: spustený výber, zrušené nahrávanie, zamietnutý typ, dosiahnutý limit veľkosti, úspešná bezpečnostná kontrola, nedostatočná extrakcia, zvolené odovzdanie a potvrdené vymazanie. Názvy súborov, extrahovaný text a osobné údaje nepatria automaticky do analytiky ani do chybových logov.

Vyhodnocujte ukazovatele úspešnosti a ochrany spoločne. Vysoká miera nahrávania je bezcenná, ak mnohí ľudia nerozumejú, aký súbor sa očakáva, alebo ak citlivé dokumenty končia vo verejnom chate. Dôležité sú preto aj miera opráv, opustenie po upozornení na ochranu údajov, podiel nečitateľných súborov, čas do zrozumiteľného chybového hlásenia a úspešné pokračovanie po odovzdaní (handoff).

Kontrolný zoznam pred spustením (Go-live)

• Je pre každý prípad nahrávania definovaný jasný účel a povolený typ dokumentu?
• Sú formát, veľkosť, počet, ochrana heslom a doba uchovávania viditeľné pred výberom?
• Kontroluje server príponu, typ MIME, podpis, štruktúru a limity veľkosti nezávisle od prehliadača?
• Sú karanténa, kontrola na škodlivý kód, extrakcia a schválenie implementované ako oddelené stavy?
• Dostávajú ľudia presné, bezbariérové hlásenia o pokroku a chybách?
• Presúvajú sa citlivé procesy do autentifikovaného alebo človekom spravovaného kanála?
• Sú lehota na vymazanie, prístup, protokolovanie a potvrdené vymazanie prakticky otestované?
• Zaobchádza chatbot s extrahovaným textom ako s nedôveryhodným a cituje overiteľné miesta?
• Obsahuje analytika iba nevyhnutné udalosti namiesto názvov súborov alebo obsahu dokumentov?
• Je handoff otestovaný s reálnymi chybovými prípadmi na počítači aj na mobilnom zariadení?

Záver: Bezpečné nahrávanie začína ešte pred súborom

Dobré nahrávanie dokumentov zviditeľňuje hranice skôr, než začnú prúdiť dáta. Potom oddeľuje technické prijatie, bezpečnostnú kontrolu, kvalitu obsahu a odborné rozhodnutie. AI chatbot tak môže použiť dokumenty ako užitočný kontext konverzácie bez toho, aby predčasne dôveroval každému prijatému bajtu alebo extrahovanej inštrukcii.

Ak chcete vytvoriť webového chatbota a začleniť takéto procesy do spoľahlivej celkovej architektúry, môžete sa pozrieť na rozsah funkcií ChatReact. Plánujte pritom nahrávanie ako kontrolovaný servisný proces – s jasným súhlasom, zrozumiteľným stavom a bezpečnou cestou k človeku.

Zdroje

• OWASP Cheat Sheet Series: File Upload
• MDN: accept HTML attribute
• W3C WAI: Understanding Status Messages
• W3C WAI: Understanding Error Identification
• EUR-Lex: Nariadenie (EÚ) 2016/679