RAG-chunking pre AI chatbotov: Ako zmysluplne rozdeliť obsah

Chatbot na webovej stránke dokáže spoľahlivo odpovedať len vtedy, keď v správnom momente nájde ten správny obsah. Presne tu rozhoduje RAG-chunking: Dlhé stránky, príručky a texty nápovedy sa rozdelia na menšie jednotky, ktoré dokáže zložka vyhľadávania cielene načítať. Príliš veľké bloky obsahujú veľa vedľajších informácií. Príliš malé bloky strácajú súvislosť. Dobré rozdelenie preto nesleduje slepo len určité číslo, ale štruktúru, význam a neskoršie využitie obsahu.

Tento sprievodca je určený tímom pre web, zákaznícku podporu a obsah. Vysvetľuje, ako sémanticky rozdeliť obsah, zachovať metadáta, znížiť duplicitu a pomocou realistických vyhľadávacích otázok overiť, či zvolená stratégia funguje. Prístup je nezávislý od poskytovateľa a dá sa použiť tak pri klasickom vektorovom vyhľadávaní, ako aj pri hybridoch retrieval postupov.

Prečo RAG-chunking ovplyvňuje kvalitu odpovedí

Pri Retrieval-Augmented Generation systém najprv vyhľadá relevantné vedomostné bloky a následne ich odovzdá jazykovému modelu. Hranice chunkov (úsekov) tak určujú, čo vôbec možno nájsť spoločne a použiť ako kontext. Ak sa podmienka ceny oddelí od svojej výnimky, formálne správne vyhľadávanie môže stále poskytnúť neúplný základ. Ak naopak chunk obsahuje celú produktovú stránku s navigáciou, variantmi a pätou, rozhodujúci pasáž súťaží s veľkým množstvom šumu.

Chunking ovplyvňuje viacero dimenzií kvality naraz:

• Nájdeľnosť: Zmestí sa hľadané tvrdenie jasne do kompaktnej jednotky?
• Súvislosť: Zostávajú nadpis, vysvetlenie, obmedzenie a príklad pokope?
• Presnosť: Obsahuje výsledok čo najmenej temeticky cudzej záťaže?
• Sledovateľnosť: Dá sa výňatok priradiť k platnému zdroju, jazyku a verzii?

Microsoft popisuje pevné, variabilné a sémantické metódy a zdôrazňuje, že nadpisy ako aj iné signály rozvrhnutia možno využiť na vytvorenie zmysluplných hraníc. Aj AWS rozlišuje pevné, hierarchické a sémantické stratégie. Spoločná praktická lekcia: Technické delenie by malo sledovať obsahovú štruktúru všade tam, kde je spoľahlivo k dispozícii.

Začnite sémantickými úsekmi namiesto ľubovoľných rezov

Dobrým východiskovým bodom je existujúca štruktúra stránky. Nadpisy H2 a H3, odseky, zoznamy, otázky vo FAQ, tabuľky a jasne ohraničené upozornenia už nesú svoj význam. Sekcia o lehotách na vrátenie tovaru by sa nemala končiť uprostred vety alebo medzi pravidlom a výnimkou. Otázka vo FAQ patrí spolu so svojou odpoveďou do rovnakého chunku. Pri návode zostávajú krok postupu, predpoklad a varovanie podľa možnosti spolu.

Praktická logika hraníc

1. Najprv deľte na úrovni dokumentu, stránky a hlavných nadpisov.
2. Skontrolujte, či sa úsek zaoberá presne jednou zrozumiteľnou hlavnou témou.
3. Rozdeľujte len tie úseky, ktoré sú pre retrieval alebo kontext modelu príliš veľké.
4. Veľmi krátke fragmenty spojte s vhodným susedným úsekom.
5. Pridajte nadpis a cestu štruktúry ako kontext ku každej časti.

Pri čistom HTML alebo Markdown sa táto metóda dá dobre automatizovať. Neštruktúrované PDF, nejednotné exporty a naskenované dokumenty často vyžadujú predchádzajúce rozpoznanie rozvrhnutia alebo textu. Pri tom kontrolujte najmä tabuľky, stĺpce, hlavičky a zlomy strán: To, čo vizuálne stojí vedľa seba, sa môže pri načítaní ocitnúť v nesprávnom poradí.

Veľkosť chunku chápte ako testovaciu hodnotu, nie ako dogma

Neexistuje univerzálna ideálna veľkosť chunku. Microsoft uvádza 512 tokenov s 25-percentným prekrývaním ako možný štartovací bod pre určité scenáre, no upozorňuje, že optimálne nastavenie závisí od obsahu a modelu. AWS rovnako dokumentuje nastaviteľné veľkosti a prekrývania. Tieto hodnoty sú zmysluplné východiskové hypotézy – nie dôkaz kvality.

Krátke odpovede vo FAQ často fungujú ako samostatné jednotky. Detailné postupy vyžadujú viac kontextu. Právne alebo zmluvné texty by nemali trhať pravidlo, rozsah platnosti a výnimku od seba. Porovnania produktov môžu byť zasa zmysluplné po riadkoch alebo sekciách, ak sú priložené hlavičky stĺpcov a väzba na produkt.

Ako spoznáte príliš veľké alebo príliš malé chunky

Príliš veľký je chunk typicky vtedy, keď sa v ňom mieša viacero zámerov vyhľadávania, relevantná veta zaniká medzi navigáciou a vedľajšími informáciami alebo mnohé výsledky vracajú ten istý rozsiahly blok. Príliš malý je vtedy, keď zámená strácajú svoj odkaz, chýbajú nadpisy, podmienky sú oddelené od tvrdení alebo je potrebných viacero fragmentov na pochopenie jednoduchej otázky.

Porovnajte preto minimálne dva alebo tri varianty s rovnakým súborom otázok. Zmeňte vždy len jeden parameter, napríklad cieľovú veľkosť alebo logiku hraníc. Tak zostane jasne viditeľné, čo skutočne zlepšuje kvalitu výsledkov a podklady pre odpovede.

Prekrývanie chráni kontext – no zároveň vytvára duplicitu

Malé prekrývanie môže zabrániť tomu, aby sa rozhodujúca veta stratila priamo na hranici chunku. Je obzvlášť užitočné, ak je technické rozdelenie podľa dĺžky nevyhnutné. Príliš veľké prekrývanie má však vedľajšie účinky: Témere identické výsledky zaberajú viacero miest vo výsledkoch, zvyšujú rozsah kontextu a môžu umelo dominovať určitému tvrdeniu.

Používajte preto prekrývanie cielene. Pri úsekoch založených na štruktúre často stačí pribaliť nadpis, cestu v štruktúre a krátky prechod. Pri dlhších súvislých textoch môže byť zmysluplný malý podiel z predchádzajúceho úseku. Následne odmerajte, či rôzne relevantné zdroje zostávajú medzi top výsledkami, alebo ich vytláčajú duplikáty.

Metadáta robia chunk prevádzkovo bezpečným

Čistý text pre produktívnu bázu znalostí málokedy stačí. Každý chunk by si mal zachovať svoj pôvod a rozsah platnosti. AWS popisuje metadáta ako základ pre filtre pri dopytoch. V znalostnej báze webovej stránky sú užitočné najmä nasledujúce polia:

• kanonická URL zdroja a názov stránky,
• cesta nadpisov v rámci stránky,
• jazyk alebo locale,
• typ obsahu ako FAQ, návod, smernica alebo detail produktu,
• dátum publikovania, resp. poslednej zmeny,
• produkt, región alebo cieľová skupina, ak je to odborne relevantné,
• stav prístupu a schválenia pri neverejnom obsahu.

Vďaka tomu je možné prehľadávať napríklad len slovenské, aktuálne schválené materiály podpory. Zdroj sa okrem toho dá v odpovedi odkázať a pri neskoršej aktualizácii cielene znova spracovať. Ako systematicky zaistiť aktuálnosť, ukazuje sprievodca Ako udržiavať znalostnú bázu AI chatbota aktuálnu.

Pred indexovaním odstráňte opakujúci sa balast a duplikáty

Navigácia, oznámenia o cookies, opakujúce sa kontaktné bloky a globálne päty nepatria do každého chunku. Inak vzniknú stovky takmer identických záznamov, ktoré môžu vytlačiť samotný obsah. Pred rozdelením odstráňte opakujúce sa prvky stránok a normalizujte nepotrebné medzery, dekoratívne znaky a technické fragmenty.

Pozornosť si vyžadujú aj obsahové duplikáty. Ak je rovnaké pravidlo vrátenia tovaru formulované odlišne na stránkach nápovedy, produktov a dopravy, mal by sa určiť zodpovedný primárny zdroj. Zastarané kópie sa odstránia, presmerujú alebo sa im jednoznačne pridelí nižšia priorita. Postup chunkingu nedokáže premeniť rozporuplné zdroje na spoľahlivé vedomosti.

Uvedomelo riešte špeciálne prípady

Obsah FAQ

Ukladajte otázku a odpoveď spoločne. Pri veľmi krátkych odpovediach doplňte nadradenú tematickú oblasť. Varianty rovnakej otázky môžu pomôcť pri vyhľadávaní, nemali by sa však indexovať ako viacnásobný text odpovede.

Tabuľky a zoznamy

Riadok tabuľky bez hlavičiek stĺpcov je väčšinou nezrozumiteľný. Zopakujte alebo odkážte preto relevantné pojmy z hlavičky v chunk-u. Pri dlhých zoznamoch by si každá časť mala zachovať názov zoznamu a spoločný úvod. Po extrakcii skontrolujte, či sú hodnoty stále priradené k správnej vlastnosti.

Viacjazyčné stránky

Oddelujte obsah podľa locale a ukladajte jazyk ako metadátum. Slovenský dopyt by nemal náhodne dostať zastaraný anglický úsek len preto, že sa v ňom vyskytujú podobné pojmy. Spoločné identifikátory prekladov alebo stránok pomáhajú prepojiť varianty bez toho, aby sa zmiešali v rovnakom bloku textu.

Testy vyhľadávania vykonajte pred testovaním odpovedí

Najprv zhodnoťte, či vyhľadávanie vráti správnu pasáž. Až potom posudzujte formuláciu jazykového modelu. Malý Golden Set reálnych používateľských otázok by mal obsahovať jednoznačné otázky, synonymá, viacdielne požiadavky, hraničné prípady a otázky bez doloženej odpovede. Pre každú otázku vopred definujte, ktorý zdroj alebo úsek sa očakáva.

Skontrolujte minimálne:

• či sa očakávaný úsek objaví medzi prvými výsledkami,
• či nerelevantné alebo duplicitné výsledky nevytláčajú dôležité zdroje,
• či sa všetky potrebné podmienky a výnimky nachádzajú v dodanom kontexte,
• či zdroj a stav jeho aktuálnosti zostávajú dohľadateľné,
• či systém pri chýbajúcich vedomostiach bezpečne nevymýšľa odpoveď.

Článok Meranie kvality odpovedí AI chatbota pomocou Golden Setu a RAG testov popisuje vhodný postup kontroly. Pre viditeľné dôkazy dopĺňa sprievodca Doloženie zdrojov v odpovediach chatbota pohľad na kontrolu odkazov a neistotu.

Kontrolný zoznam pre zavedenie

1. Inventarizujte obsah: Zachyťte typy stránok, jazyky, formáty a zodpovedné zdroje.
2. Skontrolujte extrakciu: Preverte nadpisy, tabuľky a poradie čítania na reprezentatívnych príkladoch.
3. Definujte hranice: Uprednostňujte sémantické úseky a pevné veľkosti používajte len ako záložnú logiku.
4. Zachovajte kontext: Pridajte názov stránky, cestu nadpisov a potrebné prechody.
5. Naplánujte metadáta: Štruktúrovane uložte URL, locale, aktuálnosť, typ obsahu a stav schválenia.
6. Odstráňte duplicitu: Pred indexovaním vyčistite opakujúci sa balast a rozporuplné kópie.
7. Testujte varianty: Porovnajte veľkosti a prekrývanie s rovnakým Golden Setom.
8. Monitorujte prevádzku: Pravidelne vyhodnocujte chýbajúce výsledky, zastarané zdroje a spätnú väzbu používateľov.

Záver: Dobré chunky sú zrozumiteľné vedomostné jednotky

RAG-chunking nie je jednorazové technické nastavenie, ale architektúra obsahu pre strojové vyhľadávanie. Dobré chunky odpovedajú na jasne vymedzenú čiastkovú požiadavku, zachovávajú si potrebný kontext a dajú sa priradiť k platnému zdroju. Nadpisy, metadáta a kontrolované prekrývanie sú pritom rovnako dôležité ako samotná dĺžka.

Začnite s niekoľkými reprezentatívnymi typmi obsahu, merajte vyhľadávanie ešte pred štýlom odpovede a zdokumentujte každú zmenu. Ak chcete následne vybudovať AI chatbota pre webové stránky na štruktúrovanej báze znalostí, vhodný štart nájdete v prehľade funkcií ChatReact.

Zdroje

• Microsoft Learn: Chunk large documents for vector search solutions in Azure AI Search
• Microsoft Learn: Chunk and vectorize by document layout
• AWS Bedrock: How content chunking works for knowledge bases
• AWS Bedrock: Include metadata in a data source