RAG 2026: öt buktató, ami a belső tudásbázist megbénítja

A RAG, vagyis retrieval-augmented generation, nem gondolkodik: a felhasználói kérdéshez a rendszer először vektorindexből — a dokumentumok szemantikus lenyomatát tartalmazó adatbázisból — húz be relevánsnak vélt bekezdéseket, majd ezeket a szövegrészleteket adja a nyelvi modellnek kontextusként. A modell ezután szöveget generál, nem igazságot állapít meg: a válasz akkor helyes, ha a visszakeresett dokumentumrészlet ténylegesen tartalmazza az állítást.

Itt jön a csapda. A modell a nyelvtani valószínűséget követi, nem a tényhitelességet. Ha a retrieval-réteg kihagy egy kulcsfontosságú bekezdést, vagy a vektorindexben szinonimák miatt más dokumentum kerül előtérbe, a modell magabiztosan kiegészíti a hézagokat — ez a hallucináció mechanizmusa. A 17–32 százalékos arány nem a modell hibája, hanem a retrieval-rétegé: a nyelvi modell csak azt tudja visszaadni, amit a kereső megtalál.

So what: a RAG-bevezetés költségvetésének legalább 40 százalékát a retrieval-rétegre és a dokumentum-életciklusra kell fordítani, nem a modelllicencre. Ellenkező esetben a magyar KKV egy drága, de megbízhatatlan belső chatbotot üzemeltet.

A buktatók sorrendje a tapasztalatok szerinti gyakoriság: 1. elavult vektorindex, 2. chunking-határ, 3. jogosultsági szivárgás, 4. idézet nélküli válasz, 5. felügyelet nélküli frissítés. Mindegyik a retrieval-rétegben gyökerezik, és mindegyik a hallucináció táptalaja.

Az elavult index a leggyakoribb: ha egy szerződésmódosítás után a vektorindexet nem frissítik 90–180 napon belül, a modell a régi verzióra hivatkozik. A chunking-határ akkor jön létre, amikor egy bekezdés a chunking — vagyis a dokumentumok kisebb, kereshető blokkokra vágása — során két részre szakad, és a releváns mondat egyik fele a másik blokkba kerül. A jogosultsági szivárgás: a retrieval nem veszi figyelembe, hogy a kérdező mely dokumentumokra jogosult, így a modell olyan anyagból is idézhet, amelyet a felhasználó nem láthatna.

Az idézet nélküli válasz a felhasználó bizalmát töri le: ha a rendszer nem mondja meg, melyik dokumentumból vette az állítást, a felhasználó nem tudja ellenőrizni. A felügyelet nélküli frissítés pedig az, amikor a dokumentumokat emberi jóváhagyás nélkül töltik vissza az indexbe — ez a hallucináció arányát 70 százalék fölé emeli.

Az (EU) 2024/1689 rendelet, közismertebb nevén az EU AI Act, 2026. augusztus 2-től alkalmazza a magas kockázatú rendszerekre vonatkozó előírásokat. A belső tudásbázisra épülő AI-asszisztens akkor esik magas kockázatú kategóriába, ha a kimenete jogi hatású döntéshez vezet — például szerződéses záradék értelmezéséhez, munkajogi besoroláshoz vagy adózási minősítéshez.

A rendelet 14. cikke kimondja: a magas kockázatú rendszereknek emberi felügyeletet kell biztosítaniuk, amely lehetővé teszi a beavatkozást a működés közben. Ez nem formalitás: a magyarországi szállítók 2025-ös pitch-anyagaiban a felügyeletet gyakran egyetlen checkbox-sá redukálják, miközben a valóságban a retrieval-réteg idézetellenőrzési mechanizmust és a kimenetek naplózását igényli.

So what: a 2026-os beszerzésnél a szerződésben rögzíteni kell, hogy a szállító biztosítja az idézet-szintű forrásmegjelölést, a jogosultsági szűrést és a felülvizsgálati naplót. Ellenkező esetben a magyar KKV az AI Act 99. cikke szerinti közigazgatási bírsággal szembesülhet, amely magánszemélyeknél 7,5 millió euróig, vállalatoknál a globális árbevétel 1,5 százalékáig terjedhet.

A szállítói demók szinte mindig válogatott kérdésekkel dolgoznak, ahol a retrieval könnyen megtalálja a pontos bekezdést. A valós üzemeltetésben a kérdések zajosak: elgépelések, szinonimák, hiányos kontextus. A hallucináció arányát ezért nem a demóban, hanem arany kérdéscsomaggal kell mérni — ez egy hitelesített, ember által lektorált kérdés–válasz–forrás hármas, amelyet a rendszer élesítése előtt és után is futtatni kell.

A méréshez három mutatót érdemes bevezetni: 1. pontosság (hány válasz tartalmaz tényszerű állítást), 2. visszahívás (hány szükséges forrásdokumentumot idéz vissza a rendszer), 3. hűség (mennyire követi a válasz szó szerint a forrást). A 17–32 százalékos iparági tartomány e három mutató kombinációjából jön, és csak arany kérdéscsomaggal reprodukálható.

So what: a szerződéskötés előtt kérje el a szállítótól a saját arany kérdéscsomagját és annak eredményeit. Ha nincs ilyen, a szállító még nem üzemeltetett éles RAG-rendszert — ez 2026-ban a magyar KKV-piacon kizáró ok.

A RAG-rendszer bevezetésének láthatatlan költsége a dokumentum-életciklus: a feltöltés, a chunking, az indexelés, a frissítés és a kivonás. Egy 250 fős KKV-nál ez havi 40–80 óra mérnökkapacitást jelent, amelyet a legtöbb beszerzési kalkuláció nem tartalmaz. Ha a KKV ezt a kapacitást nem teremti elő, a rendszer 90–180 napon belül elavul, és a hallucináció visszatér.

A megoldás nem a több mérnök, hanem a folyamat. A dokumentumokhoz tulajdonost kell rendelni, aki a frissítést jóváhagyja; a chunking-méretet domain-specifikusan kell megválasztani (jogi szövegnél nagyobb, tudásbázis-cikknél kisebb); az újraindexelést ütemezni kell, és a kivont dokumentumokat törölni kell az indexből — különben a régi és az új verzió együtt idézhető.

So what: a RAG-bevezetés költségvetésének tartalmaznia kell egy DOC-OPS sort, amely a dokumentum-életciklus éves költségét fedezi. A modelllicenc ennek csak 40–60 százaléka; a fennmaradó rész az üzemeltetés és a felügyelet.

A magyar KKV 2026-ban öt kérdéssel szűrheti ki a nem-életképes szállítót: 1. Milyen arany kérdéscsomagon mérték a hallucinációt? 2. Ki felel a vektorindex frissítéséért? 3. Hogyan szűrik a jogosultságot a retrievalben? 4. Naplózzák-e a kimeneteket az AI Act 12. cikke szerint? 5. Mi a kiléptetési terv, ha a szállító megszűnik? Minden igen válasz mellé csatolni kell a technikai dokumentációt.

So what: a döntés nem a modellválasztás, hanem a retrievel-üzemeltethetőség kérdése. A magyar KKV 2026-ban akkor jár jól, ha a RAG-rendszert nem demóként, hanem ellenőrzött üzemként kezeli — ez a különbség a 17 és a 70 százalékos hallucináció között.