Tegyük fel, hogy valaki egy AI-asszisztenstől jogi háttéranyagot kér egy szerződéses kérdéshez, és a válaszban ott áll egy pontos paragrafusszám, egy bírósági döntés ügyszáma és egy szakcikk címe a szerzőkkel együtt. A szöveg gördülékeny, a hivatkozások formailag hibátlanok. Ellenőrzéskor kiderülhet, hogy a paragrafus nem létezik, a döntés más ügyről szól, a szakcikket pedig soha senki nem írta meg.
Ezt a jelenséget nevezik hallucinációnak: a nyelvi modell olyan állítást fogalmaz meg, amely nem igaz, vagy semmilyen forrásból nem igazolható, és ezt ugyanolyan magabiztos hangon teszi, mint amikor igazat mond. Az amerikai szabványügyi intézet, a NIST a generatív AI kockázati profiljában (NIST AI 600-1, 2024) a „confabulation” szót használja rá, és a generatív rendszerek egyik fő kockázataként tárgyalja.
Hogyan állít elő szöveget egy nyelvi modell
A mai nagy nyelvi modellek többsége a 2017-ben leírt transformer-architektúrára épül (Vaswani és szerzőtársai, „Attention Is All You Need”). A modell a szöveget tokenekre bontja, ezek szavak vagy szódarabok, és egyetlen feladatot végez újra és újra: a már meglévő szöveg alapján megbecsüli, melyik token következzen. Minden lépésnél valószínűségi eloszlást számol a lehetséges folytatásokra, ebből választ egyet, hozzáfűzi a szöveghez, és kezdi elölről.
Ezt a képességet a modell hatalmas mennyiségű szövegen tanulja meg. A tanítás során azt sajátítja el, milyen szavak, kifejezések és szerkezetek szoktak együtt előfordulni; külön tényadatbázist nem épít. Ami a tanítóanyagban sokszor és egybehangzóan szerepel, például egy főváros neve vagy egy közismert képlet, azt a modell nagy valószínűséggel helyesen adja vissza. Ami ritka, ellentmondásos vagy a tanítás lezárása után történt, ott a modell a mintázatokból rak össze egy hihető folytatást.
Mintavétel és hőmérséklet
A legtöbb alkalmazás nem mindig a legvalószínűbb tokent választja, hanem a valószínűségek szerint sorsol. Ezt a hőmérséklet nevű paraméter szabályozza: alacsony értéknél a válasz kiszámíthatóbb, magasabbnál változatosabb. Ezért ad ugyanarra a kérdésre két futás eltérő választ. A hőmérséklet csökkentése a szóhasználatot egységesebbé teszi, de egy hiányzó vagy hibás tudást nem pótol: ha a legvalószínűbb folytatás maga is téves, a modell azt fogja minden alkalommal megismételni.
A modellnek nincs külön lépése, amelyben a mondatot a valósággal összeveti. A „Budapest Magyarország fővárosa” és egy kitalált paragrafusszám ugyanazzal az eljárással születik, és a kész szövegen a kettő nem különböztethető meg.
Miért nem jelzi, ha nem tud valamit
Hogy a modell ritkán mondja ki, hogy „ezt nem tudom”, annak több oka van.
Az első a tanítás célja. Az alapmodellt arra tanítják, hogy folytassa a szöveget, és egy kérdés után a tanítóanyagban jellemzően válasz következik, nem a tudás hiányának beismerése. A modell ezért a válasz formáját akkor is előállítja, ha a tartalmához nincs elég támpontja.
A második az értékelés módja. Egy 2025-ös kutatási tanulmány („Why Language Models Hallucinate”) amellett érvel, hogy a modellek fejlesztését vezérlő tesztek többsége úgy pontoz, mint egy feleletválasztós vizsga: a helyes válasz pontot ér, a „nem tudom” és a hibás válasz egyaránt nullát. Ilyen pontozás mellett a találgatás jobb eredményt hoz, mint a tartózkodás, így a fejlesztés során a magabiztos válasz kap előnyt.
A harmadik, hogy a modell belső bizonytalansága nem jut el a felhasználóig. A valószínűségek tokenenként léteznek, a felület viszont kész mondatokat mutat. Egy évszám, amelynél a modell két-három lehetőség között ingadozott, a képernyőn ugyanolyan határozottan jelenik meg, mint egy biztos adat. A modell szóbeli óvatoskodása („úgy tudom”, „valószínűleg”) sem megbízható jelzés, mert ezek is csak tanult kifejezések, és nem feltétlenül ott jelennek meg, ahol a tényleges bizonytalanság van.
Végül a modell tudása egy időpontban lezárul. Ami a tanítóadatok gyűjtése után történt, egy új jogszabály-módosítás, egy friss sebezhetőség vagy egy megváltozott árfolyam, arról a modell önmagában nem tud. Ha mégis megkérdezik, a korábbi mintákból állít össze egy választ, és a válasz formája semmiben nem különbözik a régi, helyes adatokétól.
Tipikus formák a hivatkozástól a technikai részletig
A hallucináció ott a legveszélyesebb, ahol a szöveg formája hitelességet sugall.
Kitalált hivatkozás
A modell jól ismeri a szakirodalmi hivatkozások szerkezetét: szerzők, cím, folyóirat, évszám, oldalszám, DOI-azonosító. Ezt a szerkezetet akkor is kitölti, ha a konkrét forrás nem létezik. Gyakori, hogy a szerzők valódi kutatók a témában, a cím jellegzetesen hangzik, a folyóirat is létezik, a cikk viszont nem. Ugyanez előfordul webcímekkel: a cím egy valódi tartományra mutat, de az oldal soha nem létezett.
Kitalált vagy elcsúszott szám
Számoknál a hiba gyakran apró: egy százalékérték, egy határidő napokban, egy küszöbérték vagy egy pénzügyi adat, amely nagyságrendre stimmel, de nem pontos. A modell gyakran hozzá is tesz egy forrást („egy 2023-as felmérés szerint”), amely ellenőrizhetetlen. A számításoknál is óvatosnak kell lenni: a modell a számolás lépéseit is szövegként állítja elő, ezért egy hosszabb művelet közben elronthat egy részeredményt, és a végeredményt mégis határozottan közli.
Nem létező vagy rossz jogszabályhely
A jogszabályhelyek formája szabályos és jól tanulható: törvény, paragrafus, bekezdés, pont. A modell ezért könnyen ír olyan hivatkozást, amely formailag helyes, de a megjelölt helyen más szabály áll, vagy a hely nem létezik. A jogszabályok módosulnak, így egy régebbi szövegállapot is megjelenhet hatályosként. Bírósági határozatoknál ugyanez a minta: hihető ügyszám, valószerű összefoglaló, és egy döntés, amelyet senki nem hozott meg.
Technikai részletek
IT-feladatoknál a modell kitalálhat konfigurációs paramétert, parancssori kapcsolót, API-végpontot vagy szoftvercsomagot. A nem létező csomagnév egy támadónak is lehetőséget ad, erről az OWASP LLM-kockázati listájáról szóló cikk ír. Ugyanígy előfordulnak kitalált vagy rossz termékhez rendelt CVE-azonosítók.
A szakirodalom két nagy csoportot különböztet meg (Ji és szerzőtársai, ACM Computing Surveys, 2023). Belső hallucinációról beszélnek, ha a válasz ellentmond a modellnek megadott forrásszövegnek, például egy összefoglaló mást állít, mint az összefoglalt dokumentum. A külső hallucináció olyan állítás, amely a forrásból sem meg nem erősíthető, sem meg nem cáfolható, a modell a saját mintázataiból tette hozzá. A gyakorlatban mindkettő előfordul, és egy összefoglalónál az első, egy szabad kérdésre adott válasznál inkább a második a jellemző.
Ahol a legnagyobb a kár: jog, pénzügy, biztonság, egészségügy
Egy hibás e-mail-megfogalmazás vagy egy rossz szinonima ritkán okoz gondot, mert az olvasó azonnal észreveszi. A kár ott nagy, ahol a hibát nehéz észrevenni, és a válaszra döntés épül.
| Terület | Tipikus hiba | Lehetséges következmény |
|---|---|---|
| Jog | Nem létező jogszabályhely vagy bírósági döntés, hatályát vesztett szövegállapot | Hibás beadvány, rossz szerződéses feltétel, elmulasztott határidő |
| Pénzügy | Elcsúszott szám, rossz adókulcs vagy határérték, hibás részszámítás | Téves kalkuláció, hibás bevallás vagy jelentés |
| IT-biztonság | Kitalált konfigurációs beállítás, nem létező csomag, rossz CVE-adat | Hamis biztonságérzet, nyitva maradt rés, kártékony kód a rendszerben |
| Egészségügy | Pontatlan adagolás, nem létező tanulmány, hiányos ellenjavallat | Közvetlen egészségügyi kockázat |
A jogi területen a hallucináció különösen jól dokumentált. A Stanford Egyetem kutatói 2024-ben kifejezetten jogi kutatásra fejlesztett, forrásokra támaszkodó AI-eszközöket vizsgáltak, és azt találták, hogy ezek a feltett kérdések 17–33%-ában adtak hallucinált választ (Magesh és szerzőtársai, „Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools”). A vizsgált eszközök jobban teljesítettek egy általános célú nyelvi modellnél, de a hibát nem szüntették meg.
Az IT-biztonságban a veszély kétirányú. Egy hibás tanács a védelmet gyengíti: ha a modell egy beállításról azt állítja, hogy kikapcsol egy támadható funkciót, és ez nem igaz, a rendszer védtelen marad, a felelős pedig azt hiszi, hogy lezárta a kérdést. Egy incidens közben a gyorsan kért magyarázat egy naplóbejegyzésről vagy egy fájlról is lehet magabiztosan téves, és rossz irányba viheti a vizsgálatot.
Az egészségügyről az Egészségügyi Világszervezet (WHO) 2024-ben külön útmutatót adott ki a nagy multimodális modellekről, és ebben a pontatlan, hiányos vagy hamis kimenetet a betegbiztonság egyik fő kockázataként írja le. Itt a hibás válasz közvetlenül emberi egészségben okozhat kárt, ezért a modell kimenete legfeljebb kiindulópont lehet egy szakember döntéséhez.
A négy területben közös, hogy a hibás állítás ellenőrzése szakértelmet igényel. Minél kevésbé ért valaki egy témához, annál nehezebben veszi észre a hallucinációt, és annál inkább hajlik arra, hogy a választ elfogadja.
RAG és forrásmegjelölés: mennyit segít
A hallucináció csökkentésének legelterjedtebb módszere a RAG (retrieval-augmented generation), amelyet Lewis és szerzőtársai írtak le 2020-ban. A rendszer a kérdés alapján először releváns dokumentumrészleteket keres egy megadott gyűjteményben, például a cég belső szabályzataiban vagy egy jogszabály-adatbázisban, majd ezeket a részleteket a kérdéssel együtt adja át a modellnek, és arra utasítja, hogy ezekből válaszoljon. A válasz mellé a felhasznált forrásokat is meg tudja jelölni.
A modellnek így nem kell a tanult mintázatokra hagyatkoznia, a friss és a cégspecifikus információ is elérhetővé válik, a forrásmegjelölés pedig lehetővé teszi, hogy a felhasználó egy kattintással megnézze, honnan jön az állítás. A RAG jogosultsági kérdéseiről a RAG-rendszerek jogosultságkezeléséről szóló cikk ír részletesebben.
A hallucinációt viszont a RAG sem szünteti meg, mert a hibának több pontja marad:
- A keresés rossz részletet talál. Ha a kérdésre válaszoló dokumentumrész nincs a találatok között, a modell a kapott, csak részben releváns szövegből vagy a saját tudásából építi fel a választ.
- A forrás maga elavult vagy hibás. A RAG csak annyira megbízható, mint a gyűjtemény: egy régi szabályzatverzió vagy egy hibás belső leírás ugyanúgy válaszba kerül.
- A modell félreolvassa a forrást. Egy kivételt szabályként, egy feltételes mondatot általános érvényűként foglal össze, vagy két forrás adatait összemossa.
- A forrásmegjelölés maga is pontatlan lehet. A hivatkozott dokumentum létezik, de nem azt állítja, amit a válasz neki tulajdonít, vagy az állítás csak részben szerepel benne.
A felületen látott hivatkozás tehát annyit jelent, hogy a rendszer megadta, hol lehet utánanézni. Hogy a forrás tényleg alátámasztja-e az állítást, az csak akkor derül ki, ha valaki meg is nyitja.
Ellenőrzési szokások a munkában
A hallucinációt a felhasználó nem tudja kikapcsolni, de a munkafolyamatba építhető néhány szokás, amely a hibák nagy részét elkapja, mielőtt kárt okoznának.
A feladat kiválasztása
A nyelvi modell jól használható olyan feladatokra, ahol az eredményt a felhasználó maga is meg tudja ítélni: egy saját szöveg átfogalmazása, egy hosszú dokumentum vázlatos összefoglalása, ötletgyűjtés, egy e-mail tervezete. Kockázatosabb ott, ahol a modell szolgáltatja a tényt, amelyet a felhasználó nem ismer: egy jogszabályhely, egy adat, egy hivatkozás. Ilyenkor a válasz legfeljebb arra jó, hogy megmutassa, hol érdemes keresni.
Konkrét ellenőrzési lépések
- Minden hivatkozást az eredeti forrásban kell megnézni: a szakcikket a kiadó oldalán vagy egy tudományos adatbázisban, a jogszabályhelyet a hatályos szövegben, például a Nemzeti Jogszabálytárban, a CVE-azonosítót a hivatalos sebezhetőségi adatbázisban.
- A számokat a forrásukig kell követni. Ha a válasz nem nevez meg ellenőrizhető forrást, a szám nem használható. A modell által végzett számítást érdemes újraszámolni vagy táblázatkezelőben ellenőrizni.
- Technikai javaslatot, parancsot vagy beállítást először tesztkörnyezetben kell kipróbálni, a csomagneveket és a parancssori kapcsolókat a hivatalos dokumentációban kell megnézni.
- A RAG-alapú válasznál a megjelölt forrást meg kell nyitni, és meg kell nézni, hogy tényleg azt állítja-e, amit a válasz neki tulajdonít.
- A modell önellenőrzése („biztos vagy benne?”) nem helyettesíti a külső ellenőrzést. A modell ilyenkor egy korábbi helyes választ is visszavonhat, vagy egy hibásat is megerősíthet.
Felelősség és dokumentálás
Egy munkahelyi dokumentumért vagy döntésért az az ember felel, aki kiadja, akkor is, ha a szöveg egy része gépi. Érdemes szervezeti szinten is rögzíteni, mely feladatokhoz használható AI-eszköz, melyeknél kötelező a szakértői átnézés, és hogy a külső félnek küldött anyagokban jelölni kell-e a gépi közreműködést. Ha egy hallucináció kiderül, érdemes a csapaton belül megosztani, milyen kérdésre és milyen formában jött a hibás válasz: így a többiek is megtanulják, melyik feladattípusnál kell fokozottan figyelni.
Kapcsolódó szolgáltatás: Biztonsági és AI-használati tréning →
