Hallucináció (MI)
Röviden: Mi az a hallucináció (MI)?
A hallucináció az a jelenség, amikor a nyelvi modell magabiztosan, hihetően megfogalmazott, de valótlan vagy forrás nélküli állítást közöl.
Magyarázat
A nyelvi modell valószínű szövegfolytatást állít elő, nem tényeket keres ki. Ha nincs megfelelő információja, akkor is előállhat gördülékeny válasszal, akár kitalált hivatkozással, számmal vagy névvel.
A kockázat csökkenthető: megbízható források átadásával (RAG), a források megjelenítésével, annak engedélyezésével, hogy a modell azt mondja: „nem tudom”, valamint emberi ellenőrzéssel ott, ahol a tévedésnek tétje van.
Példa: egy asszisztens nem létező jogszabályhelyre hivatkozik; ha a rendszer csak a betöltött dokumentumokból válaszolhat, és megmutatja a forrást, az ilyen hiba ritkább és könnyebben észrevehető.