Halucinácia je termín pre situáciu, keď AI model vygeneruje informáciu, ktorá znie presvedčivo a gramaticky správne — ale jednoducho nie je pravdivá. Model si „domyslí" fakt, citáciu, dátum alebo meno, ktoré neexistuje.
Prečo sa to deje? LLM modely generujú text štatisticky — predpovedajú, ktoré slovo pravdepodobne nasleduje po predchádzajúcom. Niekedy táto štatistická logika produkuje gramaticky korektné, ale fakticky nesprávne tvrdenia.
Príklady: model uvádza citáciu z článku, ktorý neexistuje; tvrdí, že zákon platí od roku X, keď platí od roku Y; opisuje produkt s funkciami, ktoré nemá.
Ako s tým pracovať? Nedávajte AI agentom úlohy, kde by si fakty museli vymýšľať — napájajte ich na skutočné zdroje (RAG). Pre kritické rozhodnutia vždy zahrňte ľudskú kontrolu. Používajte modely s nižšou mierou halucinácie — Claude je v benchmarkoch konzistentne lepší ako väčšina konkurentov.
Halucinácie nie sú dôvod nepoužívať AI — sú dôvod používať ho správne.