Slovník
Halucinace AI
Když AI sebevědomě vygeneruje informaci, která zní hodnověrně, ale je nepravdivá nebo vymyšlená.
Halucinace je situace, kdy jazykový model vygeneruje odpověď, která zní přesvědčivě a plynule, ale je fakticky nesprávná - případně si úplně vymyslí zdroj, číslo nebo citát. Samotná plynulost není důkazem správnosti odpovědi.
Proč k tomu dochází
Samotné generování textu neověřuje každé tvrzení proti původnímu zdroji. I při použití vyhledávání nebo přiložených podkladů je třeba správnost odpovědi zkontrolovat. Když model nemá dost podkladů, může doplnit nepodložené tvrzení, které zní stejně přesvědčivě jako správná odpověď.
Jak se před halucinacemi chránit
- Ověřte fakta. Čísla, jména, citace a zdroje vždy zkontrolujte mimo model.
- Dejte modelu kontext. Relevantní podklady, například přiložené dokumenty, mohou omezit chyby; ověřte však, zda z nich odpověď skutečně vychází.
- Ptejte se na zdroje. Bez ověřitelného zdroje podle odpovědi nedělejte rozhodnutí.
- Nesvěřujte AI konečné rozhodnutí tam, kde chyba stojí peníze nebo reputaci.
Pro marketing platí jednoduše: AI může připravit návrh textu. Před zveřejněním musí člověk ověřit jeho správnost.
Zdroj: OpenAI - Why language models hallucinate. Ověřeno 3. 10. 2026.
Postup při neexistujícím zdroji
Pokud odkaz nefunguje, vyhledejte název dokumentu u uvedeného vydavatele. Pokud tvrzení nelze dohledat, odstraňte ho nebo označte nejistotu; nenahrazujte ho prvním podobně znějícím článkem. Opravenou větu znovu porovnejte s otevřeným zdrojem. Druhá odpověď stejného modelu není nezávislé potvrzení.
Časté otázky
Dá se halucinacím úplně zabránit?
Bezchybnou odpověď při každém použití nelze zaručit. Halucinace však není nevyhnutelná: model může při nejistotě přiznat, že odpověď nezná. Relevantní podklady mohou omezit chyby. Kontrola výstupů pomáhá chyby odhalit a omezení oprávnění brání tomu, aby chybná odpověď spustila nežádoucí akci.
Proč AI vymyslí i zdroj?
Protože generuje pravděpodobný text. Model může vytvořit odkaz, který vypadá věrohodně, přestože daná stránka neexistuje nebo tvrzení nepodporuje. Proto zdroj otevřete a zkontrolujte.