Slovník
Halucinace AI
Když AI sebevědomě vygeneruje informaci, která zní hodnověrně, ale je nepravdivá nebo vymyšlená.
Halucinace je situace, kdy jazykový model vygeneruje odpověď, která zní přesvědčivě a plynule, ale je fakticky nesprávná - případně si úplně vymyslí zdroj, číslo nebo citát. Samotná plynulost není důkazem správnosti odpovědi.
Proč k tomu dochází
Samotné generování textu neověřuje každé tvrzení proti původnímu zdroji. I při použití vyhledávání nebo přiložených podkladů je třeba správnost odpovědi zkontrolovat. Když model nemá dost podkladů, může doplnit nepodložené tvrzení, které zní stejně přesvědčivě jako správná odpověď. Právě ta jistota je nebezpečná.
Jak se před halucinacemi chránit
- Ověřte fakta. Čísla, jména, citace a zdroje vždy zkontrolujte mimo model.
- Dejte modelu kontext. Relevantní podklady, například přiložené dokumenty, mohou omezit chyby; ověřte však, zda z nich odpověď skutečně vychází.
- Ptejte se na zdroje. Bez ověřitelného zdroje podle odpovědi nedělejte rozhodnutí.
- Nesvěřujte AI konečné rozhodnutí tam, kde chyba stojí peníze nebo reputaci.
Pro marketing platí jednoduše: AI může připravit návrh textu. Před zveřejněním musí člověk ověřit jeho správnost.
Časté otázky
Dá se halucinacím úplně zabránit?
Úplně ne, je to vlastnost technologie. Relevantní podklady mohou omezit chyby. Kontrola výstupů pomáhá chyby odhalit a omezení oprávnění brání tomu, aby chybná odpověď spustila nežádoucí akci.
Proč AI vymyslí i zdroj?
Protože generuje pravděpodobný text. Model může vytvořit odkaz, který vypadá věrohodně, přestože daná stránka neexistuje nebo tvrzení nepodporuje. Proto zdroj otevřete a zkontrolujte.
Nezávislý audit
Zjistěte, co ve vašem marketingu zlepšit.
Podle potřeb vašeho webu vybereme oblast auditu: SEO, PPC, měření, obsah nebo AI Search. Dostanete až 10 doporučení podle dopadu a plán na 30 dní.