Grounding

Grounding znamená, že generovaná AI odpověď dostane oporu v konkrétních zdrojích. Může jít o webové vyhledávání, firemní dokumenty, databázi nebo jiná aktuální data. Model pak neskládá odpověď jen ze vzorů naučených při tréninku, ale pracuje i s informacemi, které získal pro danou otázku.

U AI vyhledávání jsou touto oporou často webové stránky. Pokud služba ukáže odkazy nebo citace, uživatel může zkontrolovat, z čeho odpověď čerpala. Citace ale sama o sobě nepotvrzuje, že každá věta je správná nebo že zdroj doporučuje konkrétní firmu.

Grounding není trénink modelu

Trénink vytváří obecné schopnosti a znalosti modelu. Grounding přidává podklady ke konkrétní odpovědi. Proto může pomoci s aktuálností a ověřitelností, ale neodstraňuje všechny halucinace.

RAG je jeden ze způsobů groundingu: před generováním vyhledá relevantní dokumenty. Grounding je širší pojem a může odpověď propojovat také s webovým vyhledáváním, databází nebo nástrojem.

Co z toho plyne pro web

• Tvrzení musí mít oporu. Uveďte zdroj, datum, metodiku nebo vlastní důkaz.
• Obsah musí být dostupný. Důležitá informace schovaná jen v obrázku nebo za blokováním se používá obtížněji.
• Zdroj musí být jednoznačný. Jasný autor, canonical, nadpisy a interní odkazy pomáhají určit, co stránka tvrdí a kam patří.

Neexistuje schema vlastnost, která by z webu udělala zaručený zdroj pro AI. Cílem je vytvořit obsah, který je technicky dostupný, věcně přesný a dost konkrétní na to, aby se o něj odpověď mohla opřít.

Google Cloud vysvětluje grounding modelu pomocí Google Search.

Pokud podklady potřebný údaj neobsahují, model ho nemá doplňovat odhadem.

Co ověřit u citované ceny

Modelově odpověď uvádí cenu 50, ale citovaný ceník obsahuje "od 50 bez dopravy". Zdroj byl nalezen, ale odpověď vynechala podmínku. Při kontrole proto porovnávejte i rozsah tvrzení, měnu, datum a výjimky. Za úspěch nepovažujte pouze přítomnost odkazu vedle věty.

Časté otázky