Slovník - RAG
Retrieval Augmented Generation
Technika, při které model před odpovědí nejdřív vyhledá relevantní dokumenty a teprve z nich skládá odpověď. Princip, na kterém stojí AI vyhledávání i firemní asistenti.
Retrieval Augmented Generation (RAG) je způsob, jak dát jazykovému modelu aktuální a ověřitelné informace. Místo aby odpovídal jen z toho, co si pamatuje z tréninku, model nejdřív vyhledá relevantní dokumenty a teprve z nich vygeneruje odpověď. Odtud název: vyhledáváním podpořené generování.
Proč to vzniklo
Tréninková data nemusejí obsahovat aktuální informace. RAG modelu doplní vyhledané podklady ke konkrétní otázce; jejich správné použití je třeba ověřit kvůli riziku halucinací. Vyhledané podklady mohou pocházet z webu nebo z interních dokumentů. Konkrétní způsob vyhledání a použití zdrojů závisí na daném systému.
Co z toho plyne pro obsah
Pokud chcete být zdrojem, ze kterého model čerpá, váš obsah musí být snadno dohledatelný a přehledně členěný: jasná struktura, konkrétní odpovědi, čistý text bez balastu. Při práci na GEO kontrolujte dostupnost stránek a srozumitelnost obsahu. O vyhledání a použití konkrétního zdroje rozhoduje daná služba.
Modelový příklad firemního asistenta
Zaměstnanec se zeptá: "Jaké podklady potřebuji k vyúčtování služební cesty?" Systém vyhledá příslušnou část aktuální interní směrnice a poskytne ji modelu. Ten připraví seznam podkladů s odkazem na dokument. Člověk může otevřít původní směrnici a zkontrolovat, zda seznam odpovídá pravidlům.
Pokud systém najde starou směrnici nebo vynechá výjimku, odpověď může být chybná. Při návrhu proto řešíte aktuálnost dokumentů, přístupová oprávnění, kvalitu vyhledání i kontrolu odpovědi. To je jiný úkol než zpřístupnit veřejný web externímu AI vyhledávači.
Jak odhalit chybu ve vyhledání podkladů
U nesprávné odpovědi uložte otázku, nalezené pasáže a finální text. Pokud správný dokument mezi pasážemi chybí, řešte vyhledání a aktuálnost zdrojů. Pokud tam je, ale odpověď zamlčí výjimku, řešte použití podkladů při generování. Bez tohoto rozlišení může přepisování promptu zakrýt chybu v dokumentech.
Časté otázky
Co má RAG společného s mým webem?
Vyhledávání může službě poskytnout webové stránky jako podklady k odpovědi. Proto kontrolujte dostupnost a srozumitelnost svého obsahu. O použití konkrétní stránky rozhoduje daná služba.
Snižuje RAG halucinace?
RAG může snížit riziko halucinací tím, že modelu poskytne relevantní zdroje. Model je však může nesprávně interpretovat nebo doplnit nepodložená tvrzení, proto je třeba ověřit odpověď i zdroje.