RAG i grounding

Pronađite relevantne dokaze i tražite od modela da odgovori na osnovu njih, uz vidljive izvore.

Šta je to?

Retrieval-augmented generation pretražuje izvorni materijal, stavlja izabrane odlomke u kontekst i traži od modela da odgovori na osnovu njih.

Može da koristi aktuelno privatno znanje bez dodatnog treniranja modela i pokaže odakle odgovor potiče.

Retrieval pronalazi dokaze; grounding vezuje odgovor za te dokaze.

Asistent za politike pronalazi dva relevantna odeljka, odgovara zaposlenom i navodi naslove oba dokumenta.

RAG ne trenira model, ne garantuje istinu i ne popravlja loše izvore. Pretraga može promašiti pravi odlomak, a model ga može pogrešno upotrebiti.

Ove ideje pomažu da lekciju smestite u pravi kontekst.

Iskoristite jedan fokusiran sat da ideju pretvorite u nešto konkretno.

Napravite mali utemeljeni FAQ koji odbija odgovor kada ga nijedan izvor ne podržava.

Koristite obične filtere ili pretragu po ključnim rečima kada je zbirka mala i tačan izraz pouzdan. Ne uvodite vektorsku infrastrukturu po navici.

Naučite embeddings i evaluaciju.