Łączenie wyszukiwania informacji z generowaniem odpowiedzi przez model językowy.
RAG (Retrieval-Augmented Generation) to sposób budowy aplikacji AI, w którym przed wygenerowaniem odpowiedzi system pobiera informacje z wybranego zbioru źródeł. Materiały trafiają do kontekstu modelu razem z pytaniem użytkownika. Dzięki temu odpowiedź może odnosić się do dokumentów, których sam model nie zna z treningu.
RAG na prostym przykładzie
Klient pyta asystenta sklepu o zasady wymiany produktu. System wyszukuje odpowiedni fragment aktualnej instrukcji sklepu i przekazuje go modelowi. Model przygotowuje odpowiedź na podstawie pytania i pobranego fragmentu. Dobrze zaprojektowana aplikacja może wskazać dokument źródłowy i umożliwić sprawdzenie odpowiedzi.
Jeśli w bazie pozostanie nieaktualna instrukcja albo wyszukiwanie wybierze niewłaściwy produkt, wynik również może być błędny. RAG nie zwalnia właściciela z utrzymywania porządku w dokumentacji.
Z czego składa się proces?
- Przygotowanie źródeł: wybór dokumentów, ustalenie ich aktualności i zasad dostępu.
- Indeksowanie: uporządkowanie materiałów tak, aby system mógł znajdować odpowiednie fragmenty.
- Wyszukanie kontekstu: dopasowanie materiałów do pytania.
- Generowanie: przygotowanie odpowiedzi z wykorzystaniem pobranej treści.
- Kontrola: ocena zgodności odpowiedzi ze źródłami oraz sposobu reagowania na brak danych.
Wyszukiwanie może wykorzystywać reprezentacje wektorowe, słowa kluczowe lub połączenie metod. Samo użycie bazy wektorowej nie oznacza jeszcze kompletnego i poprawnie działającego systemu RAG.
RAG a dostrajanie modelu
RAG dostarcza informacje w kontekście konkretnego zadania. Dostrajanie, czyli fine-tuning, zmienia parametry modelu przez dodatkowe uczenie. Te podejścia rozwiązują różne problemy i mogą występować w jednej aplikacji. Aktualizacja cennika w bazie wiedzy nie musi oznaczać ponownego trenowania modelu.
Wybór rozwiązania powinien wynikać z zadania. Jeśli problemem jest brak aktualnych informacji o ofercie, zacznij od jakości źródeł i wyszukiwania. Jeżeli system ma konsekwentnie realizować szczególny format lub zachowanie, analiza może obejmować również inne metody dostosowania.
Jak sprawdzić jakość RAG?
Przygotuj zestaw rzeczywistych pytań wraz z materiałem potwierdzającym odpowiedź. Oceniaj osobno wyszukanie dokumentu i treść odpowiedzi. Dzięki temu odróżnisz błąd wyszukiwania od błędu generowania.
- Czy system znalazł właściwy dokument i jego aktualną wersję?
- Czy odpowiedź zawiera tylko wnioski, które wynikają ze źródła?
- Czy link prowadzi do fragmentu potwierdzającego odpowiedź?
- Czy aplikacja przyznaje, że nie ma wystarczających informacji?
- Czy użytkownik otrzymuje wyłącznie dokumenty, do których ma dostęp?
Co RAG oznacza dla SEO?
RAG wyjaśnia jedną z metod korzystania ze źródeł przez aplikacje AI. Nie jest nazwą uniwersalnego algorytmu pozycjonowania. Publikowanie jasnych definicji, opisów oferty i aktualnych danych pomaga odbiorcom zrozumieć stronę, ale nie gwarantuje cytowania jej przez dowolny system.
W planie widoczności AI i GEO oceniaj osobno dostępność treści, jakość informacji i rzeczywiste wzmianki o marce. Zobacz również LLM.
Najczęstsze pytania
Czy RAG eliminuje błędne odpowiedzi?
Nie. Może ograniczać część błędów, ale wynik zależy od źródeł, wyszukiwania i sposobu wykorzystania kontekstu przez model.
Czy RAG wymaga ponownego trenowania modelu?
Samo dostarczanie dokumentów w ramach RAG nie wymaga zmiany parametrów modelu. Dostrajanie jest osobnym procesem.
Źródło: IBM: retrieval-augmented generation.

