RAG (retrieval-augmented generation)

RAG to technika, w której model AI przed odpowiedzią sięga do Twojej bazy wiedzy, żeby odpowiadać na podstawie faktów, a nie tylko pamięci.

Dokładniej

Zamiast polegać wyłącznie na tym, czego model nauczył się podczas treningu, RAG najpierw wyszukuje pasujące fragmenty z Twoich dokumentów, często przez bazę wektorową, a potem generuje odpowiedź w oparciu o nie. Ogranicza to zmyślanie i pozwala odpowiadać o rzeczach, których model nie znał.

Przykład w firmie

Agent obsługi klienta z RAG odpowiada na pytania na podstawie Twojej dokumentacji, regulaminu i historii zgłoszeń, więc mówi to, co zgodne z Twoją firmą, a nie ogólniki z internetu.