Słownik pojęć
Halucynacja AI
Halucynacja to sytuacja, w której model AI podaje odpowiedź brzmiącą przekonująco, ale nieprawdziwą.
Halucynacja to sytuacja, w której model AI podaje odpowiedź brzmiącą przekonująco, ale nieprawdziwą.
Dokładniej
Model przewiduje prawdopodobny tekst, więc gdy nie zna faktu, potrafi go dopowiedzieć. Ryzyko ogranicza się przez RAG, czyli odpowiedzi z Twoich danych, przez reguły, weryfikację i człowieka w pętli przy wrażliwych decyzjach.
Przykład w firmie
Bez zabezpieczeń agent mógłby wymyślić nieistniejącą procedurę zwrotu. Dlatego w poważnym wdrożeniu odpowiedzi opierają się na Twojej dokumentacji, a wyjątki idą do człowieka.
Nie wiesz, od czego zacząć u siebie?
W bezpłatnym audycie wskażemy procesy o największym zwrocie i policzymy potencjał dla Twojej firmy.
Zacznij audytPowiązane materiały
RAG (retrieval-augmented generation)
RAG to technika, w której model AI przed odpowiedzią sięga do Twojej bazy wiedzy, żeby odpowiadać na podstawie faktów, a nie tylko pamięci.
Słownik pojęćCzłowiek w pętli (human-in-the-loop)
Człowiek w pętli to zasada, w której agent AI wykonuje pracę, ale kluczowe lub nietypowe decyzje zatwierdza człowiek.
Słownik pojęćDuży model językowy (LLM)
Duży model językowy (LLM) to program AI wytrenowany na ogromnych ilościach tekstu, który rozumie i generuje język naturalny.