Słownik pojęć
Token (w modelach AI)
Token to najmniejsza porcja tekstu, którą przetwarza model AI, a liczba tokenów decyduje o koszcie i limitach.
Token to najmniejsza porcja tekstu, którą przetwarza model AI, a liczba tokenów decyduje o koszcie i limitach.
Dokładniej
Modele nie liczą znaków ani słów, tylko tokeny, czyli fragmenty słów. Rozliczenie za API modeli idzie zwykle za liczbę tokenów wejścia i wyjścia, więc długość promptów i odpowiedzi wpływa na koszt.
Przykład w firmie
Przy automatyzacji obsługi maili koszt zależy od tego, ile tekstu model przetwarza. Dobrze zaprojektowany proces nie wysyła do modelu więcej, niż trzeba, żeby trzymać koszty w ryzach.
Nie wiesz, od czego zacząć u siebie?
W bezpłatnym audycie wskażemy procesy o największym zwrocie i policzymy potencjał dla Twojej firmy.
Zacznij audytPowiązane materiały
Halucynacja AI
Halucynacja to sytuacja, w której model AI podaje odpowiedź brzmiącą przekonująco, ale nieprawdziwą.
SłownikFine-tuning
Fine-tuning to douczenie gotowego modelu AI na własnych danych, żeby lepiej radził sobie z konkretnym zadaniem.
SłownikBPA vs RPA vs agent AI: 3 pytania, jedna decyzja (i jak nie pomylić narzędzia z problemem)
Poznaj różnice między BPA, RPA i agentem AI na konkretnych przykładach i dobierz właściwe narzędzie do swojego procesu. Sprawdź matrycę decyzyjną.
SłownikRAG (retrieval-augmented generation)
RAG to technika, w której model AI przed odpowiedzią sięga do Twojej bazy wiedzy, żeby odpowiadać na podstawie faktów, a nie tylko pamięci.
BranżeChatbot WhatsApp dla restauracji: koniec 15-30% prowizji (i gdzie ten model się nie opłaca)
Zobacz, jak chatbot na WhatsApp zdejmuje zamówienia z Pyszne.pl i Glovo bez utraty wygody klienta. Sprawdź, gdzie to się opłaca, a gdzie nie.
Agenci AIRodzaje agentów AI i do czego służą
Sprzedażowy, obsługowy, raportujący, dokumentowy: poznaj typy agentów AI z przykładami z polskich firm i sprawdź, który zwróci się najszybciej.