Słownik pojęć
Token (w modelach AI)
Token to najmniejsza porcja tekstu, którą przetwarza model AI, a liczba tokenów decyduje o koszcie i limitach.
Token to najmniejsza porcja tekstu, którą przetwarza model AI, a liczba tokenów decyduje o koszcie i limitach.
Dokładniej
Modele nie liczą znaków ani słów, tylko tokeny, czyli fragmenty słów. Rozliczenie za API modeli idzie zwykle za liczbę tokenów wejścia i wyjścia, więc długość promptów i odpowiedzi wpływa na koszt.
Przykład w firmie
Przy automatyzacji obsługi maili koszt zależy od tego, ile tekstu model przetwarza. Dobrze zaprojektowany proces nie wysyła do modelu więcej, niż trzeba, żeby trzymać koszty w ryzach.
Nie wiesz, od czego zacząć u siebie?
W bezpłatnym audycie wskażemy procesy o największym zwrocie i policzymy potencjał dla Twojej firmy.
Zacznij audytPowiązane materiały
Duży model językowy (LLM)
Duży model językowy (LLM) to program AI wytrenowany na ogromnych ilościach tekstu, który rozumie i generuje język naturalny.
Wdrożenie AI w firmieIle kosztuje wdrożenie automatyzacji i agentów AI
Ile kosztuje wdrożenie automatyzacji i agentów AI w firmie? Realne widełki cenowe, z czego składa się koszt, co go podbija, a co zbija. Konkretnie, bez „to zależy” na koniec.
Słownik pojęćPrompt
Prompt to polecenie lub pytanie, które przekazujesz modelowi AI, żeby uzyskać oczekiwaną odpowiedź albo działanie.