Rachunek stojący za fakturą za LLM

Interfejsy modeli językowych rozliczane tokenowo zwykle naliczają zużycie każdego żądania. Koszt rozmowy jest sumą kosztów tych żądań. Ponowne użycie historii sprawia, że wcześniejsze pytanie może wielokrotnie liczyć się jako wejście; nie istnieje ogólna stała opłata za rozmowę.

LLM to model językowy generujący tekst. API pozwala programom wysyłać żądania do modelu. Wejście obejmuje przekazane treści, a wyjście powstaje w modelu. Prompt zawiera instrukcję i kontekst. Pamięć podręczna tymczasowo zachowuje wyniki przetwarzania wcześniejszego wejścia do ponownego użycia: zapis tworzy lub rozszerza wpis, a odczyt korzysta z istniejącego wpisu.

Użyteczny szacunek oddziela zwykłe wejście, zapis i odczyt pamięci podręcznej oraz wyjście, a następnie dolicza ewentualne opłaty za narzędzia lub usługi. Poniższy przykład dotyczy rozmowy tekstowej o stałych długościach wiadomości. To model obliczeniowy, nie faktura dostawcy ani uniwersalny cennik.

Dlaczego pełna historia zwiększa skumulowane wejście

API może wymagać ponownego przesłania historii albo zarządzać stanem rozmowy na serwerze. Żadne rozwiązanie nie czyni ponownie używanego kontekstu automatycznie bezpłatnym. Poniższy przykład zakłada pełną wcześniejszą historię w każdym żądaniu, bez streszczania, skracania lub wybierania fragmentów.

Instrukcja systemowa określa ogólne zasady aplikacji i ma 1200 tokenów, każde pytanie 150, a każda odpowiedź 400. Tokenizer dzieli tekst na jednostki zwane tokenami. Mogą to być słowa, fragmenty słów lub znaki interpunkcyjne. Token nie odpowiada stałej liczbie słów. Uproszczenie pomija formatowanie wiadomości, definicje narzędzi, niewidoczne elementy formatu i tokeny rozumowania używane do wewnętrznego przetwarzania przed widoczną odpowiedzią. Wejście rundy n wynosi 1350 + 550 × (n − 1).

Po ośmiu rundach skumulowane wejście wynosi 26 200 tokenów. Ósme żądanie zawiera 5200 tokenów wejścia; po dodaniu ostatniej odpowiedzi o długości 400 tokenów rozmowa ma 5600 tokenów wraz z instrukcją systemową. Osiem odpowiedzi daje dodatkowo 3200 tokenów wyjścia. Tabela liczy wejście, nie pieniądze ani łączne wejście i wyjście.

Ze skumulowanego wejścia 21 000 tokenów powtarza wcześniejsze wejście, czyli około 80%. Krótsze powtarzane instrukcje lub krótsza przechowywana historia mogą ograniczyć późniejsze wejście. Streszczenie może jednak wymagać osobnego płatnego wywołania i utracić szczegóły. Porównanie powinno uwzględniać ten koszt oraz jakość późniejszych odpowiedzi.

Przykładowe stawki zamiast uniwersalnego cennika

Dokumentacja sprawdzona 24 października 2026 r.: Warunki pamięci zależą od dostawcy i modelu. Claude dokumentuje warianty 5 minut i 1 godziny; OpenAI GPT-5.6 i nowsze używają w Responses wariantów 30 minut i 12 godzin. Stawki odczytu także się różnią. Poniższa kalkulacja celowo zachowuje stałe stawki przykładowe; rzeczywisty budżet wymaga aktualnych cen i kategorii zużycia wybranego modelu.

Tabela używa przykładowych mnożników ze zwykłym wejściem równym 1. Zgodny początek promptu otrzymuje cenę odczytu tylko po spełnieniu reguł modelu dotyczących kwalifikacji, minimalnej długości, punktów zapisu i czasu ważności. Zmieniona godzina może przerwać ponowne użycie od miejsca zmiany, pozostawiając wcześniejszy stały początek dostępny. Niektórzy dostawcy pozwalają wskazać punkt zapisu na końcu części wejścia przeznaczonej do ponownego użycia. Inni zarządzają pamięcią podręczną automatycznie. JSON jest formatem uporządkowanych danych żądania. Identyczny tekst JSON nie stanowi uniwersalnej reguły rozliczenia.

Przy mnożniku zapisu 1,25 i odczytu 0,1 jeden zapis oraz jedno pełne ponowne użycie kosztują 1,35 zamiast 2: oszczędność wynosi 32,5%. Dwa lub trzy trafienia nie są konieczne. Krótki początek może nie osiągnąć minimum modelu, a wygasły wpis może wymagać ponownego zapisu. Opłacalność zależy od ponownego użycia i taryfy, nie tylko od długości promptu.

Przetwarzanie wsadowe i terminy

Tryb wsadowy przesyła grupę zadań razem. Usługa przetwarza je w tle i udostępnia wyniki później. OpenAI dokumentuje rabat 50% i okno realizacji 24 godzin; nieukończone żądania mogą wygasnąć. Anthropic również opisuje rabat i wygaśnięcie po 24 godzinach, często z wcześniejszym zakończeniem. Wsad nie oznacza zatem ani natychmiastowej odpowiedzi, ani nieograniczonego oczekiwania bez określonego okna.

Przykłady to niezależne klasyfikacje, opisy katalogowe i odczytywanie pól dokumentów. Przydatność zależy od terminów, obsługiwanych modeli, endpointów i funkcji, limitów danych oraz obsługi ponowień. Obserwowanie ekranu nie jest kryterium rozliczenia. Zadania zależne od wcześniejszych wyników mogą wymagać oddzielnych etapów, ponieważ późniejsze wejścia nie są jeszcze dostępne.

Pomiar tokenów dla każdego języka

Tokenizacja zależy od słownika modelu, języka, interpunkcji i treści. Reguła czterech znaków na token to przybliżenie dla tekstu angielskiego, nie wiarygodny przelicznik dla polskiego lub niemieckiego. Tłumaczenie może wymagać większej albo mniejszej liczby tokenów zależnie od tokenizera i sformułowania.

Nie wynika z tego stała dopłata językowa 30–50%. Reprezentatywne wejścia i odpowiedzi wymagają osobnego policzenia dla każdego języka za pomocą tokenizera lub endpointu zliczania tokenów danego modelu. Pola rzeczywistego zużycia pokazują następnie rozliczone kategorie. Różna liczba tokenów to coś innego niż różna cena tokena.

Ograniczanie wyjścia i rozumowania

Limity wyjścia zapewniają rzeczywistą kontrolę: parametr danego API określa górną granicę, choć nie długość docelową. Nazwy różnią się, na przykład max_tokens w Claude Messages i max_output_tokens w OpenAI Responses. Niski limit może uciąć odpowiedź lub zostać wyczerpany przez rozumowanie przed pojawieniem się tekstu. Zwięzłe instrukcje oraz obsługiwane ustawienia wysiłku lub szczegółowości dotyczą innych aspektów.

JSON nie jest z definicji tańszy od prozy: nazwy pól, interpunkcja i schemat mogą dodawać tokeny. Zwięzły format wymaga porównania z równie informacyjną alternatywą. Przy rozliczaniu rozumowania jako wyjścia 2000 rozliczonych tokenów rozumowania i 40 widocznych tokenów odpowiedzi daje 2040 tokenów wyjścia, jeśli brak innych rozliczonych tokenów wyjściowych. O opłacie decyduje zgłoszone zużycie, nie sam widoczny tekst.