{"id":10408,"date":"2026-09-14T18:10:00","date_gmt":"2026-09-14T16:10:00","guid":{"rendered":"https:\/\/www.lukaswojcik.com\/blog\/?p=10408"},"modified":"2026-09-09T13:18:47","modified_gmt":"2026-09-09T11:18:47","slug":"rachunek-stojacy-za-faktura-za-llm","status":"publish","type":"post","link":"https:\/\/www.lukaswojcik.com\/blog\/pl\/cloud-ai-pl\/rachunek-stojacy-za-faktura-za-llm\/","title":{"rendered":"Rachunek stoj\u0105cy za faktur\u0105 za LLM"},"content":{"rendered":"

Rachunek za aplikacj\u0119, kt\u00f3ra rozmawia z modelem j\u0119zykowym przez interfejs, \u0142atwo oszacowa\u0107 i zwykle szacuje si\u0119 go b\u0142\u0119dnie. Pow\u00f3d jest prosty: szacuje si\u0119 na \u017c\u0105danie, a p\u0142aci si\u0119 na rozmow\u0119. Jedno \u017c\u0105danie to pytanie i odpowied\u017a. Rozmowa to to samo pytanie, wysy\u0142ane ponownie z ka\u017cdym kolejnym.<\/p>\n

Ca\u0142a reszta – pami\u0119\u0107 podr\u0119czna, tryb wsadowy, wyb\u00f3r modelu – zmienia liczb\u0119 ju\u017c ustalon\u0105 przez t\u0119 budow\u0119. Warto wi\u0119c spojrze\u0107 na budow\u0119 przed cennikiem.<\/p>\n

\n\"Osiem
Ta sama instrukcja systemowa, op\u0142acona osiem razy. Tylko w\u0105ski niebieski pasek jest w ka\u017cdej rundzie nowy.<\/figcaption><\/figure>\n

Dlaczego d\u0142uga rozmowa dro\u017ceje ponad miar\u0119<\/h2>\n

Modele nie maj\u0105 pami\u0119ci mi\u0119dzy wywo\u0142aniami. Kontynuowanie rozmowy oznacza wi\u0119c ponowne wys\u0142anie ca\u0142ego dotychczasowego przebiegu. W drugiej rundzie pierwsze pytanie wraz z odpowiedzi\u0105 jest op\u0142acane po raz drugi, w trzeciej pierwsze dwa, i tak dalej.<\/p>\n

Tabela przelicza to dla rozmowy, w kt\u00f3rej instrukcja systemowa liczy 1200 token\u00f3w, ka\u017cde pytanie 150, a ka\u017cda odpowied\u017a 400. Tokeny to z grubsza cz\u0105stki s\u0142\u00f3w; sto token\u00f3w odpowiada mniej wi\u0119cej siedemdziesi\u0119ciu s\u0142owom.<\/p>\n\n\n\n\n\n\n\n\n\n\n\n\n
Runda<\/th>\nWej\u015bcie tej rundy<\/th>\nOp\u0142acone \u0142\u0105cznie do tego miejsca<\/th>\n<\/tr>\n<\/thead>\n
1<\/td>\n1 350<\/td>\n1 350<\/td>\n<\/tr>\n
2<\/td>\n1 900<\/td>\n3 250<\/td>\n<\/tr>\n
3<\/td>\n2 450<\/td>\n5 700<\/td>\n<\/tr>\n
4<\/td>\n3 000<\/td>\n8 700<\/td>\n<\/tr>\n
5<\/td>\n3 550<\/td>\n12 250<\/td>\n<\/tr>\n
6<\/td>\n4 100<\/td>\n16 350<\/td>\n<\/tr>\n
7<\/td>\n4 650<\/td>\n21 000<\/td>\n<\/tr>\n
8<\/td>\n5 200<\/td>\n26 200<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Po o\u015bmiu rundach op\u0142acone jest 26 200 token\u00f3w wej\u015bcia, cho\u0107 ca\u0142a rozmowa liczy na ko\u0144cu tylko 5200 token\u00f3w. A koszt ro\u015bnie szybciej ni\u017c sama rozmowa: dwukrotnie wi\u0119cej rund, z czterech na osiem, kosztuje nie dwa razy tyle, lecz mniej wi\u0119cej trzy razy tyle.<\/p>\n

Z tych 26 200 token\u00f3w 21 000 to tekst, kt\u00f3ry model ju\u017c raz dosta\u0142 – cztery pi\u0105te. To argument za dwiema decyzjami niemaj\u0105cymi nic wsp\u00f3lnego z cenami: trzymaniem instrukcji systemowej kr\u00f3tko i streszczaniem d\u0142ugiej rozmowy zamiast ci\u0105gni\u0119cia jej w ca\u0142o\u015bci. Oba zmniejszaj\u0105 liczb\u0119, kt\u00f3ra przypada do zap\u0142aty w ka\u017cdej jeszcze nadchodz\u0105cej rundzie.<\/p>\n

Cztery ceny za ten sam token<\/h2>\n\n\n\n\n\n\n\n\n\n
Rodzaj<\/th>\nStosunek<\/th>\nCo kosztuje w zamian<\/th>\n<\/tr>\n<\/thead>\n
Wej\u015bcie<\/td>\n1×<\/td>\nodniesienie, wzgl\u0119dem kt\u00f3rego mierzy si\u0119 ka\u017cdy kolejny wiersz<\/td>\n<\/tr>\n
Wyj\u015bcie<\/td>\n3× do 5×<\/td>\nnic – jest po prostu drog\u0105 po\u0142ow\u0105<\/td>\n<\/tr>\n
Pami\u0119\u0107 podr\u0119czna, odczyt<\/td>\noko\u0142o 0,1×<\/td>\nniezmieniony pocz\u0105tek i trwa\u0142o\u015b\u0107 liczon\u0105 w minutach<\/td>\n<\/tr>\n
Pami\u0119\u0107 podr\u0119czna, zapis<\/td>\noko\u0142o 1,25×<\/td>\np\u0142atny raz na wpis, zanim cokolwiek zostanie zaoszcz\u0119dzone<\/td>\n<\/tr>\n
Wsad<\/td>\n0,5× po obu stronach<\/td>\nczas oczekiwania: odpowied\u017a w godzinach zamiast w sekundach<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Wiersz o pami\u0119ci podr\u0119cznej niesie ze sob\u0105 warunek. Trafienie wymaga pocz\u0105tku identycznego co do znaku z wcze\u015bniejszym \u017c\u0105daniem – instrukcja systemowa z bie\u017c\u0105c\u0105 godzin\u0105 w \u015brodku nigdy nie zostanie zapami\u0119tana, a rozmowa, kt\u00f3rej przebieg si\u0119 p\u00f3\u017aniej edytuje, uniewa\u017cnia wszystko od miejsca zmiany. Wsp\u00f3lna cz\u0119\u015b\u0107 musi by\u0107 sta\u0142a i musi sta\u0107 z przodu.<\/p>\n

Cena zapisu jest powodem, dla kt\u00f3rego zapami\u0119tywanie kr\u00f3tkich instrukcji si\u0119 nie op\u0142aca. Zapis kosztuje wi\u0119cej ni\u017c wys\u0142anie, wpis musi wi\u0119c zosta\u0107 odczytany wielokrotnie, zanim si\u0119 zwr\u00f3ci – przy powy\u017cszych stosunkach jakie\u015b dwa do trzech razy. Instrukcja potrzebna raz na godzin\u0119, przy wpisie trzymaj\u0105cym pi\u0119\u0107 minut, jest za ka\u017cdym razem op\u0142acana po cenie zapisu.<\/p>\n

Ile naprawd\u0119 kosztuje rabat wsadowy<\/h2>\n

Po\u0142owa ceny za t\u0119 sam\u0105 prac\u0119 wygl\u0105da na naj\u0142atwiejsz\u0105 decyzj\u0119 z listy i ni\u0105 jest – dla pracy, kt\u00f3ra to zniesie. \u017b\u0105danie wsadowe zostaje obs\u0142u\u017cone, gdy u dostawcy zwolni si\u0119 moc; to okno godzin, a nie obietnica, i nic w \u017c\u0105daniu nie mo\u017ce zale\u017ce\u0107 od tego, \u017ce kto\u015b czeka.<\/p>\n

To wyklucza wszystko interaktywne i w\u0142\u0105cza niemal ca\u0142\u0105 reszt\u0119: uporz\u0105dkowanie zaleg\u0142o\u015bci, wygenerowanie opis\u00f3w do katalogu, przet\u0142umaczenie archiwum, wyci\u0105gni\u0119cie p\u00f3l ze stosu dokument\u00f3w. U\u017cytecznym nawykiem jest sortowanie pracy po tym, czy kto\u015b w\u0142a\u015bnie patrzy na ekran – bo to pytanie rozstrzyga, kt\u00f3ra z dw\u00f3ch cen obowi\u0105zuje, a nie model i nie instrukcja.<\/p>\n

Tokeny to nie s\u0142owa i nie w ka\u017cdym j\u0119zyku r\u00f3wnie tanie<\/h2>\n

Token odpowiada mniej wi\u0119cej czterem znakom tekstu angielskiego, s\u0142owo zatem oko\u0142o 1,3 tokena. Polski i niemiecki wypadaj\u0105 gorzej: z\u0142o\u017cenia, odmiana i znaki diakrytyczne rozpadaj\u0105 si\u0119 na wi\u0119cej cz\u0119\u015bci, a to samo zdanie kosztuje w t\u0142umaczeniu wyra\u017anie wi\u0119cej token\u00f3w ni\u017c angielski, z kt\u00f3rego pochodzi.<\/p>\n

W aplikacji wieloj\u0119zycznej objawia si\u0119 to r\u00f3\u017cnic\u0105 kosztu rz\u0119du trzydziestu do pi\u0119\u0107dziesi\u0119ciu procent na j\u0119zyk przy tej samej tre\u015bci, i to w obie strony – instrukcja kosztuje wi\u0119cej i odpowied\u017a r\u00f3wnie\u017c. To nie pow\u00f3d, by robi\u0107 cokolwiek inaczej; to pow\u00f3d, by mierzy\u0107 osobno dla ka\u017cdego j\u0119zyka zamiast zmierzy\u0107 raz i pomno\u017cy\u0107 – bo w\u0142a\u015bnie tak bud\u017cet ko\u0144czy si\u0119 w dok\u0142adnie tych dw\u00f3ch j\u0119zykach, w kt\u00f3rych nikt nie sprawdza\u0142.<\/p>\n

Strona wyj\u015bcia to ta, kt\u00f3rej nikt nie steruje<\/h2>\n

Wyj\u015bcie jest drog\u0105 po\u0142ow\u0105 i po\u0142ow\u0105 najmniej precyzyjnie okre\u015blon\u0105. max_tokens<\/code> to g\u00f3rna granica, a nie cel; model poproszony o streszczenie wytworzy d\u0142ugo\u015b\u0107, kt\u00f3r\u0105 uzna za stosown\u0105, a polecenie j\u0105 skracaj\u0105ce stoi w instrukcji, a nie w parametrach.<\/p>\n

Dwa nawyki ruszaj\u0105 t\u0119 liczb\u0119 bardziej ni\u017c cokolwiek innego. \u017b\u0105danie odpowiedzi ustrukturyzowanej z kr\u00f3tkimi nazwami p\u00f3l zamiast prozy – obiekt JSON z trzema kluczami kosztuje u\u0142amek akapitu m\u00f3wi\u0105cego to samo. I, tam gdzie model potrafi rozbudowane rozumowanie, pami\u0119tanie, \u017ce te tokeny r\u00f3wnie\u017c rozlicza si\u0119 jako wyj\u015bcie: \u017c\u0105danie zwracaj\u0105ce czterdzie\u015bci token\u00f3w odpowiedzi po dw\u00f3ch tysi\u0105cach token\u00f3w my\u015blenia rozlicza si\u0119 z dw\u00f3ch tysi\u0119cy czterdziestu.<\/p>\n

\n

\u0179r\u00f3d\u0142a<\/h2>\n