{"id":10414,"date":"2026-09-15T18:10:00","date_gmt":"2026-09-15T16:10:00","guid":{"rendered":"https:\/\/www.lukaswojcik.com\/blog\/?p=10414"},"modified":"2026-09-10T12:15:14","modified_gmt":"2026-09-10T10:15:14","slug":"rozmiar-chunkow-i-nakladka-w-bazie-wiedzy-rag-wplyw-na-liczbe-embeddingow","status":"publish","type":"post","link":"https:\/\/www.lukaswojcik.com\/blog\/pl\/cloud-ai-pl\/rozmiar-chunkow-i-nakladka-w-bazie-wiedzy-rag-wplyw-na-liczbe-embeddingow\/","title":{"rendered":"Rozmiar chunk\u00f3w i nak\u0142adka w bazie wiedzy RAG: wp\u0142yw na liczb\u0119 embedding\u00f3w, bud\u017cet token\u00f3w i ponowne indeksowanie"},"content":{"rendered":"

Baza wiedzy dla asystenta AI zaczyna si\u0119 od poci\u0119cia d\u0142ugich dokument\u00f3w na kr\u00f3tkie fragmenty. O tym, jak to si\u0119 dzieje, rozstrzygaj\u0105 dwie liczby: jak d\u0142ugi ma by\u0107 fragment i jak daleko dwa kolejne fragmenty na siebie zachodz\u0105. Obie wpisuje si\u0119 w minut\u0119, obowi\u0105zuj\u0105 dla ca\u0142ego zbioru i da si\u0119 je p\u00f3\u017aniej zmieni\u0107 wy\u0142\u0105cznie przez przepuszczenie wszystkiego od nowa.<\/p>\n

I obie p\u0142aci si\u0119 dwukrotnie: raz przy budowie bazy, a potem przy ka\u017cdym pojedynczym pytaniu. Dlatego warto je przeliczy\u0107, a nie zgadywa\u0107.<\/p>\n

Jednostk\u0105 miary jest token – z grubsza cz\u0105stka s\u0142owa; sto token\u00f3w to oko\u0142o siedemdziesi\u0119ciu s\u0142\u00f3w polskiej prozy. Ka\u017cdy gotowy fragment zostaje prze\u0142o\u017cony na d\u0142ugi ci\u0105g liczb, kt\u00f3ry utrwala jego znaczenie. Ten ci\u0105g nazywa si\u0119 osadzeniem, a wyszukiwanie biegnie p\u00f3\u017aniej po nim, nie po tek\u015bcie.<\/p>\n

\n\"Pasek
Ten sam dokument, ten sam rozmiar fragmentu. R\u00f3\u017cni si\u0119 tylko szeroko\u015b\u0107 kroku – a wraz z ni\u0105 liczba fragment\u00f3w.<\/figcaption><\/figure>\n

Dlaczego zachodzenie kosztuje<\/h2>\n

Fragmenty nie przesuwaj\u0105 si\u0119 o pe\u0142n\u0105 d\u0142ugo\u015b\u0107, tylko o t\u0119 cz\u0119\u015b\u0107, kt\u00f3ra nie zachodzi. Przy rozmiarze fragmentu 512 token\u00f3w i zachodzeniu 64 ka\u017cdy fragment przesuwa si\u0119 wi\u0119c o 448. Na ten sam dokument potrzeba przez to wi\u0119cej fragment\u00f3w – a poniewa\u017c ka\u017cdy odk\u0142ada si\u0119 w pe\u0142nej d\u0142ugo\u015bci, cz\u0119\u015b\u0107 zachodz\u0105ca l\u0105duje w pami\u0119ci dwa razy.<\/p>\n

Tabela pokazuje, co to znaczy dla dokumentu licz\u0105cego 200 000 token\u00f3w, przy rozmiarze fragmentu 512.<\/p>\n\n\n\n\n\n\n\n
Zachodzenie<\/th>\nFragment przesuwa si\u0119 o<\/th>\nLiczba fragment\u00f3w<\/th>\nOd\u0142o\u017cone \u0142\u0105cznie<\/th>\nNarzut<\/th>\n<\/tr>\n<\/thead>\n
64 tokeny (12 %)<\/td>\n448<\/td>\n447<\/td>\n228 864<\/td>\n+14 %<\/td>\n<\/tr>\n
128 token\u00f3w (25 %)<\/td>\n384<\/td>\n521<\/td>\n266 752<\/td>\n+33 %<\/td>\n<\/tr>\n
256 token\u00f3w (50 %)<\/td>\n256<\/td>\n781<\/td>\n399 872<\/td>\n+100 %<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Ostatni wiersz warto zapami\u0119ta\u0107: zachodzenie r\u00f3wne po\u0142owie rozmiaru odk\u0142ada ka\u017cdy token dwa razy. Narzut nie ro\u015bnie r\u00f3wnomiernie z zachodzeniem, tylko strzela w g\u00f3r\u0119, gdy tylko przesuw si\u0119 zw\u0119\u017ca. Dlatego u\u017cyteczny zakres le\u017cy mi\u0119dzy dziesi\u0119cioma a dwudziestoma procentami i dlatego wszystko powy\u017cej jednej trzeciej wymaga powodu.<\/p>\n

Do czego zachodzenie w og\u00f3le s\u0142u\u017cy<\/h2>\n

Sztywne ci\u0119cie rozdziela tam, gdzie ko\u0144czy si\u0119 licznik, a to bywa regularnie w \u015brodku zdania, w kt\u00f3rym stoi odpowied\u017a. Zachodzenie sprawia, \u017ce to zdanie wyst\u0119puje w ca\u0142o\u015bci w co najmniej jednym fragmencie – i to ca\u0142a jego rola.<\/p>\n

Musi wi\u0119c by\u0107 tylko tak du\u017ce jak miejsce, kt\u00f3rego nie wolno rozerwa\u0107. Dla tekstu ci\u0105g\u0142ego dwa lub trzy zdania s\u0105 hojne, a dwa lub trzy zdania to oko\u0142o sze\u015b\u0107dziesi\u0119ciu do stu token\u00f3w. Wi\u0119ksze warto\u015bci wybiera si\u0119 zwykle z ostro\u017cno\u015bci i p\u0142aci w pami\u0119ci, nic nie wnosz\u0105c: zdanie, kt\u00f3re i tak mie\u015bci si\u0119 w ca\u0142o\u015bci w jednym fragmencie, nie zmie\u015bci si\u0119 bardziej w ca\u0142o\u015bci przez to, \u017ce stoi te\u017c w kolejnym.<\/p>\n

Ci\u0119cie po strukturze bije ci\u0119cie po liczbie<\/h2>\n

Lepsz\u0105 odpowiedzi\u0105 na ten sam problem jest niedzielenie zdania w og\u00f3le. Ci\u0119cie na nag\u0142\u00f3wkach, potem na akapitach, a dopiero potem odwr\u00f3t do liczby token\u00f3w, gdy akapit przekroczy rozmiar, odbiera zachodzeniu wi\u0119kszo\u015b\u0107 jego powodu – i tworzy fragmenty, kt\u00f3rych zawarto\u015b\u0107 do siebie nale\u017cy, a to przecie\u017c ma odwzorowa\u0107 osadzenie.<\/p>\n

Uzupe\u0142nieniem, kt\u00f3re nie kosztuje prawie nic, jest \u015bcie\u017cka nag\u0142\u00f3wk\u00f3w przy ka\u017cdym fragmencie, dopisana przed tekstem. Fragment zaczynaj\u0105cy si\u0119 od Podr\u0119cznik > Rozliczenia > Wypowiedzenie<\/em> lepiej si\u0119 znajduje i lepiej czyta w instrukcji, bo niesie ze sob\u0105 kontekst, kt\u00f3ry zabra\u0142o ci\u0119cie.<\/p>\n

Dwa rozmiary, dwa r\u00f3\u017cne b\u0142\u0119dy<\/h2>\n\n\n\n\n\n\n\n
Rozmiar fragmentu<\/th>\nCo robi dobrze<\/th>\nJak zawodzi<\/th>\n<\/tr>\n<\/thead>\n
128 \u2013 256<\/td>\ndok\u0142adne wyszukiwanie, trafienie to dok\u0142adnie to miejsce<\/td>\nmiejsce przychodzi bez zdania, kt\u00f3re je wyja\u015bnia<\/td>\n<\/tr>\n
400 \u2013 800<\/td>\nakapit wraz z kontekstem, jeden temat na osadzenie<\/td>\nprawie wcale; to zakres roboczy<\/td>\n<\/tr>\n
1024 \u2013 2048<\/td>\nca\u0142e rozdzia\u0142y, nic nigdy nie zostaje uci\u0119te<\/td>\nosadzenie u\u015brednia kilka temat\u00f3w i nie pasuje ostro do niczego<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

B\u0142\u0105d du\u017cych fragment\u00f3w jest tym z zewn\u0105trz trudno widocznym. Osadzenie to jeden punkt dla ca\u0142ego tekstu; fragment o trzech przedmiotach le\u017cy wi\u0119c gdzie\u015b pomi\u0119dzy wszystkimi trzema i blisko \u017cadnego. Wyszukiwanie tego nie zg\u0142asza, po prostu wydaje co\u015b innego, a odpowied\u017a powstaje z miejsca, kt\u00f3re nie by\u0142o ca\u0142kiem w\u0142a\u015bciwe.<\/p>\n

Koszt, kt\u00f3ry wraca<\/h2>\n

Osadzenie zbioru jest tanie i zdarza si\u0119 raz. Ale rozmiar fragmentu jest zarazem jednostk\u0105, w kt\u00f3rej mierzy si\u0119 pobrany tekst – ten, kt\u00f3ry asystent dostaje przy ka\u017cdym pytaniu, i za kt\u00f3ry p\u0142aci si\u0119 za ka\u017cdym razem. Osiem fragment\u00f3w po 512 token\u00f3w to 4096 token\u00f3w, kt\u00f3re model czyta, zanim w og\u00f3le zobaczy pytanie.<\/p>\n

Wymiarowa\u0107 nale\u017cy pod t\u0119 liczb\u0119, bo mno\u017cy si\u0119 przez liczb\u0119 pyta\u0144, a nie przez rozmiar zbioru. Zmniejszenie rozmiaru fragmentu o po\u0142ow\u0119 przy podwojeniu liczby pobieranych fragment\u00f3w zostawia rachunek bez zmian i podnosi dok\u0142adno\u015b\u0107; zmniejszenie go bez ruszania liczby po\u0142owi rachunek i grozi przybyciem ze zbyt ma\u0142ym kontekstem. Oba s\u0105 decyzjami i oba stoj\u0105 w tej samej linijce.<\/p>\n

Zmiana ustawienia oznacza budow\u0119 od nowa<\/h2>\n

Granice fragment\u00f3w tkwi\u0105 w osadzeniach. Inny rozmiar tworzy inne teksty, inne osadzenia i inne identyfikatory, cz\u0119\u015bciowej migracji wi\u0119c nie ma – zbi\u00f3r osadza si\u0119 od nowa, a przechowywane gdzie indziej identyfikatory wskazuj\u0105 fragmenty, kt\u00f3rych ju\u017c nie ma.<\/p>\n

Przemawia to za jednym nawykiem od pocz\u0105tku: prowadzeniem dokument\u00f3w \u017ar\u00f3d\u0142owych, ci\u0119cia i osadzania jako trzech osobnych krok\u00f3w i zapisywaniem wyniku po\u015bredniego na dysk. Ponowne osadzenie jest wtedy ponownym przebiegiem ostatniego kroku na zbiorze ju\u017c przygotowanym, a nie popo\u0142udniem odtwarzania, jak ten tekst w og\u00f3le si\u0119 tam znalaz\u0142.<\/p>\n

\n

\u0179r\u00f3d\u0142a<\/h2>\n