{"id":21295,"date":"2026-10-15T19:48:00","date_gmt":"2026-10-15T17:48:00","guid":{"rendered":"https:\/\/www.lukaswojcik.com\/blog\/?p=21295"},"modified":"2026-10-09T23:33:01","modified_gmt":"2026-10-09T21:33:01","slug":"nvidia-grafikkarten-lokale-llm-pl","status":"publish","type":"post","link":"https:\/\/www.lukaswojcik.com\/blog\/pl\/cloud-ai-pl\/nvidia-grafikkarten-lokale-llm-pl\/","title":{"rendered":"NVIDIA dla lokalnych modeli LLM: por\u00f3wnanie RTX 3060, 3090, 5060 Ti, 5090 i kart profesjonalnych"},"content":{"rendered":"

Przy wyborze karty NVIDIA dla lokalnego LLM trzeba najpierw sprawdzi\u0107, czy ca\u0142y wybrany model zmie\u015bci si\u0119 w dost\u0119pnej pami\u0119ci. Szybszy GPU z za ma\u0142ym VRAM mo\u017ce by\u0107 w praktyce gorszym wyborem ni\u017c starsza karta z wi\u0119ksz\u0105 pojemno\u015bci\u0105. FPS w grach i AI TOPS nie odpowiadaj\u0105 na to pytanie.<\/p>\n

Por\u00f3wnanie wskazuje wybrane oficjalne wersje pami\u0119ci. Ocena dotyczy specyfikacji i wymaga\u0144 eksploatacji, bez w\u0142asnych pomiar\u00f3w szybko\u015bci. Cena karty, ca\u0142ego komputera i pracy pozostaj\u0105 osobnymi warto\u015bciami.<\/p>\n

\"Oficjalne
Por\u00f3wnanie pojemno\u015bci, bez zmierzonego rankingu szybko\u015bci.<\/figcaption><\/figure>\n

Oficjalne poziomy pami\u0119ci<\/h2>\n\n\n\n\n\n\n\n\n\n\n\n
Karta<\/th>\nWybrana pami\u0119\u0107<\/th>\nRola<\/th>\n<\/tr>\n<\/thead>\n
RTX 3060<\/td>\n12 GB<\/td>\nPocz\u0105tek; odr\u0119bna od wersji 8 GB<\/td>\n<\/tr>\n
RTX 5060 Ti<\/td>\n16 GB<\/td>\nNowsza \u015brednia klasa pami\u0119ci<\/td>\n<\/tr>\n
RTX 3090<\/td>\n24 GB<\/td>\nStarsza du\u017ca GeForce, kandydat u\u017cywany<\/td>\n<\/tr>\n
RTX 4090<\/td>\n24 GB<\/td>\nInna architektura, ta sama klasa pojemno\u015bci<\/td>\n<\/tr>\n
RTX 5090<\/td>\n32 GB<\/td>\nWi\u0119ksza oficjalna pojemno\u015b\u0107 GeForce<\/td>\n<\/tr>\n
RTX 6000 Ada<\/td>\n48 GB<\/td>\nPojedynczy profesjonalny GPU<\/td>\n<\/tr>\n
RTX PRO 6000 Blackwell<\/td>\n96 GB<\/td>\nProfesjonalna wysoka pojemno\u015b\u0107<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Pojemno\u015b\u0107 przed obietnic\u0105 szybko\u015bci<\/h2>\n

Zmiana z 12 na 24 GB mo\u017ce otworzy\u0107 inn\u0105 klas\u0119 modelu. Przej\u015bcie z RTX 3090 na RTX 4090 nie zwi\u0119ksza oficjalnej pami\u0119ci. Model potrzebuj\u0105cy ponad 24 GB wraz z kontekstem i buforami nie zyskuje dzi\u0119ki temu pojemno\u015bci.<\/p>\n

Karta 32 GB powi\u0119ksza bud\u017cet bez gwarancji konkretnego kontekstu dla ka\u017cdej architektury. Tak\u017ce 48 lub 96 GB musi pomie\u015bci\u0107 wagi, stan i zapas. Profesjonalna jedna karta mo\u017ce wi\u0119c lepiej pasowa\u0107 do du\u017cego modelu ni\u017c kilka mniejszych.<\/p>\n

Architektura i silnik pozostaj\u0105 kryteriami zakupu<\/h2>\n

Obs\u0142uga CUDA to pierwsza warstwa. Precyzja, kernele kwantyzacji i architektury modeli maj\u0105 dodatkowe wymagania. vLLM dokumentuje minimaln\u0105 compute capability dla NVIDIA, ale poszczeg\u00f3lne funkcje mog\u0105 mie\u0107 inne granice. Du\u017cy VRAM starej karty nie gwarantuje ka\u017cdej nowej konfiguracji.<\/p>\n

Decyzja zakupowa wymaga konkretnej wersji \u015brodowiska, rewizji modelu i kwantyzacji. Zainstalowany sterownik lub dzia\u0142aj\u0105ca gra nie potwierdzaj\u0105 tej \u015bcie\u017cki inferencji. Odpowiednie pakiety s\u0105 istotne dla nowego i starszego sprz\u0119tu.<\/p>\n

W\u0142a\u015bciwe por\u00f3wnanie kart u\u017cywanych i profesjonalnych<\/h2>\n

U\u017cywana RTX 3090 mo\u017ce zapewnia\u0107 op\u0142acaln\u0105 pojemno\u015b\u0107, gdy pasuj\u0105 stan, rzeczywista cena i warunki zwrotu. Ch\u0142odzenie, test ca\u0142ej pami\u0119ci i stabilno\u015b\u0107 obci\u0105\u017cenia nale\u017c\u0105 do oceny. Niska cena bez dowodu dzia\u0142ania nie tworzy pe\u0142nej podstawy zakupu.<\/p>\n

Karty profesjonalne r\u00f3\u017cni\u0105 si\u0119 r\u00f3wnie\u017c form\u0105, funkcjami pami\u0119ci i przeznaczeniem. Dop\u0142ata potrzebuje konkretnego powodu: wi\u0119kszego pojedynczego modelu, odpowiedniego ch\u0142odzenia lub pracy ci\u0105g\u0142ej. Identyczne wykonanie nie daje lepszych odpowiedzi wy\u0142\u0105cznie dzi\u0119ki profesjonalnej etykiecie.<\/p>\n

Ca\u0142y komputer i wiele GPU<\/h2>\n

Przed zakupem du\u017cej karty trzeba sprawdzi\u0107 zasilacz, z\u0142\u0105cza, dost\u0119pne miejsce i odprowadzanie ciep\u0142a. Przy ocenie koszt\u00f3w bardziej przydatny jest pomiar poboru energii ca\u0142ego komputera przy gniazdku ni\u017c pojedyncza warto\u015b\u0107 nominalna. Przy sta\u0142ym zasilaniu trzeba uwzgl\u0119dni\u0107 r\u00f3wnie\u017c godziny spoczynku.<\/p>\n

Dwie karty po 24 GB pozostaj\u0105 osobnymi pulami. Odpowiedni silnik potrafi rozdziela\u0107 model, ale spos\u00f3b podzia\u0142u i po\u0142\u0105czenie wp\u0142ywaj\u0105 na prac\u0119. Prostsza alternatywa to jedna karta z zapasem. Kalkulator pami\u0119ci wspiera selekcj\u0119; potwierdzona zgodno\u015b\u0107 i pe\u0142na cena rozstrzygaj\u0105 zakup.<\/p>\n

Planowanie pami\u0119ci przy wyborze modelu: kalkulator VRAM dla LLM.<\/a><\/p>\n

\n

Powi\u0105zane narz\u0119dzia<\/h2>\n