English
Deutsch
Polski
Laptop, mini PC, komputer z GPU czy stacja AI: jaki sprzęt pasuje do lokalnych modeli LLM?
Porównanie CPU, Apple, APU AMD, komputerów z GPU i DGX Spark według pamięci, oprogramowania, rozbudowy i zadania.
Cloud & AI
20 artykułów w tej kategorii
Śledź tę kategorię przez RSSO tej kategorii
Usługa w chmurze, własny kontener czy lokalny model AI? Często do celu prowadzi kilka dróg. Tutaj przyglądam się temu, jak działają, ile kosztują i czego wymagają w codziennym utrzymaniu.
Tematy obejmują kontenery, serverless, API modeli AI, lokalne modele językowe, RAG i automatyzację. Wyjaśniam poszczególne elementy i ich ograniczenia, żeby łatwiej było ocenić pomysł i zaplanować kolejne kroki.
Q4, Q8, FP16 i długi kontekst: dlaczego lokalny model LLM nie działa mimo odpowiedniego rozmiaru pliku?
Wspólne planowanie wag, pamięci KV i zapasu: porównanie Q4, Q8, FP16, długiego kontekstu i architektur hybrydowych.
Porównanie dostępnych modeli LLM: Qwen, Gemma, Ministral, Llama i DeepSeek w DE, EN i PL
Porównanie Qwen, Gemma, Ministral, Llama i DeepSeek według języka, zadania, pamięci i licencji oraz osobnych ocen DE, EN i PL.
Ollama, LM Studio, llama.cpp czy vLLM: które oprogramowanie pasuje do lokalnych modeli LLM?
Porównanie według zastosowania: czat na komputerze, lokalne API, optymalizacja dla Apple i obsługa serwera.
Web Bot Auth: jak podpisywane są żądania agentów i co dowodzi podpis
Web Bot Auth podpisuje żądania agentów kluczem Ed25519 według RFC 9421, publikuje klucz publiczny jako zestaw kluczy JSON pod ustaloną ścieżką i pozwala witrynie sprawdzić, kto pytał. Dowodzi operatora i domeny – i zupełnie nic o zamiarze.
Porównanie kosztów modeli AI: API w chmurze czy lokalne DeepSeek i Qwen?
Aktualne taryfy API, lokalne koszty działania i koszt zaakceptowanego zadania dla GPT, Claude, Gemini, DeepSeek i Qwen.
Które modele AI pasują do niemieckiego, angielskiego i polskiego?
Porównanie GPT, Claude, Gemini, DeepSeek i Qwen według terminologii, znaczenia i jakości językowej w DE, EN i PL.
Modele AI do badań i dokumentów: Gemini, GPT i Claude wobec otwartych LLM
Porównanie Gemini, GPT, Claude, DeepSeek i Qwen według dokumentów, potwierdzania źródeł i lokalnego wyszukiwania.
Zautomatyzowane raportowanie korporacyjne: Generowanie PDF z Pythonem i OpenAI API
Techniczny przewodnik po budowie potoku zautomatyzowanego raportowania PDF przy użyciu Pythona, Pandas i API OpenAI do podsumowań menedżerskich.
Bezserwerowe mikrousługi: Skalowanie w Google Cloud Run z GitHub Actions
Techniczny przewodnik krok po kroku po wdrażaniu i skalowaniu bezserwerowych mikrousług w Google Cloud Run z użyciem GitHub Actions i WIF.
