{"id":21290,"date":"2026-10-13T15:08:00","date_gmt":"2026-10-13T13:08:00","guid":{"rendered":"https:\/\/www.lukaswojcik.com\/blog\/?p=21290"},"modified":"2026-10-05T16:50:06","modified_gmt":"2026-10-05T14:50:06","slug":"lokale-llm-geraete-vergleich-de","status":"publish","type":"post","link":"https:\/\/www.lukaswojcik.com\/blog\/de\/cloud-ai-de\/lokale-llm-geraete-vergleich-de\/","title":{"rendered":"Laptop, Mini-PC, GPU-Tower oder AI-Workstation: Welche Ger\u00e4te passen zu lokalen LLMs?"},"content":{"rendered":"

Das beste Ger\u00e4t f\u00fcr ein lokales LLM h\u00e4ngt vom gew\u00fcnschten Betrieb ab. Ein Notebook f\u00fcr gelegentliche Zusammenfassungen, ein GPU-Tower f\u00fcr Entwicklung und eine kompakte Workstation f\u00fcr gro\u00dfe Modelle l\u00f6sen verschiedene Probleme. Die gr\u00f6\u00dfte Speicherzahl allein entscheidet den Vergleich nicht.<\/p>\n

Die Einordnung folgt dokumentierten Hardware- und Backend-Eigenschaften. Eigene Ger\u00e4temessungen liegen nicht vor. Antwortlatenz, Ger\u00e4usch und Strombedarf m\u00fcssen deshalb f\u00fcr die konkrete Konfiguration gepr\u00fcft werden.<\/p>\n

\"Ger\u00e4t
Identische GB-Angaben ergeben keine identische LLM-Leistung.<\/figcaption><\/figure>\n

Ger\u00e4teklassen nach Einsatz<\/h2>\n\n\n\n\n\n\n\n\n\n
Klasse<\/th>\nPassendes Szenario<\/th>\nTypische Grenze<\/th>\n<\/tr>\n<\/thead>\n
CPU-Laptop \/ Mini-PC<\/td>\nEinstieg und kleine Modelle<\/td>\nAntworttempo und RAM<\/td>\n<\/tr>\n
Apple Mac mini \/ Studio<\/td>\nKompakter Desktop mit Unified Memory<\/td>\nKonfiguration und sp\u00e4tere Aufr\u00fcstung<\/td>\n<\/tr>\n
AMD Ryzen AI Max+ System<\/td>\nSpeicherstarker kompakter Rechner<\/td>\nGer\u00e4tespezifischer Backend-Pfad<\/td>\n<\/tr>\n
GPU-Tower<\/td>\nFlexible Entwicklung und Erweiterung<\/td>\nVRAM, Netzteil und Platz<\/td>\n<\/tr>\n
NVIDIA DGX Spark<\/td>\nKompakte CUDA-Workstation<\/td>\nARM-Softwarepfad und Durchsatzprofil<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

RAM, VRAM und Unified Memory<\/h2>\n

Eine diskrete Grafikkarte besitzt einen eigenen Speicherpool. System-RAM kann gro\u00dfe Modelle erg\u00e4nzen, wird dadurch aber nicht zu gleichwertigem lokalem VRAM. Teilweise CPU-Ausf\u00fchrung bleibt ein anderer Betriebsfall. Die Runtime muss die Aufteilung unterst\u00fctzen.<\/p>\n

Unified Memory wird von CPU, GPU und weiteren Prozessen gemeinsam genutzt. Apple, AMD und DGX Spark verwenden unterschiedliche Plattformen und Softwarepfade. Identische Kapazit\u00e4t bedeutet keine identische Bandbreite, freie GPU-Kapazit\u00e4t oder Geschwindigkeit. Das Budget braucht Reserven f\u00fcr System und Laufzeit.<\/p>\n

Kompakte Ger\u00e4te konkret einordnen<\/h2>\n

Apple dokumentiert den Mac Studio mit M5 Max oder M5 Ultra; M6 geh\u00f6rt aktuell zum Mac mini. Ein Studio bietet je Konfiguration deutlich mehr Speicherkapazit\u00e4t als kleine Einstiegsger\u00e4te. Gro\u00dfe ladbare Modelle und schnelle Ausgabe sind dennoch getrennte Eigenschaften.<\/p>\n

AMD beschreibt Ryzen-AI-Max+-395-Systeme mit bis zu 128 GB Unified Memory und konfigurationsabh\u00e4ngig bis zu 96 GB Grafikspeicherzuweisung. Der konkrete Rechner, Firmware und Runtime bleiben entscheidend. NVIDIA dokumentiert DGX Spark mit 128 GB gemeinsamem Speicher. Das ARM-System verlangt au\u00dferdem passende Softwarepakete und Container.<\/p>\n

Der Tower gewinnt durch Austauschbarkeit<\/h2>\n

Ein GPU-Tower erlaubt den Austausch von Karte, Speicher, K\u00fchlung und Netzteil innerhalb der Plattformgrenzen. Das ist hilfreich, wenn sich Anforderungen \u00e4ndern. Die Gesamtrechnung enth\u00e4lt jedoch Geh\u00e4use, Stromversorgung und m\u00f6gliche Ger\u00e4uschbelastung, nicht nur den Kartenpreis.<\/p>\n

Mehrere GPUs sind eine gezielte Erweiterung statt einer automatischen Speicheraddition. Modellverteilung und Verbindung m\u00fcssen zur Runtime passen. F\u00fcr eine einzelne Sitzung kann eine passende Einzelkarte einfacher sein als eine schlecht abgestimmte Mehrkartenl\u00f6sung.<\/p>\n

Ein Szenario entscheidet besser als ein Markenname<\/h2>\n

F\u00fcr gelegentlichen Chat ist ein vorhandenes Ger\u00e4t mit kleinem Modell der sinnvollste erste Test. Lange Dokumente erh\u00f6hen den Zustands- und Cachebedarf. Mehrbenutzerbetrieb verlangt zus\u00e4tzlich Warteschlangen- und Latenzpr\u00fcfungen. Bei Coding z\u00e4hlt neben Geschwindigkeit die Fehlerquote der Antworten.<\/p>\n

Ein Raspberry Pi eignet sich f\u00fcr kleine Experimente oder als Gateway, sofern Speicher und Antworttempo zur Aufgabe passen. F\u00fcr gr\u00f6\u00dfere interaktive Modelle ist keine Desktop-Leistung vorauszusetzen. Der Speicherrechner liefert eine Vorauswahl; ein Test mit der eigenen Aufgabe kl\u00e4rt die tats\u00e4chliche Eignung. Ein Hardwarekauf folgt erst einer benannten Grenze des vorhandenen Ger\u00e4ts.<\/p>\n

Speicherbedarf f\u00fcr die Modellwahl: LLM-VRAM-Rechner.<\/a><\/p>\n

\n

Passende Werkzeuge<\/h2>\n