GPU kaufen oder Cloud mieten: Verfügbarkeit, Einstiegskosten und laufende Kosten lokaler LLMs

Management Summary
Sprachmodelle, also KI für Texte und Antworten, können auf eigener Hardware oder auf gemieteten Rechnern im Internet laufen. Der Artikel vergleicht diese Wege aus Kostensicht. Ein Kauf bringt Aufwand für Gerät, Strom und Pflege; Miete verursacht laufende Gebühren und mögliche Zusatzkosten. Der Vergleich soll zeigen, welche Lösung zur tatsächlichen Nutzung passt. Entscheidend ist der Gesamtpreis brauchbarer Ergebnisse, nicht allein der Kaufpreis oder ein günstiger Stundentarif.
Inhalt
Ein lokales LLM ist ein Sprachmodell auf dem eigenen Rechner. Die Alternative kann ein gemieteter GPU-Rechner oder der Zugriff auf ein fertiges Modell über eine Programmierschnittstelle sein. Für den Kostenvergleich reicht der Grafikkartenpreis nicht: Der übrige Rechner, Strom, Einrichtung und die tatsächlich erledigte Arbeit gehören dazu.

Angebote anhand derselben Angaben vergleichen
Eine Shopseite ist eine Momentaufnahme. Ein sinnvoller Vergleich erfasst das genaue Kartenmodell, den vollständigen Preis und den Lieferstatus am selben Tag. Die verlinkten Händlerseiten dienen als Ausgangspunkte für diese Prüfung; hier wird kein aktuell bestätigtes Preisangebot genannt.
| Angabe | Bedeutung für den Vergleich |
|---|---|
| Genaues Modell | Hersteller, Speichergröße und Variante müssen übereinstimmen. |
| Vollständiger Preis | Versand und gegebenenfalls weitere Gebühren gehören dazu. |
| Lieferung | Lagerstatus und bestätigter Termin sind verschiedene Angaben. |
| Zeitpunkt | Datum der Prüfung festhalten; später kann das Angebot anders aussehen. |
Ein Bestellknopf kann auch eine Vorbestellung erlauben. Eine Lageranzeige ist stärker, ersetzt aber keine bestätigte Lieferzusage für die konkrete Bestellung. Versandort, Zahlungszeitpunkt und Händlerbedingungen können den Termin verändern. Preise in Euro und Złoty werden erst mit demselben dokumentierten Wechselkurs und allen Zusatzkosten vergleichbar.
Beschaffung umfasst mehr als den Warenkorb
Zum vollständigen Kaufpreis gehören bei Bedarf Netzteil, Gehäuse, Kühlung, Mainboard, Arbeitsspeicher und Versand. Bei Gebrauchtkarten zählen Zustand und ein Test unter längerer Last. Ein Speicherumbau kann Garantie und Unterstützung verändern; maßgeblich sind die konkreten Bedingungen. Bei Importen kommen je nach Bestellung und Zielland Abgaben sowie mögliche Rücksendekosten hinzu. Ein pauschaler Prozentsatz würde diese Unterschiede verdecken.
LLM-VRAM-Rechner hilft bei der Speicherplanung. Zu wenig Grafikspeicher kann bedeuten, dass ein Teil des Modells auf dem Hauptprozessor läuft, weniger Eingabetext verarbeitet wird oder ein kleineres Modell nötig ist. Das verändert Wartezeit oder nutzbare Aufgaben und damit den Kostenvergleich.
Ein ausdrücklich angenommenes Kostenbeispiel
Das folgende frei gewählte Beispiel rechnet mit 1.800 Euro für den gesamten Rechner und einer Nutzung über 36 Monate. Der Monat umfasst hier 30 Tage, also 720 Stunden. Davon arbeitet das Modell 80 Stunden bei 330 Watt Verbrauch des ganzen Rechners. In den übrigen 640 Stunden bleibt der Rechner eingeschaltet und verbraucht 60 Watt. Der Strompreis beträgt 0,30 Euro je Kilowattstunde. Das sind Annahmen, keine RTX 5090-Messung und kein aktuelles Kaufangebot.
1.800 Euro geteilt durch 36 Monate ergeben 50 Euro rechnerischen Anschaffungsanteil pro Monat. Das ist keine Ratenzahlung und keine steuerliche Abschreibung: Beim Kauf werden weiterhin 1.800 Euro benötigt. 330 Watt entsprechen 0,330 Kilowatt. Für 80 Stunden entstehen 0,330 × 80 = 26,4 Kilowattstunden und damit 7,92 Euro Stromkosten. Die restlichen 640 Stunden kosten 0,060 × 640 × 0,30 = 11,52 Euro. Insgesamt ergibt das 69,44 Euro monatlich. Wartung, Finanzierung, Steuern und ein möglicher späterer Verkaufserlös fehlen in diesem einfachen Beispiel.
Cloud-Stunden und API-Tokens getrennt bewerten
Ein erfundener Mietpreis von 1 Euro je berechneter GPU-Stunde ergibt bei 80 Stunden 80 Euro. Das ist kein RunPod-Angebot. Vergleichbar sind die Zahlen nur, wenn beide Varianten in dieser Zeit dieselbe brauchbare Arbeit liefern. Auch Einrichtung, Download, Wartezeiten und eingeschaltete ungenutzte Mietzeit können berechnet werden. Speicherplatz kann zusätzlich kosten und nach dem Stoppen weiterberechnet werden. Transfergebühren hängen vom Anbieter ab; RunPod nennt für Pods ausdrücklich keine Gebühren für ein- und ausgehende Daten.
Für den ständig eingeschalteten Beispielrechner gilt: 50 Euro Anschaffungsanteil plus 12,96 Euro Grundverbrauch für 720 Leerlaufstunden. Jede Laststunde ersetzt eine Leerlaufstunde und kostet deshalb zusätzlich (0,330 − 0,060) × 0,30 = 0,081 Euro. Dabei steht h für die Zahl der Laststunden. Lokal entstehen somit 62,96 + 0,081 × h Euro, die angenommene Miete kostet 1 × h Euro. Gleichstand liegt bei rund 68,5 Stunden. Wäre der Rechner außerhalb der Arbeit vollständig aus und ohne Verbrauch, ergäben sich 50 + 0,099 × h Euro und etwa 55,5 Stunden. Beide Grenzen gelten nur für diese Annahmen, gleiche Arbeitsleistung und ohne weitere Kosten.
Eine API ist eine Programmierschnittstelle zu einem Dienst. Bei Modell-APIs werden häufig Eingabe- und Ausgabetokens getrennt berechnet; Tokens sind Textstücke, keine feste Zahl ganzer Wörter. GPU-Miete bezahlt dagegen Rechnerzeit. Ein fairer Vergleich zählt deshalb die Gesamtkosten derselben Anzahl brauchbarer Aufgaben, etwa 100 geprüfter Dokumentzusammenfassungen. Dazu gehören Wiederholungen nach Fehlern, Einrichtung und Wartezeit. Gleiche Eurobeträge sagen wenig, wenn eine Variante die Aufgabe nicht in ausreichender Qualität erledigt.
Passende Werkzeuge
Fragen und Antworten
Ist ein bestellbares GPU-Angebot bereits ein Nachweis für Lieferbarkeit?
Nein. Eine Bestellmöglichkeit kann auch eine Vorbestellung sein. Konkreter Händler, aktueller Lagerstatus und bestätigter Liefertermin müssen zusammenpassen.
Ab welcher Nutzung lohnt sich ein lokales LLM gegenüber der Cloud?
Die Beispiele zeigen nur die Grenze ihrer Annahmen. Entscheidend sind Kaufpreis, tatsächlicher Stromverbrauch, Ausschaltzeiten, bezahlte Mietzeit und dieselbe brauchbare Arbeit. Ein langsamerer Rechner kann mehr Stunden für dieselbe Aufgabe benötigen.
Quellen
- ALTERNATE: RTX 5090-Angebote
- Caseking: NVIDIA-Grafikkarten
- x-kom: Zotac RTX 5090 AMP Extreme Infinity
- Morele: Gigabyte RTX 5090 Gaming OC
- RunPod: Pods pricing
Quellen erneut geprüft: 25. Oktober 2026. Kein aktueller Preisvergleich. Alle Kostenwerte im Beispiel sind Annahmen.