{"id":13022,"date":"2026-09-13T12:45:00","date_gmt":"2026-09-13T10:45:00","guid":{"rendered":"https:\/\/www.lukaswojcik.com\/blog\/?p=13022"},"modified":"2026-10-26T12:44:08","modified_gmt":"2026-10-26T11:44:08","slug":"tutorial-tokenverbrauch-je-anfrage-messen-und-ein-monatsbudget-durchsetzen","status":"publish","type":"post","link":"https:\/\/www.lukaswojcik.com\/blog\/de\/cloud-ai-de\/tutorials-de-cloud-ai-de\/tutorial-tokenverbrauch-je-anfrage-messen-und-ein-monatsbudget-durchsetzen\/","title":{"rendered":"Tutorial: Tokenverbrauch je Anfrage messen und ein Monatsbudget durchsetzen"},"content":{"rendered":"
Ein brauchbares API-Budget verbindet drei Aufzeichnungen: eine Reservierung vor der Anfrage, gemessenen Verbrauch nach der Antwort und einen sp\u00e4teren Abgleich mit den Anbietergeb\u00fchren. Eine Token-Gesamtsumme reicht daf\u00fcr nicht. Anbieter, Modell, Verarbeitungstarif, Cacheklasse und zus\u00e4tzliche Werkzeuge k\u00f6nnen den Preis ver\u00e4ndern.<\/p>\n
1. Das Verbrauchsschema des Anbieters verstehen<\/h2>\n
Bei Anthropic Messages bezeichnet input_tokens<\/code> die nicht zwischengespeicherte Eingabe. Cacheaufbau und Cachezugriffe bilden zus\u00e4tzliche Eingabeklassen; f\u00fcr den Aufbau k\u00f6nnen je Speicherdauer unterschiedliche Preise gelten. Bei OpenAI Responses ist input_tokens<\/code> dagegen die gesamte Eingabe, einschlie\u00dflich Cachezugriffen und unterst\u00fctzten Cache-Schreibklassen. Eine Addition dieser Unterklassen zur Gesamtsumme w\u00fcrde Eingabe doppelt z\u00e4hlen. Die Strukturen unterscheiden sich fachlich, nicht blo\u00df in ihren Namen.<\/p>\n
Der folgende erfundene, vereinheitlichte Datensatz verwendet vier \u00fcberschneidungsfreie Klassen. Die Preise in USD je Million Token dienen der Rechnung und sind kein aktuelles Angebot f\u00fcr ein benanntes Modell. Ein echter Adapter muss den gew\u00e4hlten Endpunkt und s\u00e4mtliche einschl\u00e4gigen Cachelaufzeiten ber\u00fccksichtigen.<\/p>\n
from decimal import Decimal, ROUND_CEILING\n\n# Fictional normalized classes and example USD rates per million.\ncounts = {"input": 12400, "write_5m": 8200, "read": 96000, "output": 1850}\nrates = {k: Decimal(v) for k, v in {\n "input": "3.00", "write_5m": "3.75", "read": "0.30", "output": "15.00"\n}.items()}\ncost_usd = sum(Decimal(counts[k]) * rates[k] for k in counts) \/ Decimal(1_000_000)\nactual_u = int((cost_usd * 1_000_000).to_integral_value(rounding=ROUND_CEILING))\nprint(cost_usd, actual_u) # 0.1245, 124500\n<\/code><\/pre>\n
Die exakten Teilbetr\u00e4ge lauten 0,0372, 0,03075, 0,0288 und 0,02775 USD, zusammen 0,1245 USD. Werden alle angezeigten Teilbetr\u00e4ge vorher gerundet, kann deren sichtbare Summe abweichen. Dezimalrechnung erh\u00e4lt die Berechnung; das Reservierungsjournal unten verwendet ganzzahlige Mikro-USD, also 1.000.000 Einheiten je USD. Aufrunden auf diese Einheit ist eine interne Budgetregel, keine Rechnungsregel des Anbieters.<\/p>\nVier Stufen der API-Budgetkontrolle<\/figcaption><\/figure>\n
2. Vorher z\u00e4hlen, nach Abschluss protokollieren<\/h2>\n
Anthropics Z\u00e4hlendpunkt ist innerhalb seiner Ratenbegrenzungen kostenlos und liefert eine Sch\u00e4tzung ohne Cachelogik. Nicht alle von Messages unterst\u00fctzten Eingaben sind dort zul\u00e4ssig: Die aktuelle Dokumentation schlie\u00dft die meisten Serverwerkzeuge, den MCP-Connector und Bild- oder Dokumentbl\u00f6cke mit URL-\/Dateiquellen aus. Modell und vollst\u00e4ndige unterst\u00fctzte Anfrageform sind entscheidend. Ein reiner Texttokenizer sch\u00e4tzt Werkzeuge, Bilder und Nachrichtenrahmen nicht allgemeing\u00fcltig ab.<\/p>\n
Beim Streaming erscheint Verbrauch nicht grunds\u00e4tzlich erst im letzten Ereignis. Anthropic liefert anf\u00e4ngliche Angaben in message_start<\/code> und kumulierte Aktualisierungen in message_delta<\/code>. Die Addition s\u00e4mtlicher kumulierter Werte w\u00fcrde \u00fcberz\u00e4hlen. Aufeinanderfolgende Gesamtst\u00e4nde von 10 und 20 bedeuten beispielsweise bisher 20 Token, nicht 30. Eine unterst\u00fctzte SDK-Funktion f\u00fcr die abgeschlossene Nachricht erleichtert das Sammeln. Abgebrochene Streams und Verbindungsfehler k\u00f6nnen unvollst\u00e4ndige Angaben hinterlassen. Fehlende Daten bleiben unbekannt und werden nicht zu null.<\/p>\n
Ein dauerhaftes Pr\u00fcfprotokoll sollte logischen Vorgang, eindeutige Versuchs-ID, verf\u00fcgbare Anbieterkennungen, Zeitpunkte, Funktion, Anbieter und Modell, Preisstand, Reservierung und Rohverbrauch verkn\u00fcpfen. Prompts und API-Schl\u00fcssel werden daf\u00fcr nicht ben\u00f6tigt. Eine Wiederholung ist ein eigener Versuch mit eigener Reservierung f\u00fcr m\u00f6gliche Kosten. Ein Timeout beweist weder eine Berechnung noch einen Abbruch beim Anbieter; Antwortheader k\u00f6nnen den Client \u00fcberhaupt nicht erreicht haben.<\/p>\n
3. Die vollst\u00e4ndige Obergrenze atomar reservieren<\/h2>\n
Die Obergrenze muss Eingabe, h\u00f6chstm\u00f6gliche einschl\u00e4gige Ausgabe, m\u00f6gliche Cache-Schreibkosten und begrenzte Werkzeug- oder Schleifenkosten abdecken. Nur die maximale Ausgabe gen\u00fcgt nicht. Unbekannte Preise, unbegrenzte Werkzeugschleifen oder ein fehlgeschlagener Journaleintrag m\u00fcssen den Versand verhindern. Cachetreffer d\u00fcrfen f\u00fcr diese Obergrenze nicht vorausgesetzt werden.<\/p>\n
Die ausf\u00fchrbare ledger.py<\/code> zeigt eine Freigabepr\u00fcfung f\u00fcr eine Anwendung, eine W\u00e4hrung und eine UTC-Kalendermonatsregel. Alle Aufrufer m\u00fcssen dieselbe lokale SQLite-Datenbank verwenden. Eine Datenbank f\u00fcr mehrere Hosts oder eine vollst\u00e4ndige Abrechnungsintegration entsteht daraus nicht. Die Betragspr\u00fcfung begrenzt jeden Wert auf eine Million USD in Mikroeinheiten.<\/p>\n
Vor der ersten Reservierung legt initialise(database_path)<\/code> die Tabellen an. Ausgabeverbrauch kann unsichtbare Denk- oder Formatierungstoken enthalten; die sichtbare Antwortl\u00e4nge ist kein Ausgabez\u00e4hler.<\/p>\n
import sqlite3\nfrom datetime import datetime, timezone\n\nclass BudgetExceeded(Exception):\n pass\n\ndef units(value):\n if type(value) is not int or not 0 <= value <= 10**12:\n raise ValueError("Expected non-negative integer micro-USD, at most 10^12")\n return value\n\ndef connect(path):\n db = sqlite3.connect(path, timeout=10, isolation_level=None)\n db.execute("PRAGMA foreign_keys=ON")\n return db\n\ndef initialise(path):\n db = connect(path)\n try:\n db.executescript("""\n CREATE TABLE IF NOT EXISTS budgets(\n month TEXT PRIMARY KEY, limit_u INTEGER NOT NULL,\n breached INTEGER NOT NULL DEFAULT 0);\n CREATE TABLE IF NOT EXISTS calls(\n attempt_id TEXT PRIMARY KEY,\n month TEXT NOT NULL REFERENCES budgets(month),\n reserved_u INTEGER NOT NULL, actual_u INTEGER,\n state TEXT NOT NULL CHECK(state IN ('pending','settled')));\n """)\n finally:\n db.close()\n\ndef reserve(path, attempt_id, upper_u, limit_u, now=None):\n upper_u, limit_u = units(upper_u), units(limit_u)\n if not isinstance(attempt_id, str) or not attempt_id:\n raise ValueError("Stable, nonempty attempt ID required")\n now = datetime.now(timezone.utc) if now is None else now\n if now.tzinfo is None or now.utcoffset() is None:\n raise ValueError("Timezone-aware timestamp required")\n month = now.astimezone(timezone.utc).strftime("%Y-%m")\n db = connect(path)\n try:\n db.execute("BEGIN IMMEDIATE")\n if db.execute("SELECT 1 FROM calls WHERE attempt_id=?",\n (attempt_id,)).fetchone():\n db.commit()\n return False # No second permission to send.\n db.execute("INSERT OR IGNORE INTO budgets(month,limit_u) VALUES (?,?)",\n (month, limit_u))\n stored_limit, breached = db.execute(\n "SELECT limit_u,breached FROM budgets WHERE month=?", (month,)\n ).fetchone()\n if stored_limit != limit_u:\n raise ValueError("Conflicting limit for this month")\n used = db.execute(\n "SELECT COALESCE(SUM(COALESCE(actual_u,reserved_u)),0) "\n "FROM calls WHERE month=?", (month,)\n ).fetchone()[0]\n if breached or used + upper_u > limit_u:\n raise BudgetExceeded(month)\n db.execute("INSERT INTO calls VALUES (?,?,?,?,?)",\n (attempt_id, month, upper_u, None, "pending"))\n db.commit()\n return True\n except BaseException:\n db.rollback()\n raise\n finally:\n db.close()\n\ndef settle(path, attempt_id, actual_u):\n actual_u = units(actual_u)\n db = connect(path)\n try:\n db.execute("BEGIN IMMEDIATE")\n row = db.execute(\n "SELECT month,reserved_u,actual_u,state FROM calls WHERE attempt_id=?",\n (attempt_id,)\n ).fetchone()\n if row is None:\n raise ValueError("Unknown attempt")\n month, reserved, old_actual, state = row\n if state == "settled":\n if old_actual != actual_u:\n raise ValueError("Conflicting settlement")\n db.commit()\n return\n db.execute("UPDATE calls SET actual_u=?,state='settled' WHERE attempt_id=?",\n (actual_u, attempt_id))\n if actual_u > reserved:\n db.execute("UPDATE budgets SET breached=1 WHERE month=?", (month,))\n db.commit()\n except BaseException:\n db.rollback()\n raise\n finally:\n db.close()\n<\/code><\/pre>\n
BEGIN IMMEDIATE<\/code> beginnt die Schreibtransaktion bereits vor dem Lesen der Summe. Dadurch k\u00f6nnen zwei gleichzeitige Aufrufer nicht denselben verbleibenden Budgetbetrag reservieren. Die Reservierung wird vor der Netzwerkanfrage festgeschrieben; w\u00e4hrend des API-Aufrufs bleibt keine Transaktion offen. Nur ein wahrer R\u00fcckgabewert von reserve()<\/code> erlaubt den Versand. False bedeutet einen bereits vorhandenen Versuch, keine erneute Versandfreigabe. Sperr- und Datenbankfehler m\u00fcssen den Aufruf stoppen.<\/p>\n
PSEUDOCODE\nvalidate provider, model, pricing snapshot and complete cost bound\npersist a unique attempt ID and audit context\nif reserve(database, attempt_id, upper_bound_u, monthly_limit_u) is True:\n send exactly one provider attempt outside the database transaction\n on complete usage:\n persist the original usage and provider identifiers\n calculate cost with the recorded pricing snapshot\n settle(database, attempt_id, actual_cost_u)\n on unknown outcome or unknown cost:\n keep the reservation pending and investigate\n<\/code><\/pre>\n
Das gespeicherte Limit bleibt f\u00fcr diesen Monat fest. Eine sp\u00e4tere \u00dcberschreitungsmarkierung bricht bereits freigegebene Anfragen nicht ab.<\/p>\n
Der Ablauf ist Pseudocode f\u00fcr den Anbieteradapter: Ein gepr\u00fcfter Preisstand und eine vollst\u00e4ndige Obergrenze sind Voraussetzungen. Der ausf\u00fchrbare Code dar\u00fcber ruft keine API auf. Eine Abrechnung wird einmal gespeichert; identische Wiederholungen bleiben m\u00f6glich, widerspr\u00fcchliche Betr\u00e4ge werden abgelehnt. \u00dcbersteigen tats\u00e4chliche Kosten die Reservierung, wird der Mehrverbrauch erfasst und der Monat f\u00fcr weitere Freigaben gesperrt. Bereits entstandene Kosten lassen sich damit nicht zur\u00fccknehmen.<\/p>\n
4. Unklare Versuche sichtbar halten<\/h2>\n
Ein Absturz nach der Reservierung, aber vor dem Versand kann ungenutztes Budget blockieren. Ein Timeout nach dem Versand kann tats\u00e4chliche Kosten ungekl\u00e4rt lassen. Beide F\u00e4lle automatisch verfallen zu lassen, w\u00fcrde ohne Nachweis neuen Spielraum \u00f6ffnen. Die Wiederherstellung ben\u00f6tigt Pr\u00fcfprotokoll und Anbieterinformationen; nur nachweislich kostenfreie Versuche sollten mit null abgeschlossen werden.<\/p>\n
Der Monat wird bei der Reservierung anhand von UTC zugeordnet. Eine sp\u00e4tere Abrechnung bleibt diesem Monat zugeordnet. Das ist eine interne Regel, keine Aussage \u00fcber den Rechnungszeitpunkt. Einreichung, Ausf\u00fchrung, lokale Abrechnung und Anbieterperiode sollten bei asynchronen Stapeln und Monatsgrenzen getrennt erhalten bleiben.<\/p>\n
\n
Fragen und Antworten<\/h2>\n
Bleibt die Anbieterrechnung damit garantiert unter dem Budget?<\/h3>\n
Nein. Obergrenze, Preisadapter und Einbindung s\u00e4mtlicher kostenpflichtiger Vorg\u00e4nge m\u00fcssen stimmen. Andere API-Schl\u00fcssel, fehlende Werkzeugkosten, Vertragsbedingungen, Steuern oder sp\u00e4tere Korrekturen k\u00f6nnen au\u00dferhalb des lokalen Journals liegen. Anbieterseitige Grenzen k\u00f6nnen zus\u00e4tzlich sch\u00fctzen, sofern vorhanden; ma\u00dfgeblich ist deren dokumentierter Umfang.<\/p>\n
L\u00e4sst sich jede Anfrage beim Abgleich einzeln zuordnen?<\/h3>\n
Nein. Anthropics Usage- und Cost-APIs liefern aggregierte Zeitabschnitte und Gruppierungsmerkmale. Ein Export jeder einzelnen Anfrage darf nicht vorausgesetzt werden. Auch die Kostenabdeckung besitzt dokumentierte Grenzen. Zeitraum, W\u00e4hrung und Umfang m\u00fcssen vor der Interpretation einer Abweichung zusammenpassen.<\/p>\n
Was belegen die Beispieltests?<\/h3>\n
Acht parallele Reservierungsversuche erlaubten bei einer Grenze von 100 genau zwei Betr\u00e4ge von 40. Weitere isolierte Pr\u00fcfungen betrafen doppelte Abrechnungen, ungekl\u00e4rte offene Versuche, widerspr\u00fcchliche Limits, ung\u00fcltige Betr\u00e4ge und UTC-Monatsgrenzen. Kostenpflichtige API-Aufrufe und echte Rechnungen wurden nicht getestet.<\/p>\n<\/div>\n
![\"Vier](\"https:\/\/www.lukaswojcik.com\/blog\/wp-content\/uploads\/diagrams\/dia-13020-token-budget-20261024-de.png\")