LLM-Token

Was ist ein LLM-Token?

Ein LLM-Token ist die Einheit, in der ein Sprachmodell Text liest und schreibt: ein kurzer Zeichenabschnitt, im Durchschnitt etwa drei Viertel eines englischen Worts. Token sind zudem die Abrechnungseinheit jeder Modell-API, weshalb die Token-Anzahl sowohl bestimmt, was in eine Anfrage passt, als auch, was jede Anfrage kostet.

Die wichtigsten Punkte

• Faustregel für Englisch: 1 Token entspricht etwa 4 Zeichen, und 1.000 Token entsprechen etwa 750 Wörtern. Anthropics eigene Dokumentation gibt für Claude-Modelle etwa 3,5 englische Zeichen pro Token an, wobei das genaue Verhältnis je nach Sprache variiert [1]. Code ist wegen Symbolen und Leerzeichen dichter in Token.
• Jede API-Rechnung wird in Token abgerechnet, wobei Ausgabe-Token typischerweise um ein Vielfaches teurer sind als Eingabe-Token. Agenten-Läufe sind meist eingabelastig, weshalb Prompt Caching so wichtig ist.
• Das Token-Limit, an das man in der Praxis stößt, ist das Context Window: die maximale Anzahl an Token, die ein Modell in einer Anfrage verarbeiten kann – einschließlich Prompt, bisherigem Gesprächsverlauf und Antwort.
• Agenten verbrauchen Token rasant. Jedes Tool-Ergebnis, jedes Datei-Lesen und jede vorherige Runde wird bei jedem Schritt erneut mitgeschickt, sodass eine einzige Coding-Aufgabe Hunderttausende Eingabe-Token verbrauchen kann.

So funktioniert es

Modelle sehen niemals rohen Text. Bevor eine Anfrage läuft, zerlegt ein Tokenizer die Eingabe in Stücke aus einem festen Vokabular, typischerweise 50.000 bis 200.000 Einträge, die während des Trainings erlernt wurden – ein Vorgang, der ausführlicher unter Tokenisierung behandelt wird. Häufige Wörter wie „the" erhalten ein einziges Token. Seltenere Zeichenketten werden in Fragmente zerlegt: „kubectl" könnte zu „ku", „bect", „l" werden. Jedes Token wird auf eine ID abgebildet, und diese IDs sind es, was das Modell tatsächlich verarbeitet. Die Generierung läuft auf dieselbe Weise umgekehrt ab, wobei das Modell ein Token nach dem anderen ausgibt, bis es fertig ist.

Die Preisgestaltung folgt der Mechanik. Anbieter messen Eingabe-Token (alles, was gesendet wird) und Ausgabe-Token (alles, was das Modell erzeugt) zu getrennten Sätzen ab, und diese Sätze sind stark gesunken: Stanfords AI Index 2025 stellte fest, dass die Inferenzkosten eines Systems auf GPT-3.5-Niveau zwischen November 2022 und Oktober 2024 pro Million Token um mehr als das 280-Fache gefallen sind [2]. Reasoning-Modelle fügen einen dritten Posten hinzu, Denk-Token (Thinking Tokens), für die als Ausgabe bezahlt wird, obwohl sie möglicherweise nie in der Antwort erscheinen. Da Agenten-Schleifen das wachsende Transkript bei jedem Schritt erneut mitschicken, wachsen die gesamten Eingabe-Token ungefähr quadratisch mit der Gesprächslänge. Das ist der mit Abstand größte Hebel für Agentenkosten, weshalb Teams Tool-Ausgaben zusammenfassen, Transkripte kürzen und stabile Prompt-Präfixe cachen.

Beispiel

Ein Ingenieur bittet einen Coding-Agenten, einen fehlschlagenden Test zu reparieren. System-Prompt und Tool-Definitionen summieren sich auf 6.000 Token. Der Agent liest drei Quelldateien mit je 4.000 Token, führt die Testsuite zweimal mit je 2.000 Token Ausgabe aus und arbeitet sich durch acht Reasoning-Runden. Beim letzten Schritt trägt jede Anfrage das vollständig akkumulierte Transkript, und der Lauf summiert sich auf etwa 350.000 Eingabe-Token und 9.000 Ausgabe-Token. Mit Prompt Caching auf dem stabilen Präfix wird der Großteil dieser Eingabe-Token stark rabattiert abgerechnet, was die Kosten des Laufs von ein paar Dollar auf deutlich unter einen senkt. Niemand hat 350.000 Token getippt – das hat die Schleife getan.

Häufige Missverständnisse

Viele behandeln Token wie Wörter und schätzen Kosten anhand von Wortanzahlen. Dieser Fehler summiert sich bei echten Workloads erheblich. Code, JSON, URLs und nicht-englischer Text tokenisieren weit weniger effizient als englischer Fließtext, manchmal bei einem Token pro Zeichen. Ein 2.000 Wörter langes englisches Dokument und ein vergleichbares 2.000-Wörter-Äquivalent auf Japanisch oder eine JSON-Payload ähnlicher optischer Länge können sich um das Dreifache oder mehr in der Token-Anzahl unterscheiden. Statt die Länge über den Daumen zu peilen, sollte mit dem Token-Zähl-Endpunkt des Anbieters gemessen werden, besonders bevor man sich auf ein Budget pro Anfrage festlegt.

FAQ

Was ist ein Token-Limit? Das Token-Limit, meist Context Window genannt, ist die maximale Anzahl an Token, die ein Modell in einer Anfrage verarbeiten kann, Eingabe und Ausgabe zusammengerechnet. Aktuelle Produktionsmodelle bieten üblicherweise 200.000 bis über eine Million Token. Wird es überschritten, lehnt die API die Anfrage ab, oder der älteste Inhalt wird abgeschnitten.

Wie viele Token hat ein typisches Wort? Im Englischen im Durchschnitt etwa 1,3 Token pro Wort. Kurze, häufige Wörter sind ein einziges Token; lange, seltene oder fachliche Wörter zerfallen in mehrere. Das Verhältnis ist bei Code und den meisten Sprachen außer Englisch schlechter.

Warum berechnen Anbieter pro Token statt pro Anfrage? Die Rechenkosten skalieren mit den verarbeiteten Token, nicht mit den Anfragen. Eine Frage aus zehn Wörtern und ein hundertseitiges Dokument sind völlig unterschiedliche Workloads, und die Token-Preisgestaltung bildet die tatsächliche GPU-Zeit ab, die jedes davon bei der KI-Inferenz beansprucht. Die beteiligten Mengen sind gewaltig: Google berichtete, dass es Stand Mai 2025 über 480 Billionen Token pro Monat über seine Produkte und APIs verarbeitete – ein 50-facher Anstieg gegenüber 9,7 Billionen ein Jahr zuvor [3].

Quellen

1. Anthropic. Claude-Glossar: Ein Token entspricht etwa 3,5 englischen Zeichen. https://platform.claude.com/docs/en/about-claude/glossary. Abgerufen im August 2026.
2. Stanford HAI. AI Index Report 2025: Die Inferenzkosten auf GPT-3.5-Niveau fielen zwischen November 2022 und Oktober 2024 pro Million Token um mehr als das 280-Fache. https://hai.stanford.edu/ai-index/2025-ai-index-report. Abgerufen im August 2026.
3. Google. I/O-2025-Keynote: über 480 Billionen Token monatlich verarbeitet, ein 50-facher Anstieg gegenüber dem Vorjahr. https://blog.google/technology/ai/io-2025-keynote/. Abgerufen im August 2026.