Token

Definition

Ein Token ist das kleine Textstück, das ein KI-Sprachmodell liest und schreibt, meist ein kurzes Wort oder ein Teil eines längeren Worts. Im Englischen entspricht ein Token im Schnitt etwa drei Vierteln eines Worts, und Kontextfenster und API-Preise werden in Token gezählt.

Von Ronan Liedmeier, Fractional Head of Growth und Kursautor · Veröffentlicht 17. Oktober 2026 · Zuletzt aktualisiert 17. Oktober 2026

Auch genannt: Tokens, Tokenisierung

Token sind die Einheit, in der alles gemessen wird: wie viel ins Kontextfenster passt und was ein Aufruf über die API kostet.

So funktioniert es

Bevor das Modell deinen Text sieht, zerlegt ein Tokenizer ihn in Stücke aus einem festen Vokabular. Ein häufiges englisches Wort wie „the“ ist ein Token. Seltene Wörter, Namen und lange Zahlen werden in mehrere Stücke geteilt. Die Faustregel von OpenAI für Englisch lautet: etwa vier Zeichen oder drei Viertel eines Worts pro Token. 100 Token entsprechen also ungefähr 75 Wörtern. In anderen Sprachen kann das Verhältnis anders ausfallen.

Bezahlte API-Nutzung wird nach Token abgerechnet, und zwar nach Token rein (dein Prompt, Dateien und der Chatverlauf) und Token raus (die Antwort). Ein Agent, der in Schleifen arbeitet, schickt bei jedem Schritt den ganzen Verlauf erneut mit. Die Eingabe-Token summieren sich dadurch schnell.

Beispiel

Das Support-Team eines Mittelständlers lässt jedes neue Ticket automatisch einordnen und schickt dabei jedes Mal den kompletten Styleguide der Firma mit. Für die Einordnung braucht das Modell nur zwei Absätze davon. Fällt der Rest weg, wird jeder Aufruf kleiner, und die Tickets landen trotzdem in denselben Warteschlangen.

Häufiger Fehler

Wer nie misst, wie viele Token ein Durchlauf braucht, sieht die Verschwendung erst auf der Rechnung: ein großes Dokument, das bei jeder Schleife neu mitgeht, oder ein Spitzenmodell für simples Sortieren. Bring zuerst das Ergebnis in Ordnung. Prüf dann die Kosten pro Durchlauf und streich, was das Modell nicht sehen muss.

In AI Academy lernen

Verwandte Begriffe

Kontextfenster
Ein Kontextfenster ist die maximale Textmenge, die ein KI-Modell auf einmal berücksichtigen kann, gemessen in Token. Es enthält deine Nachrichten, angehängte Dateien, die Anweisungen und die eigenen Antworten des Modells. Was nicht hineinpasst, bleibt außen vor.
Prompt-Caching
Prompt-Caching ist eine Funktion von KI-APIs, die den verarbeiteten Anfang eines wiederholt gesendeten Prompts speichert, damit spätere Anfragen mit exakt demselben Anfang günstiger und schneller sind. Nur dieser Anfang wird wiederverwendet, die Antwort entsteht jedes Mal neu.
API (Programmierschnittstelle)
Eine API (Programmierschnittstelle) ist eine Reihe von Anfragen, die ein Softwaredienst von anderen Programmen annimmt, ähnlich wie eine Speisekarte. Ein Programm schickt eine Anfrage wie „Kontakt anlegen“, und der Dienst schickt Daten oder eine Bestätigung zurück.
Latenz (KI-Antwortzeit)
Latenz ist die Zeit, die ein KI-System für eine Antwort braucht, vom Absenden der Anfrage, bis die Antwort oder ihre ersten Wörter ankommen. In Agent-Workflows summiert sie sich über jeden Modell- und Tool-Aufruf eines Durchlaufs.

Quellen

Alle Begriffe ansehen

Finde deinen nächsten Schritt mit KI