Prompt-Caching
Definition
Prompt-Caching ist eine Funktion von KI-APIs, die den verarbeiteten Anfang eines wiederholt gesendeten Prompts speichert, damit spätere Anfragen mit exakt demselben Anfang günstiger und schneller sind. Nur dieser Anfang wird wiederverwendet, die Antwort entsteht jedes Mal neu.
Von Ronan Liedmeier, Fractional Head of Growth und Kursautor · Veröffentlicht 17. Oktober 2026 · Zuletzt aktualisiert 17. Oktober 2026
Auch genannt: Prompt Caching, Context Caching
Es lohnt sich in jedem Workflow, der bei jedem Aufruf dieselben langen Anweisungen oder dasselbe Referenzdokument mitschickt.
So funktioniert es
Sobald Caching aktiv ist (bei OpenAI automatisch, bei Anthropic über eine Einstellung in der Anfrage), prüft der Anbieter, ob der Anfang eines Prompts mit etwas übereinstimmt, das er kürzlich verarbeitet hat. Falls ja, nutzt er diese Arbeit erneut und berechnet die betreffenden Token der Eingabe zu einem reduzierten Preis. Falls nein, verarbeitet er den ganzen Prompt und hält den Anfang für das nächste Mal vor. Anthropic und OpenAI dokumentieren beide, dass die Übereinstimmung exakt sein muss: Änderst du ein Zeichen weit oben, wird alles danach neu verarbeitet. Gespeicherte Einträge verfallen außerdem, wenn sie eine Zeit lang nicht genutzt werden.
Deshalb zählt die Reihenfolge. Stabile Inhalte kommen nach vorn (der System-Prompt, Beispiele, Referenzmaterial), wechselnde Inhalte ans Ende (die Frage des Nutzers, das heutige Datum, der Datensatz, der gerade verarbeitet wird).
Beispiel
Ein Newsletter-Workflow schickt dutzende Male am Tag denselben langen Styleguide plus einen neuen Artikel an ein Modell. Der ursprüngliche Prompt begann mit dem Artikel und endete mit dem Styleguide, also wurde nie etwas wiederverwendet. Steht der Styleguide oben und der Artikel am Ende, kann der Anbieter den Styleguide bei jedem Aufruf wiederverwenden, solange der Cache warm ist, und die Kosten für die Eingabe sinken.
Häufiger Fehler
Etwas, das sich bei jedem Aufruf ändert, an den Anfang des Prompts stellen, etwa einen Zeitstempel, einen Kundennamen oder eine Datensatz-ID. Dann stimmt der Anfang nie exakt überein, nichts wird wiederverwendet, und du zahlst bei jeder Anfrage den vollen Preis, ohne es zu merken. Kommen dir die API-Kosten hoch vor, prüf zuerst, wo deine variablen Felder stehen, bevor du auf ein günstigeres Modell wechselst.
In AI Academy lernen
- Kosten- & LatenzbewusstseinFortgeschritten · 13 Min.
- Fortgeschrittenes Prompting 2026Experte · 7 Min.
Verwandte Begriffe
- Token
- Ein Token ist das kleine Textstück, das ein KI-Sprachmodell liest und schreibt, meist ein kurzes Wort oder ein Teil eines längeren Worts. Im Englischen entspricht ein Token im Schnitt etwa drei Vierteln eines Worts, und Kontextfenster und API-Preise werden in Token gezählt.
- Latenz (KI-Antwortzeit)
- Latenz ist die Zeit, die ein KI-System für eine Antwort braucht, vom Absenden der Anfrage, bis die Antwort oder ihre ersten Wörter ankommen. In Agent-Workflows summiert sie sich über jeden Modell- und Tool-Aufruf eines Durchlaufs.
- System-Prompt
- Ein System-Prompt ist der Block fester Anweisungen, den ein KI-Modell vor dem Gespräch bekommt und der für jede Antwort gilt. Er legt Rolle, Ton, Regeln und Ausgabeformat fest, und wer mit dem Assistenten chattet, sieht ihn meist nie.
- API (Programmierschnittstelle)
- Eine API (Programmierschnittstelle) ist eine Reihe von Anfragen, die ein Softwaredienst von anderen Programmen annimmt, ähnlich wie eine Speisekarte. Ein Programm schickt eine Anfrage wie „Kontakt anlegen“, und der Dienst schickt Daten oder eine Bestätigung zurück.