Lost in the Middle
Definition
Lost in the Middle ist die Neigung von KI-Sprachmodellen, Informationen in der Mitte eines langen Textes zu übersehen, während sie Informationen am Anfang oder Ende zuverlässiger nutzen. Der Name stammt aus einer Studie von Liu und Kollegen aus dem Jahr 2023.
Von Ronan Liedmeier, Fractional Head of Growth und Kursautor · Veröffentlicht 17. Oktober 2026 · Zuletzt aktualisiert 17. Oktober 2026
Auch genannt: Lost-in-the-Middle-Effekt
Das wird relevant, sobald jemand einen langen Vertrag oder einen Stapel Berichte in einen Chat kopiert und nach einem einzelnen Detail fragt.
So funktioniert es
Liu et al. (2023) gaben Modellen eine Frage plus 10, 20 oder 30 kurze Wikipedia-Abschnitte. Nur einer davon enthielt die Antwort, und genau diesen Abschnitt verschoben sie an verschiedene Positionen. Die Trefferquote bildete eine U-Form: am höchsten, wenn der Abschnitt mit der Antwort zuerst oder zuletzt kam, am niedrigsten in der Mitte. Bei GPT-3.5-Turbo lagen die schlechtesten mittleren Positionen in den Tests mit 20 und 30 Abschnitten sogar unter dem Ergebnis desselben Modells ganz ohne Abschnitte.
Getestet wurden Modelle von 2023, darunter GPT-3.5-Turbo, Claude 1.3 und MPT-30B-Instruct. Neuere Modelle mit größerem Kontextfenster zeigen den Effekt womöglich schwächer. Behandle ihn deshalb als Risiko, das du an deinen eigenen Dokumenten testest.
Beispiel
Eine Rechtsanwaltsfachangestellte in einer Kanzlei für Immobilienrecht kopiert einen 80-seitigen Mietvertrag in einen Chat und fragt, ob der Mieter untervermieten darf. Die Klausel zur Untervermietung steht in Abschnitt 14, ungefähr in der Mitte. Die Antwort lautet, der Vertrag regle die Untervermietung nicht. Fügt sie nur die Abschnitte 12 bis 16 ein oder lässt sie das Modell zuerst alle Klauseln zu Mieterrechten Abschnitt für Abschnitt auflisten, findet es die Stelle.
Häufiger Fehler
„Passt ins Kontextfenster“ mit „wird sorgfältig gelesen“ gleichsetzen. Strukturiere die Anfrage stattdessen: Teil das Dokument in Abschnitte, hol die Antwort aus jedem Teil und führ die Ergebnisse dann zusammen.
In AI Academy lernen
- Arbeiten mit langen KontextenFortgeschritten · 14 Min.
Verwandte Begriffe
- Kontextfenster
- Ein Kontextfenster ist die maximale Textmenge, die ein KI-Modell auf einmal berücksichtigen kann, gemessen in Token. Es enthält deine Nachrichten, angehängte Dateien, die Anweisungen und die eigenen Antworten des Modells. Was nicht hineinpasst, bleibt außen vor.
- Retrieval-Augmented Generation (RAG)
- Retrieval-Augmented Generation (RAG) ist ein Verfahren, mit dem ein KI-Modell aus deinen eigenen Dokumenten antwortet. Zuerst findet eine Suche die Textstellen, die zur Frage passen, dann schreibt das Modell seine Antwort auf Basis dieser Stellen.
- Chunking
- Chunking ist das Zerlegen langer Dokumente in kleinere Stücke, bevor sie in ein RAG-System gehen, damit eine Suche genau den passenden Teil findet. Wo du den Text schneidest, entscheidet, ob jedes Stück für sich noch Sinn ergibt.
- Context Engineering
- Context Engineering ist das Festlegen, welche Informationen ein KI-Modell bei jedem Arbeitsschritt sieht: Anweisungen, Dokumente, Tool-Beschreibungen, Gedächtnis und Gesprächsverlauf. Es erweitert Prompt Engineering von der Formulierung einer Anfrage auf alles, was drumherum geladen wird.