Die Kernidee
Large Language Models sind im Kern Maschinen zur Mustervervollständigung: Sie sagen voraus, welches Wort als Nächstes kommen sollte. In großem Maßstab wirkt das wie echtes Denken. Das bedeutet aber auch: Sie sind zuerst eloquent und erst an zweiter Stelle präzise. Halluzinationen sind kein Bug, der einfach behoben wird, sondern ein Grundmerkmal dieser Technologie. Deine wichtigste Aufgabe ist es daher zu wissen, wann du einer Antwort vertrauen kannst und wann du nachhaken musst.
Deep Dive
Was ein Large Language Model wirklich ist
ChatGPT, Claude, Gemini – sie alle sind Large Language Models (LLMs). Zieht man das Marketing ab, bleibt ein System, das mit gewaltigen Textmengen trainiert wurde und eine Fähigkeit perfekt beherrscht: vorauszusagen, welcher Text als Nächstes folgen sollte. Wenn du fragst: „Was ist die Hauptstadt von Frankreich?“, schlägt das Modell keinen Datenbankeintrag nach. Es vervollständigt ein Muster – denn auf diesen Satzanfang folgte in all seinen Trainingsdaten fast ausnahmslos das Wort „Paris“. Skaliert man dieses Prinzip auf Billionen Wörter, entsteht etwas Erstaunliches: die Fähigkeit zu logischem Denken, Zusammenfassen, Übersetzen, Programmieren und Führen natürlicher Unterhaltungen.
Daraus folgen drei praktische Konsequenzen. Erstens: **LLMs sind zuerst eloquent, erst danach präzise.** Das Modell ist darauf optimiert, plausiblen Text zu generieren. Oft deckt sich plausibel mit wahr – aber eben nicht immer. Das Modell präsentiert eine falsche Antwort mit derselben Selbstsicherheit wie eine richtige. Das nennt man Halluzination, und es ist kein Bug, der jemals restlos „behoben“ wird, sondern ein fester Bestandteil der Technologie.
Zweitens: **LLMs kennen von Haus aus nicht die Nachrichten von heute.** Modelle werden bis zu einem festen Stichtag (Cutoff-Datum) trainiert. Für alles danach brauchen sie eine Websuche oder angebundene Tools. Drittens: **Quality in, quality out.** Das Modell führt *deinen* Text fort. Ein vager Prompt führt zu einer generischen Antwort; ein Prompt voller Kontext liefert ein präzise zugeschnittenes Ergebnis.
Tokens, Kontextfenster und warum lange Chats ungenau werden
LLMs lesen und schreiben in Tokens – das sind Textbausteine von etwa ¾ eines Wortes. Jedes Modell hat ein bestimmtes Kontextfenster: die maximale Textmenge, die es auf einmal im Blick behalten kann. Dazu gehören dein gesamter Chatverlauf, hochgeladene Dateien und die eigenen Antworten. Betrachte es einfach als den Arbeitsspeicher oder die Schreibtischfläche des Modells.
Zwei Punkte sind selbst bei den heutigen riesigen Fenstern entscheidend: Alles konkurriert um Aufmerksamkeit. Wenn du ein 90-seitiges PDF hochlädst und eine einzige Frage stellst, muss die relevante Stelle mit 89 unwichtigen Seiten um die Aufmerksamkeit des Modells kämpfen. Weise das Modell also gezielt auf den richtigen Abschnitt hin. Außerdem bauen lange Chats mit der Zeit ab: Nach Dutzenden Nachrichten sammeln sich Widersprüche und veraltete Anweisungen an. Wenn ein Chat konfus wird, starte einfach einen neuen Chat und füge eine kurze Zusammenfassung des bisherigen Stands ein. Die goldene Faustregel lautet: Ein Chat pro Aufgabe.
Modelle, Modi und echtes Reasoning
In modernen KI-Tools triffst du meist auf verschiedene Modelle oder Modi: schnelle, leichte Modelle, die praktisch sofort antworten und sich perfekt für Umformulierungen oder kurze Fragen eignen; Flaggschiff-Modelle, die zwar etwas langsamer sind, aber bei komplexen Aufgaben und anspruchsvollen Texten weitaus besser abschneiden; Reasoning- oder „Extended Thinking“-Modi, in denen das Modell vor der Antwort Schritt für Schritt nachdenkt – ideal für Mathe, Planung und mehrstufige Analysen; und schließlich Deep Research-Modi, bei denen die KI über 5 bis 30 Minuten hinweg selbstständig Dutzende Quellen recherchiert und auswertet.
Die Faustregel für die Praxis: Nutze für alles, worauf es wirklich ankommt, standardmäßig das beste verfügbare Modell. Der Preisunterschied liegt meist im Cent-Bereich, der Qualitätsunterschied entscheidet jedoch oft darüber, ob das Ergebnis brauchbar ist oder nicht.
Wann du vertrauen kannst und wann du prüfen musst
Wende bei jedem KI-Ergebnis eine gedankliche Triage an. Brainstorming, Entwürfe und Umformulierungen genießen hohes Vertrauen – du kannst sie direkt verwenden. Zusammenfassungen von Texten, die du selbst bereitgestellt hast, verdienen mittleres bis hohes Vertrauen – prüfe hier stichprobenartig wichtige Zahlen. Allgemeinwissen und etablierte Fakten liegen im mittleren Bereich. Konkrete Zahlen, Daten, Preise, Gesetze und Zitate gehören in die Kategorie mit geringem Vertrauen – überprüfe sie immer. Alles, was du veröffentlichst, an Kundinnen und Kunden sendest oder bei Behörden einreichst, verdient niedriges Vertrauen: Verifiziere jede einzelne Tatsachenbehauptung.
Zwei Prüfgewohnheiten dauern nur Sekunden: Frage nach Quellen („Suche im Web und nenne mir verlinkte Quellen für jede Behauptung“) und klicke ein oder zwei Links an. Oder bitte das Modell, gegen sich selbst zu argumentieren: „Was an deiner obigen Antwort könnte falsch oder veraltet sein?“ Modelle sind erstaunlich gut darin, eigene Fehler aufzuspüren, wenn man sie gezielt dazu auffordert. Unterschreibe, veröffentliche oder bezahle niemals auf Basis einer ungeprüften KI-Aussage. Eine KI ist deine Rechercheassistenz – nicht dein Steuerberater, Anwalt oder Arzt.
Chatbots vs. Agenten: Der Wandel, der alles verändert
Bis vor Kurzem war KI vor allem ein Chatbot: Du schreibst etwas, sie antwortet, und die eigentliche Arbeit erledigst du. Der große Umbruch der Jahre 2025–2026 führt uns direkt zu Agenten: KIs, die selbst handeln können. Sie durchsuchen das Netz, lesen und bearbeiten Dateien, greifen auf deinen Kalender zu, führen Programme aus, navigieren durch Webseiten, wickeln mehrstufige Pläne ab und arbeiten eigenständig weiter, bis eine Aufgabe erledigt ist.
Dasselbe Grundmodell verhält sich völlig unterschiedlich, je nachdem, woran es angebunden ist: Claude in einem einfachen Browser-Tab ist ein extrem cleveres Textfeld. Claude, der über MCP mit deinem Gmail-Konto, Kalender und Notion verknüpft ist, wird zum echten Assistenten, der Dinge aktiv prüft und aktualisiert. Claude Code oder Codex auf deinem Computer ist ein Agent, der Tausende Dateien organisieren oder ein funktionierendes Tool für dich bauen kann. Dieser Kurs führt dich Schritt für Schritt diese Leiter hinauf: erst solide Chat-Fähigkeiten, dann Agenten, dann Verknüpfungen und schließlich komplette Systeme.
Ausführung & Setup
- Die Lücke zwischen Sprachgewandtheit und Genauigkeit getestet. Du hast mindestens eine Tatsachenbehauptung (einen Preis, ein Datum oder eine Zahl) mit verlässlichen Fakten abgeglichen, die du unabhängig wusstest.
- Auf Echtzeit-Aktualität geprüft. Du hast bei einer zeitkritischen Frage überprüft, ob das Modell tatsächlich im Web gesucht hat oder nur aus seinen Trainingsdaten geantwortet hat.
- Gezielte Aufforderungen zur Selbstkritik geübt. Du hast das Modell gefragt, was an seiner eigenen Antwort eine Überprüfung verdient, und eine konkrete Antwort festgehalten.
- Modi an einer echten Frage verglichen. Du hast dieselbe mehrschrittige Frage sowohl im Standard- als auch im Denk-/Reasoning-Modus gestellt und einen konkreten Unterschied festgestellt.
- Die Vertrauensprüfung angewendet. Du kannst benennen, in welche Kategorie (Brainstorming, Zusammenfassung, Faktencheck, publikationsreif) deine Testfrage fiel, und hast sie entsprechend behandelt.
Aus der Praxis
Eine Unternehmerin fragt ChatGPT nach dem aktuellen Preis eines Konkurrenzprodukts. Das Modell antwortet souverän mit einer Zahl, die seit sechs Monaten veraltet ist – völlig ohne Quellenangabe. Als sie nachhakt: „Suche im Web und bestätige diesen Preis mit einer Quelle“, liefert es eine andere, korrekte Zahl samt Link. Ein anschauliches Beispiel dafür, dass ungeprüfte Antworten zu veränderlichen Fakten immer einen Kontrollschritt brauchen – genau wie in Modul 1 beschrieben.
Wann du es nicht nutzen solltest
Dieser Diagnoseansatz ist übertrieben für banale Alltagsfragen mit geringem Risiko. Wenn du nur Ideen für ein Geburtstagsmotto sammelst oder einen Satz umformulierst, raubt dir ein kompletter Verifizierungsprozess nur unnötig Zeit. Passe deine Prüfgewohnheiten an das jeweilige Risiko an: Hebe dir Quellenprüfungen und Selbstkritik-Prompts für Fakten, Zahlen und alles auf, was du veröffentlichst, einreichst oder als Entscheidungsgrundlage nutzt – aber wende sie nicht auf jede einzelne KI-Interaktion an.
Stolperfallen und Learnings
- Selbstsicher klingenden Antworten bei konkreten Fakten, Zahlen, Daten oder Zitaten ohne Überprüfung blind zu vertrauen
- Einen Chat über Dutzende Runden laufen zu lassen, bis er den Faden verliert, statt neu anzusetzen
- Davon auszugehen, dass das Modell aktuelle Nachrichten oder Preise kennt, ohne dass es tatsächlich das Web durchsucht hat
- Ein schnelles, leichtgewichtiges Modell für komplexe logische Aufgaben zu nutzen, die eigentlich das Flaggschiff-Modell oder einen Denkmodus erfordern
- Auf Basis einer ungeprüften KI-Antwort Anträge einzureichen, Dokumente zu unterschreiben, Inhalte zu veröffentlichen oder Zahlungen auszulösen
- LLMs sagen Text voraus; sie sind zuerst sprachgewandt und erst an zweiter Stelle präzise – Halluzinationen sind eine Eigenschaft, kein Bug
- Ein Chat = eine Aufgabe; lange, unübersichtliche Unterhaltungen mindern die Qualität
- Nutze das stärkste Modell und Denkmodi für alles, worauf es wirklich ankommt
- Überprüfe konkrete Fakten, Zahlen und alles, was reale Konsequenzen nach sich zieht
- Die Entwicklung hat sich von Chatbots (sprechen) zu Agenten (handeln) verlagert – hier liegt der eigentliche Hebel
Mach dich an die Arbeit
Ziel: Führe drei echte Diagnose-Gespräche mit einem LLM, um den Unterschied zwischen Sprachgewandtheit und Genauigkeit, Verifikationsgewohnheiten und die Unterscheidung zwischen Chatbot und Agent direkt zu beobachten. (25 Min.)
- Teste die Kontextfenster-Analogie. Frage das Modell: „Erkläre mir, was ein Kontextfenster ist, anhand einer Analogie aus [deinem Beruf / deiner Branche].“ Lies die Analogie und beurteile, ob sie wirklich zu deiner Arbeit passt oder nur generisches Füllmaterial ist.
- Teste Echtzeitwissen und überprüfe es. Frage nach dem aktuellen Preis eines bestimmten Produkts oder einer Dienstleistung, deren echten Preis du bereits kennst. Achte darauf, ob das Modell im Web gesucht hat (Quelle/Datum nennt) oder aus dem Gedächtnis antwortet, und prüfe dann, ob die Angabe stimmt.
- Bitte das Modell, seine eigenen Schwachstellen zu benennen. Frage im selben Chat: „Was an deiner vorherigen Antwort sollte ich noch einmal überprüfen und warum?“ Notiere dir, was das Modell hervorhebt.
- Stelle dieselbe Frage in einem Denk-/Reasoning-Modus. Wähle eine mehrschrittige Frage aus deinem Arbeitsalltag (eine Planungs- oder Vergleichsaufgabe) und stelle sie einmal im Standardmodus und einmal in einem Denk-/Extended-Reasoning-Modus. Vergleiche die beiden Antworten.
- Protokolliere deine drei Beobachtungen. Schreibe je einen Satz dazu auf: wie treffend die Analogie war, ob die Preisangabe korrekt und belegt war und was die Selbstkritik zutage gefördert hat.
Ergebnis: Ein kurzes Protokoll (3–5 Sätze), das auf Basis von drei echten Tests festhält, was du über Sprachgewandtheit vs. Genauigkeit des Modells, die Grenzen seines Echtzeitwissens und seine Fähigkeit zur Selbstkritik gelernt hast.
Quellen
- OpenAI, "GPT-4 Technical Report," 2023 (openai.com/research/gpt-4)
- Anthropic, "Core Views on AI Safety," anthropic.com
- Ji et al., "Survey of Hallucination in Natural Language Generation," ACM Computing Surveys, 2023
- Google DeepMind, "Gemini: A Family of Highly Capable Multimodal Models," 2023