Faktencheck & Halluzinationen erkennen

Vorschau der Lektion

KI halluziniert nicht etwa, weil sie fehlerhaft funktioniert, sondern weil sie darauf optimiert ist, plausiblen Text zu erzeugen – und plausibler Text fühlt sich exakt wie wahrer Text an. Genau das macht Halluzinationen so gefährlich. Die Lösung besteht nicht darin, deinem Bauchgefühl zu vertrauen, wenn sich etwas falsch anfühlt. Es geht darum, eine feste Routine zu etablieren – Quelle prüfen, Datum checken, gegenprüfen –, die sich daran orientiert, wie viel auf dem Spiel steht, und nicht an einer vagen Ahnung. Große Sprachmodelle sind darauf trainiert, den plausibelsten nächsten Text vorherzusagen, nicht darauf, Fakten mit einer Datenbank abzugleichen. Meistens decken sich Plausibilität und Wahrheit, weil die Trainingsdaten überwiegend wahre Aussagen enthalten. Doch wenn sie voneinander abweichen, hat das Modell keine interne Alarmglocke – es formuliert die falsche Aussage in genau demselben flüssigen, selbstbewussten Ton wie eine wahre. Das ist ein strukturelles Merkmal dieser Technologie und kein Bug, den ein künftiges Update einfach so beheben wird. Wenn du das verstehst, ändert sich deine gesamte Perspektive auf das Problem: Du suchst nicht nach verräterischen Hinweisen auf eine Lüge, denn an der Textoberfläche gibt es schlicht keine. Du entwickelst stattdessen eine Gewohnheit, die völlig unabhängig davon funktioniert, ob dir etwas verdächtig vorkommt oder nicht. Genau deshalb ist „es klang so überzeugend“ kein Beweis für Korrektheit – Selbstsicherheit ist lediglich ein Stilmerkmal der Modellausgabe, das immer auf dieselbe Weise generiert wird, ganz egal, ob die Behauptung dahinter stimmt.

Wichtige Begriffe in diesem Modul

Halluzination

Eine Halluzination ist eine falsche Aussage, die ein KI-Modell als Tatsache darstellt, etwa eine erfundene Statistik, ein erfundenes Zitat oder eine erfundene Quelle. Sie entsteht, weil Sprachmodelle darauf trainiert sind, plausibel klingenden Text zu erzeugen, und der ist manchmal falsch.

Wissensstichtag

Der Wissensstichtag ist das Datum, nach dem ein KI-Modell keine Informationen aus seinem Training mehr hat. Was danach passiert ist, etwa Nachrichten, Preisänderungen oder neue Produkte, kennt das Modell nicht, außer es sucht im Web oder liest ein Dokument, das du ihm gibst.

Häufig gestellte Fragen

Für wen ist „Faktencheck & Halluzinationen erkennen“?

Dieses Einsteiger-Modul aus AI Grundlagen ist für alle, die neu bei KI-Tools sind und ohne Fachchinesisch praktische Ergebnisse für den Alltag wollen. Es dauert etwa 10 Minuten und endet mit einem Quiz aus 4 Fragen.

Muss ich programmieren können?

Nein. Alles in diesem Modul funktioniert in Tools wie ChatGPT, Claude oder Gemini über ein ganz normales Chatfenster.

Was kommt vor und nach diesem Modul?

Vor „Faktencheck & Halluzinationen erkennen“ solltest du „Lernen & Denken mit KI“ machen (Modul 21 von AI Grundlagen). Danach geht es weiter mit „Datenschutz, Sicherheit & Datenhygiene“.

Ähnliche Module

• Previous
  Lernen & Denken mit KI

  Ein geduldiger Tutor, der niemals urteilt – auch um 23 Uhr verfügbar.

• Next
  Datenschutz, Sicherheit & Datenhygiene

  Nutze KI souverän, weil du genau weißt, wo die Grenzen liegen.

• Gleiches Thema
  Willkommen: Warum es diesen Kurs gibt

  Die meisten nutzen nur 5 % dessen, was KI kann. In diesem Kurs geht es um die anderen 95 %.

• Gleiches Thema
  Wie KI wirklich funktioniert (die 20 %, die du brauchst)

  Du brauchst keinen Informatikabschluss. Nur genau genug Wissen, um vorherzusehen, wann die KI genial sein wird und wann sie dich selbstbewusst anlügt.