Einfache Guardrails

Vorschau der Lektion

Regeln auf Prompt-Ebene sind bloße Überredung, keine echte Durchsetzung – eine ungewöhnliche Eingabe kann sich leicht an ihnen vorbeireden. Echte Sicherheit entsteht erst, wenn drei Ebenen zusammenarbeiten: Input-Allow/Deny-Lists, Verweigerungsmuster im Prompt und mechanische Output-Validierung – ergänzt durch menschliche Freigaben bei allem, was echte Konsequenzen hat, wie Senden, Geld ausgeben oder Löschen. Zuverlässige Guardrails greifen auf drei Ebenen, von denen jede genau das abfängt, was die anderen übersehen könnten. Input-Regeln schränken von vornherein ein, was überhaupt in den Workflow gelangt. Verweigerungsregeln im Prompt bringen der KI ihre eigenen roten Linien bei – Situationen, in denen sie stoppen und ein Problem melden sollte, statt einfach fortzufahren. Die Output-Validierung prüft rein mechanisch, was am Ende herauskommt, völlig unabhängig davon, was der Prompt verlangt hat. Keine einzelne Ebene reicht für sich allein aus. Input-Regeln können fehlerhafte Ausgaben bei an sich gültigen Eingaben nicht abfangen; Prompt-Verweigerungen lassen sich durch ungewöhnliche Formulierungen austricksen; und eine reine Output-Validierung lässt zu, dass schlechte Daten überhaupt erst einfließen und verarbeitet werden, bevor sie gestoppt werden. Gemeinsam gleichen die drei Ebenen die toten Winkel der jeweils anderen aus. Die einfachste und verlässlichste Guardrail schränkt ein, was überhaupt in den Workflow hineindarf. Eine Allow-List – nur E-Mails mit einem bestimmten Label, nur Anfragen von bekannten Absendern, nur erwartete Dateitypen – ist deutlich robuster, als im Nachhinein jeden Problemfall per Deny-List herausfiltern zu wollen. Deny-Lists sind als zweite Ebene nützlich (um gezielt bekannte Fehlermuster zu blockieren, die dir schon einmal Probleme bereitet haben), aber sie sind naturgemäß reaktiv: Du kannst nur verbieten, woran du bereits gedacht hast oder was bereits schiefgelaufen ist. Definiere wann immer möglich, was erlaubt ist, statt mühsam alles aufzuzählen, was verboten sein soll.

Wichtige Begriffe in diesem Modul

KI-Guardrails

KI-Guardrails sind Prüfungen und Grenzen rund um ein KI-System, die unsichere oder falsche Eingaben und Ausgaben blockieren oder markieren, bevor sie Schaden anrichten. Die stärksten laufen als Code außerhalb des Modells. Auch eine geschickt formulierte Anfrage kommt an ihnen nicht vorbei.

Human in the Loop

Human in the Loop ist ein Ansatz, bei dem ein KI-System an festgelegten Stellen anhält, damit ein Mensch seine Arbeit freigeben oder korrigieren kann, bevor sie wirksam wird. Das nutzt man für Aktionen, die sich schwer rückgängig machen lassen, etwa E-Mails an Kunden oder Zahlungen.

Häufig gestellte Fragen

Für wen ist „Einfache Guardrails“?

Dieses Fortgeschritten-Modul aus AI Builder ist für alle, die KI schon täglich nutzen und jetzt ihre ersten echten Workflows und Integrationen bauen wollen. Es dauert etwa 15 Minuten und endet mit einem Quiz aus 4 Fragen.

Muss ich programmieren können?

Klassisches Programmieren brauchst du nicht. Du arbeitest mit No-Code- und Low-Code-Tools und fügst gelegentlich ein kurzes Snippet ein, das die Lektion Zeile für Zeile erklärt.

Was kommt vor und nach diesem Modul?

Vor „Einfache Guardrails“ solltest du „Grundlegende Evals für deine eigenen Workflows“ machen (Modul 6 von AI Builder). Danach geht es weiter mit „Einen MCP-Server verbinden (Consumer)“.

Ähnliche Module

• Previous
  Grundlegende Evals für deine eigenen Workflows

  "Sieht gut aus" ist keine Metrik. Zehn Paradebeispiele schon.

• Next
  Einen MCP-Server verbinden (Consumer)

  Verbinde deinen Assistenten mit einem echten Tool, vergib die richtigen Berechtigungen und setze eine echte Aufgabe um.

• Gleiches Thema
  Guardrails, Berechtigungen & Sicherheitsarchitektur

  Sobald ein Agent Geld ausgeben kann, ist Engineering-Disziplin das eigentliche Produkt.

• Gleiches Thema
  Datenschutz, Sicherheit & Datenhygiene

  Nutze KI souverän, weil du genau weißt, wo die Grenzen liegen.