Guardrails, Berechtigungen & Sicherheitsarchitektur

Vorschau der Lektion

Jedes Tool, auf das ein Agent zugreifen kann, fällt in eine von fünf Risikoklassen: readonly, reversible-write, financial, destructive oder external-comms. Jede Klasse erhält ihre eigene Policy. Die goldene Regel: Die Durchsetzung geschieht in Hooks und im Gateway – durch deterministischen Code – und niemals nur im System-Prompt. Ein Prompt ist eine Empfehlung. Ein Hook ist Gesetz. Stell es dir so vor: Das Modell ist der Pilot. Das Harness ist die Flugenveloppe. Und der Pilot kann diese Grenzen nicht außer Kraft setzen. So gehst du mit jeder Risikoklasse um: readonly – freie Nutzung, aber immer protokolliert. Reinschauen ist völlig in Ordnung; Spuren zu hinterlassen ist Pflicht. reversible-write (Labels hinzufügen, Entwürfe erstellen, Negative ergänzen) – zuerst ein Dry-Run, Diff anzeigen, Freigabe durch einen Menschen einholen, dann ausführen und loggen. Das Diff ist dein Freigabe-Interface. financial (Budgetänderungen, Gebotsanpassungen) – erfordert eine ausdrückliche Freigabe sowie feste Obergrenzen im Code: sowohl ein prozentuales Limit als auch eine absolute finanzielle Obergrenze. Diese Grenzen liegen im Gateway, nicht im Prompt. destructive (Kampagne löschen, Zielgruppe löschen) – steht Agenten überhaupt nicht zur Verfügung. Ausnahmslos nur für Menschen. Es gibt keinen sicheren Weg, einem Agenten einen Löschbutton zu geben. external-comms (E-Mails senden, Posts veröffentlichen) – auf niedrigeren Stufen jede Aktion einzeln freigeben; auf höheren Autonomiestufen im Batch mit Stichprobenprüfung.

Wichtige Begriffe in diesem Modul

KI-Guardrails

KI-Guardrails sind Prüfungen und Grenzen rund um ein KI-System, die unsichere oder falsche Eingaben und Ausgaben blockieren oder markieren, bevor sie Schaden anrichten. Die stärksten laufen als Code außerhalb des Modells. Auch eine geschickt formulierte Anfrage kommt an ihnen nicht vorbei.

Human in the Loop

Human in the Loop ist ein Ansatz, bei dem ein KI-System an festgelegten Stellen anhält, damit ein Mensch seine Arbeit freigeben oder korrigieren kann, bevor sie wirksam wird. Das nutzt man für Aktionen, die sich schwer rückgängig machen lassen, etwa E-Mails an Kunden oder Zahlungen.

Prompt Injection

Prompt Injection ist ein Angriff, bei dem Anweisungen in einem Text, den eine KI liest (etwa eine E-Mail, Webseite oder Datei), das Modell zu etwas bringen, das sein Nutzer nicht wollte. OWASP führt sie auf Platz 1 seiner Top 10 für LLM-Anwendungen.

Häufig gestellte Fragen

Für wen ist „Guardrails, Berechtigungen & Sicherheitsarchitektur“?

Dieses Experte-Modul aus Praxishandbuch für KI-Native Operatoren ist für Operator, Gründerinnen und Gründer sowie Growth-Teams, die KI in echter Arbeit einsetzen und Urteilsvermögen auf Produktionsniveau wollen. Es dauert etwa 8 Minuten und endet mit einem Quiz aus 5 Fragen.

Muss ich programmieren können?

Nicht unbedingt. Die Workflows nutzen Operator-Tools wie Claude, n8n und Lovable; manche Übungen fallen leichter, wenn du eine Konfigurationsdatei oder ein Prompt-Template bearbeiten kannst.

Was kommt vor und nach diesem Modul?

Vor „Guardrails, Berechtigungen & Sicherheitsarchitektur“ solltest du „Evals & Review-Loops“ machen (Modul 17 von Praxishandbuch für KI-Native Operatoren). Danach geht es weiter mit „Produkte schnell entwickeln“.

Ähnliche Module

• Previous
  Evals & Review-Loops

  Die schärfste Trennlinie zwischen Demo-Ware und Produktivbetrieb.

• Next
  Produkte schnell entwickeln

  Lovable + Supabase + Claude API – der praxiserprobte Micro-Product-Stack für 2026.

• Gleiches Thema
  Einfache Guardrails

  Entscheide, was dein Workflow niemals tun darf — und setze es auf drei Ebenen durch.

• Gleiches Thema
  Einen MCP-Server verbinden (Consumer)

  Verbinde deinen Assistenten mit einem echten Tool, vergib die richtigen Berechtigungen und setze eine echte Aufgabe um.