KI-Governance
Definition
KI-Governance ist das Regelwerk mit Zuständigkeiten und Kontrollen, mit dem eine Organisation festlegt, welche KI-Nutzung erlaubt ist, wie Risiken behandelt werden und wer geradesteht, wenn etwas schiefgeht. Das US-Institut NIST hat dafür einen freiwilligen Rahmen: das AI Risk Management Framework.
Von Ronan Liedmeier, Fractional Head of Growth und Kursautor · Veröffentlicht 17. Oktober 2026 · Zuletzt aktualisiert 17. Oktober 2026
Auch genannt: AI Governance, KI-Risikomanagement, KI-Richtlinie
Ohne sie landen Unternehmen bei „alles erlaubt“ oder bei einem Pauschalverbot. Das Verbot treibt die Leute auf private Konten, also in die Schatten-KI.
So funktioniert es
Das NIST AI Risk Management Framework ist ein US-Rahmenwerk. Es wurde am 26. Januar 2023 veröffentlicht und ist zur freiwilligen Nutzung gedacht. Es teilt die Arbeit in vier Funktionen. Govern baut eine Kultur des Risikomanagements auf und zieht sich durch die anderen drei. Map klärt den Kontext für die Risiken eines bestimmten KI-Systems. Measure analysiert und verfolgt diese Risiken mit quantitativen, qualitativen oder gemischten Methoden. Manage teilt den erfassten und gemessenen Risiken in festen Abständen Ressourcen zu.
Beispiel
Die Leiterin Operations eines Onlinehändlers mit 40 Mitarbeitenden schreibt eine einseitige KI-Richtlinie. Darin steht sie selbst als Verantwortliche, dazu kommen zwei rote Linien: keine Kundendaten in privaten KI-Konten und keine KI-geschriebene E-Mail an Kunden ohne Freigabe durch einen Menschen. Jeder KI-Workflow bekommt eine Zeile in einer gemeinsamen Tabelle. Dort steht, welche Daten er nutzt und wer seine Ergebnisse prüft.
Häufiger Fehler
Eine lange Richtlinie zu verantwortungsvoller KI schreiben und dann aufhören. Ohne Risikoliste pro System und ohne Messung deckt sie nur Govern ab und lässt die anderen drei Funktionen aus. Der zweite häufige Fehler: Jede Entscheidung landet bei der IT, obwohl die Leute, die die geschäftlichen Folgen sehen, in Vertrieb, Finanzen und Operations sitzen.
In AI Academy lernen
- Governance, die ermöglicht statt bremstExperte · 8 Min.
Verwandte Begriffe
- Schatten-KI
- Schatten-KI ist die Nutzung von KI-Tools bei der Arbeit ohne Freigabe oder Wissen des Unternehmens, etwa wenn Mitarbeitende Kundenunterlagen in ein privates Chatbot-Konto kopieren. Sie schafft Datenrisiken und zeigt zugleich, wo Leute KI schon nützlich finden.
- KI-Guardrails
- KI-Guardrails sind Prüfungen und Grenzen rund um ein KI-System, die unsichere oder falsche Eingaben und Ausgaben blockieren oder markieren, bevor sie Schaden anrichten. Die stärksten laufen als Code außerhalb des Modells. Auch eine geschickt formulierte Anfrage kommt an ihnen nicht vorbei.
- Human in the Loop
- Human in the Loop ist ein Ansatz, bei dem ein KI-System an festgelegten Stellen anhält, damit ein Mensch seine Arbeit freigeben oder korrigieren kann, bevor sie wirksam wird. Das nutzt man für Aktionen, die sich schwer rückgängig machen lassen, etwa E-Mails an Kunden oder Zahlungen.
- KI-Observability
- KI-Observability ist die Praxis, bei jedem Lauf aufzuzeichnen, was ein KI-System tut, mit jedem Modell- und Tool-Aufruf, den Kosten und der Dauer, damit du siehst, warum es sich so verhalten hat. So debuggen und überwachen Teams KI im echten Einsatz.