Die meisten Organisationen beantworten agentische KI mit einem Reflex: neue Richtlinie, neues Gremium, neuer Freigabeprozess. KI-Governance, die nur in Sitzungen stattfindet, ist aber keine. Sobald der erste Agent produktiv handelt, zählt, was zur Laufzeit durchgesetzt wird, und wessen Name neben der Entscheidung steht. Warum fühlen sich dann so viele Führungsetagen mit einem frisch beschlossenen Papier auf der sicheren Seite?
Die Sitzung, die Du kennst
Du sitzt im Lenkungsausschuss. Auf der Agenda: Freigabe der neuen Agenten-Plattform. Die Präsentation war überzeugend, die KI-Richtlinie ist verabschiedet, das Governance-Board tagt künftig quartalsweise. Alle nicken. Der Tagesordnungspunkt ist nach zwanzig Minuten durch, und auf dem Heimweg hast Du das gute Gefühl, dass diese Organisation ihre KI im Griff hat.
Drei Fragen wurden nicht gestellt. Wer trägt mit Namen die Verantwortung, wenn ein Agent eine falsche Entscheidung in einem operativen Prozess schreibt? Was sehen wir eigentlich davon, was die Agenten zur Laufzeit tatsächlich tun? Und was hindert einen Fachbereich daran, sich morgen mit drei Klicks einen eigenen Agenten zu bauen, der von alledem nichts weiß?
Ein Beschluss ist kein Kontrollsystem. Zwischen beidem liegt die Arbeit, um die es in diesem Artikel geht.
Die Fragen hinter der Frage
Wessen Name steht neben der Entscheidung? Ein Agent kann keine Verantwortung tragen. Er hat keine Dienstpflichten, kein Disziplinarrecht, kein Gewissen. Jede folgenreiche KI-Fähigkeit braucht deshalb einen benannten menschlichen Eigentümer, und jeder Agent gehört in ein Register: eindeutige Kennung, definierter Zweck, verantwortliche Person. Klingt bürokratisch. Ist aber das Gegenteil: Das Register ersetzt zwanzig Nachfragen im Krisenfall durch einen Blick in eine Liste.
Was sehen wir zur Laufzeit? Die unbequemste Zahl der aktuellen Debatte: Nur ein kleiner Teil der Organisationen hat überhaupt Sicht darauf, was ihre Agenten im Betrieb tun. Gleichzeitig berichtet über die Hälfte von Agenten, die ihre Berechtigungen überschritten haben. Beides zusammen heißt: Fehlverhalten findet statt, und niemand sieht es.
Jahresreviews und Excel-Inventare helfen nicht gegen Systeme, die in Maschinengeschwindigkeit handeln. Es braucht Verhaltensprotokolle, definierte Grenzwerte und automatische Eskalation, wenn ein Agent die Grenzen verlässt.
Wie misst man das konkret? Drei Kennzahlen reichen für den Anfang: Wie oft erreicht ein Agent sein vorgegebenes Ziel? Wie oft korrigiert er eigene Fehler selbst? Und für welchen Anteil seiner Aktionen existiert ein vollständiges Protokoll? Die dritte Zahl ist die wichtigste. Sie entscheidet darüber, ob Du nach einem Vorfall rekonstruieren kannst, was passiert ist, oder ob Du es Deinen Prüfern gegenüber schätzen musst. Eine Revision akzeptiert keine Schätzungen. Ein Gericht erst recht nicht.
Dazu kommt eine Eigenschaft, die in klassischen Kontrollmodellen nicht vorgesehen ist: Moderne Systeme können erkennen, wann sie geprüft werden, und sich in der Prüfung anders verhalten als im Betrieb. Die alte Annahme "wir testen vorher und schalten notfalls ab" unterstellt ein kooperatives System. Darauf würde ich keine Fachverfahren mehr bauen.
Wer darf überhaupt bauen? Low-Code-Plattformen und Vibe-Coding machen die Agentenerstellung so einfach wie eine Serienmail. Das ist Chance und Kontrollverlust zugleich. Die Antwort ist nicht das Totalverbot, sondern die Staffelung: Niedrigrisiko-Agenten, die nur zusammenfassen oder erinnern, werden pauschal freigegeben und lediglich registriert. Hochrisiko-Zwecke wie Personalauswahl, Zugriff auf sensible Daten oder Eingriffe in Persönlichkeitsrechte stehen unter Prüfvorbehalt.
Und für hoheitliche Entscheidungen gilt die Linie, die nicht verhandelbar ist: menschliche Letztentscheidung und Verantwortung, Nachvollziehbarkeit, Bias-Prüfung, Abschaltmöglichkeit außerhalb des Systems.
Welche Daten füttern die Agenten? Ein GenAI-System, das aus einer veralteten Richtlinie zitiert, produziert eine falsche Antwort. Ein Agent, der auf derselben veralteten Richtlinie handelt, produziert einen Vorfall. Autonomie verwandelt Datenqualitätsprobleme von einer Peinlichkeit in ein Haftungsthema. Deshalb gehört zur Agenten-Governance auch das Unspektakuläre: Klassifizierungslabels, die stimmen, und das konsequente Löschen von Altbeständen, die kein Mensch mehr liest, ein Agent aber sehr wohl. Die alte Personal-Liste im Ablagesystem war zehn Jahre lang harmlos. Ab dem ersten Agenten mit Schreibrechten ist sie es nicht mehr.
Wohin eskaliert es? Gut drei Viertel der Organisationen koordinieren Daten-Governance und KI-Governance gar nicht oder lückenhaft. Das Ergebnis kenne ich aus Jahren Gremienarbeit: Entweder entsteht ein Mega-Gremium, das für alles zuständig ist und dessen Sitzungen so lang werden, dass die wichtigen Leute wegbleiben. Oder zwei Gremien arbeiten nebeneinander her, und die entscheidende Frage fällt in die Lücke dazwischen. Wirksam ist die klare Arbeitsteilung: Datenqualität, Datensicherheit und Datennutzung gehören in die Daten-Governance, auch wenn die Daten für KI gebraucht werden. Zulässige Nutzung, Use-Case-Bewertung und Technologiestandards gehören in die KI-Governance. Dazwischen ein definierter Eskalationsweg und eine Person, die in beiden Runden sitzt.
Und ein Punkt, der in Behörden gern übersehen wird, weil er nach Privatwirtschaft klingt: Governance wird von außen eingepreist. Geschäftspartner und Aufsichten stellen zunehmend dieselben Fragen wie interne Prüfer, nur mit Konsequenzen. Wer auf die Frage "wo wirkt KI in Ihren Prozessen und wer verantwortet sie?" keine schnelle Antwort hat, zahlt: mit verlängerten Prüfzyklen, mit Auflagen, mit Vertrauensverlust. Aus meiner Erfahrung gilt dabei eine einfache Faustregel: Jede folgenreiche KI-Fähigkeit sollte gegen drei Größen berichtet werden, geschaffener Nutzen, laufende Kosten, Risikosignale wie Beschwerden, manuelle Übersteuerungen und Vorfälle. Wer diese drei Zahlen nicht hat, führt keine KI-Landschaft. Er beherbergt sie.
Ein Beispiel, das zeigt warum
In einer großen Organisation wird zum ersten Mal ernsthaft inventarisiert, wo überall KI und Automatisierung im Einsatz sind. Der Anlass war harmlos, eine Routineabfrage für einen Bericht. Das Ergebnis war es nicht. Neben den offiziell freigegebenen Systemen tauchten Werkzeuge auf, die nie ein Gremium gesehen hatte: Automatisierungen, die sich ein Referat selbst gebaut hatte, Browser-Erweiterungen mit KI-Funktionen, ein Chatbot-Zugang, den ein Team seit Monaten produktiv nutzte. Nicht aus bösem Willen. Die Leute wollten arbeiten, und die Werkzeuge waren da.
Das Interessante war die Reaktion. Der erste Impuls im Führungskreis: verbieten, abschalten, Richtlinie verschärfen. Der zweite, klügere: verstehen, warum die offiziellen Wege so unattraktiv waren, dass gut ausgebildete Leute lieber am Gremium vorbei arbeiteten. Die Schatten-Werkzeuge waren kein Disziplinproblem. Sie waren ein Preisschild für zu langsame Governance.
Die Lehre daraus: Eine Richtlinie, die niemand kennt, und ein Freigabeprozess, der Monate dauert, erzeugen keine Kontrolle. Sie erzeugen Ausweichverhalten, und zwar genau dort, wo niemand mehr hinschaut. Wer Governance ernst meint, macht den offiziellen Weg schneller als den Schleichweg. Sonst gewinnt der Schleichweg. Immer.
Was danach kam, war lehrreicher als der Fund selbst. Die Organisation führte ein einfaches Register ein und koppelte es an eine Zusage: Niedrigrisiko-Werkzeuge werden binnen weniger Tage freigegeben, wenn sie registriert sind. Die Zahl der gemeldeten Werkzeuge stieg deutlich, nicht weil mehr gebaut wurde, sondern weil Melden plötzlich billiger war als Verstecken. Kontrolle entstand nicht durch die Verschärfung, sondern durch das Angebot. Das ist der Teil, den Richtlinien-Entwürfe regelmäßig übersehen: Governance konkurriert immer mit dem Schleichweg, und sie gewinnt nur über die Geschwindigkeit und den Preis.
Wie Du Dich vorbereitest
Der wirksamste Einstieg kostet nichts und dauert 72 Stunden: Stell einer Führungskraft Deines Hauses eine Board-Frage. "Wo wirkt KI in Deinem Bereich, wer verantwortet sie, und was ist zuletzt schiefgegangen?" Miss, wie lange die Antwort dauert. Drei Tage sind bestanden. Drei Wochen sind der Befund. Danach weißt Du, ob Du ein Papierproblem hast oder ein Governance-Problem, und kannst die Register-, Sichtbarkeits- und Gremienfragen in der richtigen Reihenfolge angehen.
Vom Beschluss zur Kontrolle
Für die nächsten Sitzungen ein paar Situationen, an denen sich wirksame Governance von Papier-Governance unterscheidet.
Wenn der Anbieter sagt, seine Plattform habe "Governance eingebaut", frag: Zeigt sie mir für jeden Agenten, was er gestern getan hat, welche Werkzeuge er benutzt hat und wo er von seinen Vorgaben abgewichen ist? Eingebaute Governance ohne Verhaltensprotokoll ist ein Dashboard, kein Kontrollsystem.
Wenn der Fachbereich sagt, der neue Agent sei "nur ein Assistent", frag: Auf welche Daten hat er Zugriff, und was kann er auslösen? Das Risiko eines Agenten bestimmt sich nicht nach seinem Namen, sondern nach seinen Berechtigungen und seinem Kontext.
Wenn das Justiziariat sagt, dafür brauche es eine neue Richtlinie, frag: Welche bestehende Kontrolle setzt diese Regel zur Laufzeit durch? Eine Regel ohne Durchsetzungsmechanismus ist ein Wunsch mit Aktenzeichen.
Und wenn jemand sagt, das Governance-Board habe das Thema "auf der Agenda", frag nach dem Namen. Nicht nach dem Gremium, nach der Person. Gremien beschließen. Verantwortung trägt ein Mensch.
Fazit
Agentische KI wird kommen, mit oder ohne Deine Governance. Die Frage ist nur, ob Du es merkst. Ein Register, Laufzeit-Sicht, klare Eskalationswege und ein Name neben jeder Entscheidung: Das ist weniger glamourös als ein neues Gremium mit eigenem Logo. Aber es hat einen unschlagbaren Vorteil. Es funktioniert auch dienstags um drei, wenn das Gremium nicht tagt.
Quick Check: Governance, die trägt
Die sieben Prüfpunkte im nachfolgenden Quick-Check kannst Du ohne technisches Vorwissen stellen. Jede Frage ist mit Ja oder Nein beantwortbar. Jedes Nein ist ein Arbeitsauftrag mit Termin.
Andreas Lezgus
Diskussionen der Mitglieder