Je autonomer ein KI-Agent handelt, desto unverzeihlicher wird jede Lücke in seinem Kontext. Bei einem Chatbot fängt der Mensch die Fehlannahme ab, bevor sie Schaden anrichtet. Beim autonomen Agenten ist die Fehlannahme schon ausgeführt, bezahlt und verbucht. Warum reden dann alle über bessere Modelle und keiner über die Frage, woher das System eigentlich wissen soll, wie deine Organisation tickt?
Die unsichtbare Quelle
Der Mensch in der Schleife war nie nur eine Kontrollinstanz. Er war die Kontextquelle, die niemand als solche erkannt hat. Er wusste, dass die Abkürzung BAO (besondere Aufbauorganisation für Einsätze oder Ermittlungen im Vergleich zur Alltags-Linienorganisation) keine Kartoffel ist, sondern welche Organisationsform damit gemeint ist. Er wusste, welche organisatorische Rolle etwas freigegeben kann und welche nicht. Er wusste, dass man diesen einen Vermerk niemals ohne Rücksprache rausschickt. Nichts davon stand irgendwo. Es stand in ihm und seinem Erfahrungen aus dem Einsatzgeschäft.
Nimm diesen Menschen aus dem Prozess, ohne sein Wissen vorher zu verschriftlichen, und du baust ein System, das selbstbewusst das Falsche tut. Kein Absturz. Keine Fehlermeldung. Ein Agent, der die Aufgabe sauber erledigt: nur eben die falsche. Er kauft die Kartoffel. Zum günstigsten Preis. Das schnelle Setting für die BAO und die Zuordnungen spezieller Aufgaben und Kommunikationsbeziehungen fehlen. Der Agent meldet aber Vollzug.
Die zustandslose Falle
Hier liegt der teuerste Denkfehler der ganzen Debatte. Die Branche verkauft Autonomie als Eigenschaft des Modells: je größer, je klüger das System, desto autonomer dürfe es handeln. Das ist die Falle. Ein Sprachmodell ist von Bauart zustandslos. Es kennt deine Daten nicht, deine Zuständigkeiten nicht, deine Ausnahmen nicht. Es lernt deine Organisation nicht dadurch, dass du es einkaufst und in Betrieb nimmst.
Du installierst es. Es weiß trotzdem nichts über dich.
Autonomie ist keine Eigenschaft des Modells. Sie ist eine Eigenschaft des kodierten Kontexts. Ein schwächeres Modell mit sauberem Kontext schlägt das stärkste Modell ohne. Wer das umdreht, kauft Pferdestärken und vergisst die Straße.
Das Wissen, das digital nicht existiert
Der entscheidende Teil des Organisationswissens existiert digital gar nicht. Er lebt in Köpfen, auf Fluren, in ungeschriebenen Routinen. Tazites Wissen, also das, was erfahrene Leute tun, ohne es je erklärt zu haben. Es ist die dunkle Materie deiner Organisation: schwer, prägend, allgegenwärtig und auf keinem Laufwerk zu finden.
Genau dieses Wissen explizit und maschinenlesbar zu machen, ist Knochenarbeit. Experten beobachten, befragen, die ungeschriebene Entscheidungslogik in eine governte Form bringen. Das ist teuer, unsexy und nicht delegierbar. Es ist die Arbeit, die jede Organisation scheut. Und es ist genau die Arbeit, die über Autonomie entscheidet.
Ich habe mich dabei ertappt, wie ich anfangs vor allem auf die Modellwahl geschaut habe. Welches System, welcher Anbieter, welche Benchmark. Wer wäre das nicht. Aber die Modellwahl war nie das Problem. Das Problem war immer, dass das Warum hinter einer Entscheidung nirgends stand, wo eine Maschine es lesen kann.
Das unbequeme Anreiz-Dilemma
Jetzt kommt der Teil, den die meisten Folien geflissentlich auslassen. Wer tazites Wissen kodifizieren will, muss Menschen dazu bringen, genau das aufzuschreiben, was sie unentbehrlich macht. Du bittest jemanden, freiwillig die Quelle seiner eigenen Unersetzbarkeit zu Protokoll zu geben.
Das ist keine Datenfrage. Das ist eine Vertrauensfrage. Und sie wird gern als Datenfrage verkleidet, weil eine Datenfrage einfacher klingt.
Wer das Dilemma ignoriert, bekommt zwei Sorten Antwort: nichts oder das Falsche. Entweder der Erfahrungsträger schweigt. Oder er schreibt eine geschönte Version auf, die ihn gut aussehen lässt und den Agenten in die Irre führt. Es entsteht kein sauberer Kontext. Es entsteht kuratierte Selbstdarstellung.
Die einzige ehrliche Antwort darauf ist eine Aufwertung, keine Drohung. Wer sein Wissen kodifiziert, wird zur Autorität über das System, nicht zu seinem nächsten Einsparposten. Vom Wissensträger zum Wissens-Architekten. Diese Botschaft muss stimmen, sonst stimmt der Kontext nicht. Tazites Wissen lässt sich ohnehin nie vollständig heben. Der Mensch bleibt Letztentscheider, weil ein Rest immer in ihm bleibt.
Was wir nicht wissen
Eine Frage bleibt offen, und ich will sie nicht glattbügeln. Wir wissen nicht, wie viel taziten Wissens sich überhaupt sinnvoll kodifizieren lässt, bevor der Aufwand den Nutzen frisst. Vielleicht sind es achtzig Prozent. Vielleicht zwanzig. Vielleicht ist die Grenze von Fachgebiet zu Fachgebiet so verschieden, dass jede Pauschalzahl Unsinn wäre.
Was wir wissen: Die Grenze der sinnvollen Autonomie liegt genau dort, wo der kodierte Kontext endet. Nicht einen Schritt weiter. Wo der Kontext aufhört, fängt das selbstbewusste Falsche an.
Der Weg nach vorn
Bevor das nächste Agenten-Pilotprojekt startet, investiere in Kontext statt in Modelle. Das ist unspektakulär. Es ist trotzdem der einzige Hebel, der trägt.
Ownership statt Freiwilligkeit. Kontext braucht benannte fachliche Eigentümer und eine zentrale, kuratierende Instanz. Freigabe über ein definiertes Verfahren, nicht nach Tageslaune.
Das Anreiz-Dilemma offen behandeln. Wissen aufzuschreiben muss sichtbar belohnt und als Aufwertung erlebt werden. Wer das als reines Datenprojekt fährt, bekommt Lücken, wo die wichtigsten Regeln stehen müssten.
Eine kuratierte Quelle statt vieler Kopien. Ein Begriff, eine governte Definition. Sonst entsteht der nächste Silo, nur diesmal maschinenlesbar und dadurch noch gefährlicher.
Integrität schützen. Behandle Kontext-Assets wie sicherheitsrelevanten Code: Versionierung, Audit-Trails, rollenbasierte Schreibrechte, Vier-Augen-Freigabe. Wer falsche Kontextregeln einschleust, lenkt den Agenten gezielt in die Irre. In einer Sicherheitsorganisation ist das kein Randthema. Es ist der Kern.
Graceful failure. Wo der kodierte Kontext endet, übernimmt bewusst der Mensch. Nicht als Notnagel. Als geplante Letztinstanz. Das gilt erst recht im hoheitlichen Kontext, wo kein Algorithmus die finale Entscheidung trifft und jede Entscheidung vor Gericht erklärbar sein muss.
Eine Randnotiz, die keine ist: Dieses kodifizierte Eigenwissen ist ein souveränes Asset. Eine fertige Kontextschicht kann man nirgends kaufen. Genau das macht sie wertvoll. Sie bleibt im Haus oder sie existiert nicht.
Fazit
Autonome Agenten werden vieles besser machen. Sie werden nichts besser machen für Organisationen, die ihr eigenes Wissen nie aufgeschrieben haben. Das ist die Pointe: Je autonomer du das System machen willst, desto abhängiger wirst du von genau den Menschen, die du ersetzen wolltest. Autonomie wird verdient, nicht gekauft. Auch nicht mit dem klügsten Agenten.
Diskussionen der Mitglieder