Künstliche Intelligenz soll in Behörden Anträge vorprüfen, Akten erschließen, Muster erkennen und Entscheidungen vorbereiten. Autonome Agenten sollen die Arbeit gleich mit übernehmen. Klingt nach Fortschritt. Warum scheitern dann so viele Vorhaben schon an der einfachen Frage, wer am Ende geradesteht, wenn das System irrt?
Alles, was ich hier schreibe, ruht auf drei Überzeugungen. Es sind keine Meinungen des Tages. Es sind Kriterien. Ich lege sie einmal offen, weil sie unter jedem einzelnen Beitrag liegen - und weil sie erklären, warum ich manches gelassen sehe, was andere aufregt, und manches ernst nehme, was andere überspringen.
Der Name im System
Ein Software-Agent hat keine Pflichten. Kein Gewissen. Keinen Arbeitsvertrag. Er kann nicht in die Personalakte, nicht in den Ruhestand und nicht vor einen Ausschuss. Verantworten muss ihn ein Mensch, mit Namen.
Genau hier liegt der erste Denkfehler vieler Vorhaben. Es wird ein Governance-Papier geschrieben, ein Gremium einberufen, eine Richtlinie verabschiedet — und am System selbst ändert sich nichts. Ein Gremium kann entscheiden. Verantworten kann nur ein Mensch. Die eigentliche Frage bei jedem KI-System ist deshalb nicht, welches Modell darin läuft. Sondern wem es gehört und wer es verantwortet.
Der Test ist unbequem und einfach zugleich. Kannst Du binnen eines Tages die Person benennen, die für Dein wichtigstes KI-System einsteht? Wenn die Antwort einen Verteiler braucht statt eines Namens, ist es noch keine Governance. Es ist ein Protokoll.
Mehr dazu in folgenden Artikeln:
Andreas
Andreas
Der Ausweg als Maßstab
Souveränität ist zum Modewort geworden. Meist meint es einen Standort: eigene Server, eigenes Rechenzentrum, Daten im Inland. Das ist nur eine Ebene der Medaille. Digitale Souveränität ist keine Frage des Standorts. Sie ist eine Frage der Fähigkeiten.
Drei davon zählen. Kannst Du prüfen, was das System tut? Kannst Du es abschalten, ohne dass Dein Betrieb stehenbleibt? Und kannst Du den Anbieter binnen Tagen wechseln, wenn er den Preis verdreifacht, den Dienst einstellt oder über Nacht abgeschaltet wird? Wer diese Fragen mit Ja beantwortet, arbeitet souverän — auch mit einem internationalen Modell oder Anbieter. Der Hebel ist der Vertrag und die Architektur, nicht der Serverraum.
Ein Beispiel aus der Praxis, anonymisiert. Eine große Organisation hat Souveränität mit Eigenbetrieb verwechselt. Eigene Hardware, ein eigenes Modell dazu, gepflegt von einem Team, das dafür eigentlich zu klein war. Nach zwei Jahren stand ein System, das niemand mehr wechseln wollte, weil der Wechsel teurer gewesen wäre als der Stillstand. Am Ende hatte die Organisation keine Souveränität gewonnen. Sie hatte sich eine goldene Fessel oder ein Museum gebaut.
Souverän ist nicht, wer die meisten Server besitzt. Souverän ist, wer den Stecker ziehen kann, ohne dass das Licht ausgeht.
Mehr dazu in folgenden Artikeln:
Andreas
Andreas
Was das Modell nicht weiß
Das beste Modell ohne Kontext verliert gegen ein schwächeres mit gutem Kontext. Das klingt sperrig, also ein Bild dazu. Ein Agent soll einen Vorgang nach Frankfurt weiterleiten und landet in Frankfurt am Main statt in Frankfurt an der Oder, weil ihm niemand gesagt hat, welches Frankfurt zuständig ist. Das Modell war nicht zu schwach. Ihm fehlte der Kontext.
In regulierten Umgebungen ist genau dieser Kontext oft das Teuerste am ganzen Vorhaben. Aktenlage, Zuständigkeit, Rechtsgrundlage, Aktualität - all das muss das System kennen, bevor eine Antwort etwas wert ist. Wer hier spart, kauft ein teures Modell und füttert es mit Halbwissen. Die eigentliche Investition liegt in der Datenarbeit, nicht in der Lizenz. Ich habe mich anfangs selbst von der Vorstellung mitreißen lassen, ein starkes Modell würde die Lücken schon schließen. Es schließt sie nicht. Es überspielt sie nur eloquenter.
Mehr dazu in folgenden Artikeln:
Andreas
Andreas
Wo ich die Linie ziehe
Eine Grenze ziehe ich klar, und ich ziehe sie in jedem Beitrag mit. Nur verläuft sie nicht dort, wo viele sie vermuten. Nicht das internationale Modell ist die rote Linie, sondern die Daten, die es sieht, und die Entscheidungen, die man ihm überlässt.
Zum Lernen, zum Sortieren von Gedanken, zum Erkennen von Schwachstellen, zum Auswerten anonymisierter Protokolle taugen auch internationale Modelle. Besonders geschützte Daten, deren Übermittlung sich nicht kontrollieren lässt, gehören nicht hinein. Und eine Vorannahme von Schuld gehört in keine Maschine.
Ein Grundrechtseingriff braucht eine Rechtsgrundlage und einen Menschen, der ihn verantwortet. Diese Letztentscheidung trifft im hoheitlichen Handeln immer ein Mensch, nie die Automatik. Das ist die Voraussetzung dafür, dass aus Vorsicht Strategie wird und nicht Lähmung. Wer diese Linie zieht, verwechselt Offenheit nicht mit Sorglosigkeit.
Man merkt schnell, dass die drei Überzeugungen zusammengehören. Der Name schafft Verantwortung. Der Vertrag und die Architektur schaffen den Ausweg. Der Kontext schafft die Qualität. Fehlt eines, tragen die anderen zwei nicht.
Warum das unbequem bleibt
Diese drei Überzeugungen sind unbequem, weil sie die Arbeit dorthin verschieben, wo sie niemand sieht. Nicht ins Modell. In den Namen, die Architektur, den Kontext. Das lässt sich schlecht auf einer Folie feiern.
Die Technik wird besser werden. Sie wird vieles abnehmen. Aber sie wird nichts abnehmen für Organisationen, die nicht sagen können, wer verantwortet, wie sie wechseln und was ihr System eigentlich weiß. Diesen Teil kann man nicht kaufen. Diesen Teil muss man selbst gelernt haben.
Quick-Check
✅ Verantwortung. Prüffrage: Kannst Du binnen eines Tages die Person benennen, die Dein wichtigstes KI-System verantwortet? Wenn nicht, betreibst nicht Du das System — das System betreibt Dich.
✅ Wechselfähigkeit. Prüffrage: Habt Ihr einen Anbieterwechsel schon einmal unter Zeitdruck geprobt? Wer nie gewechselt hat, weiß nicht, ob er es könnte, wenn er müsste.
✅ Kontext. Prüffrage: Wie viel Projektzeit ist in Daten- und Kontextarbeit geflossen, verglichen mit der Auswahl des Modells? Das Verhältnis verrät, ob Du ein System baust oder eine Demo.
Weitere Artikel zu den Kategorien: Digitale Führung, KI-Kompetenzen und Kritisches Denken,
Diskussionen der Mitglieder