Kontrolle geht nicht dort verloren, wo die KI entscheidet, sondern dort, wo niemand mehr nachvollziehen kann, warum.

Wenn in einer Geschäftsleitung über Kontrollverlust durch KI gesprochen wird, steht meistens ein Bild im Raum: ein System, das selbständig handelt und niemand kann es mehr anhalten. In unserer Arbeit sehen wir das nicht. Was wir sehen, ist unspektakulärer und deshalb schwerer zu bemerken. Die KI entscheidet gar nichts, sie schlägt vor und ein Mensch übernimmt den Vorschlag. Bis dahin ist alles in Ordnung. Das Problem beginnt vier Monate später, wenn jemand fragt, warum es so gemacht wurde und niemand die Antwort mehr geben kann.

Kontrolle heisst, einen Entscheid erklären und zurücknehmen zu können.

Diese Definition klingt trocken, sie ist aber die einzige, die im Betrieb etwas nützt. Ein CTO hat nie alles selber gemacht. Er kann zu jedem wichtigen Entscheid sagen, warum er so ausgefallen ist, welche Alternative geprüft wurde und was es kostet, ihn umzudrehen. Wer das kann, hat die Kontrolle. Wer es nicht kann, kann ein System nur noch ersetzen statt ändern und ersetzen ist teuer.

Ein Sprachmodell erklärt auf Nachfrage gern, warum ein Vorschlag so lautet. Die Erklärung ist plausibel und sie ist nachträglich entstanden. Sie ist kein Protokoll des Entscheids, sondern ein zweiter Text zum ersten. Wer sie als Begründung ablegt, hat ein Dokument, auf das sich niemand stützen kann und merkt das erst, wenn es darauf ankommt.

Daraus folgt nichts gegen den Einsatz von KI. Es folgt nur, wer den Entscheid trägt, nämlich der Mensch, der den Vorschlag übernimmt. Welche vier Entscheide dabei nur die Geschäftsleitung selber treffen kann, haben wir an anderer Stelle aufgeschrieben. Dieser Beitrag beginnt eine Ebene darunter, im Alltag.

Erstens geht Kontrolle in Entscheiden verloren, die niemand aufgeschrieben hat.

Der häufigste Fall: Eine Mitarbeiterin soll beurteilen, welches von zwei Systemen angeschafft wird. Sie beschreibt der KI die Ausgangslage, bekommt eine saubere Gegenüberstellung, wählt danach aus und bestellt. Das Ergebnis ist oft richtig. Was fehlt, ist die Spur. Welche Annahmen steckten in der Frage, welche Anforderung wurde weggelassen, weil sie mühsam zu erklären war und welche Vertragsbedingung wurde deshalb nie angeschaut.

Vor der KI war diese Spur ein Nebenprodukt. Es gab eine Mail an den Anbieter, eine Tabelle mit Kriterien, zwei Offerten in einem Ordner. Heute steckt der ganze Vorgang in einem Chatverlauf in einem persönlichen Konto und wenn die Person das Unternehmen verlässt, geht er mit. Das ist kein neues Problem, es läuft nur schneller ab: Früher brauchte ein schlecht dokumentierter Entscheid zwei Wochen, heute zwanzig Minuten und pro Woche gibt es mehr davon.

Was wir Kunden empfehlen, ist bewusst klein. Für jeden Entscheid, der Geld kostet oder länger als ein Jahr wirkt, gehören drei Sätze in ein gemeinsames Verzeichnis: was entschieden wurde, warum und was die Alternative gewesen wäre. Drei Sätze dauern fünf Minuten. Bei der nächsten Vertragsverlängerung ersparen sie eine halbe Woche Rekonstruktion.

Zweitens geht sie in Ergebnissen verloren, die niemand gelesen hat.

Die zweite Stelle ist die unangenehme, weil sie an der eigenen Arbeitsweise kratzt. KI Ergebnisse sind flüssig geschrieben, formal korrekt und wirken fertig. Genau deshalb werden sie seltener geprüft als ein handgetippter Entwurf, bei dem die unfertigen Stellen sichtbar sind. Der Fehler im fertig aussehenden Text fällt niemandem auf, bis er beim Kunden liegt.

In der Softwareentwicklung ist das am deutlichsten zu sehen. Code entsteht um ein Vielfaches schneller als vor drei Jahren, geprüft wird er gleich langsam wie vorher und damit wandert der Engpass von der Erstellung in die Prüfung. Wir halten uns intern an eine Regel, bevor ein Agent etwas anfasst, das zählt: nur weil Claude Code etwas kann, heisst es nicht, dass man soll.

Für ein KMU ohne eigene Entwicklung gilt dasselbe an anderen Stellen. Im Angebot, das hinausgeht. Im Arbeitsvertrag, der aus einem Muster entstanden ist. In der Auswertung, auf deren Zahlen eine Investition gestützt wird. Die Regel dazu ist eine einzige und sie ist unbequem: Wer ein Ergebnis weitergibt, verantwortet es, auch wenn er es nicht geschrieben hat. Wem dafür das Fachwissen fehlt, der gibt es nicht weiter, sondern holt jemanden dazu. Diese eine Regel ersetzt jede Kontrollinstanz, die man sonst aufbauen müsste.

Drittens geht sie in Werkzeugen verloren, die niemandem gehören.

Die dritte Stelle lässt sich am einfachsten beheben. In fast jedem Unternehmen laufen KI Werkzeuge, die nie bewilligt wurden: privat bezahlte Konten, Erweiterungen im Browser, ein Assistent mit Zugriff auf das Postfach. Das ist Schatten-KI und sie entsteht nicht aus Nachlässigkeit, sondern weil Leute ihre Arbeit gut machen wollen und das Werkzeug dafür brauchen.

Hier geht Kontrolle doppelt verloren. Fachlich, weil niemand weiss, welche Daten das Werkzeug sieht und wohin sie gehen. Betrieblich, weil niemand zuständig ist, wenn es ausfällt, teurer wird oder seine Bedingungen ändert. Ein gerundetes Beispiel aus einer Bestandsaufnahme: ein Abo für CHF 25 pro Person und Monat, vierzig Leute, also CHF 12'000 im Jahr, verteilt über drei Kostenstellen und in keinem Vertrag erfasst. Das Geld ist dabei das kleinere Thema, die fehlende Zuordnung ist das grössere.

Der Weg heraus ist ein Verzeichnis der eingesetzten Werkzeuge mit einer zuständigen Person pro Eintrag und danach eine bewilligte Alternative für das, was die Leute offensichtlich brauchen. Ein Verbot ohne Alternative verschiebt die Nutzung nur auf das private Handy.

Was hilft, ist Zuständigkeit und nicht mehr Technik.

Die drei Stellen haben dieselbe Ursache und sie ist nicht technisch: Es gibt niemanden, der für den Zusammenhang zuständig ist. Die IT schaut auf Systeme, die Finanzabteilung auf Kosten, der Rechtsdienst auf Verträge und KI berührt alle drei gleichzeitig. Wo diese Rolle fehlt, wird Risiko nicht gemanagt, sondern verteilt und verteiltes Risiko zeigt sich erst im Ernstfall. Das gilt über KI hinaus, denn die gefährlichsten Risiken sind die unbekannten: Ein Risiko, das benannt ist, ist schon halb erledigt.

Wir arbeiten deshalb mit drei Festlegungen, die zusammen auf eine Seite passen. Welche Datenklassen in welchem Werkzeug erlaubt sind. Wer ein KI Ergebnis freigeben darf und wer nicht. Und wo die drei Sätze zu jedem Entscheid landen. Mehr Richtlinien als diese drei werden nicht gelesen und wirken deshalb auch nicht.

Wo die Kontrolle in deinem Betrieb liegt, lässt sich in einer Stunde feststellen.

Wir gehen das mit Kunden in dieser Reihenfolge durch. Welche Entscheide der letzten zwölf Monate könnte heute noch jemand begründen, ohne nachzufragen? Welche Ergebnisse gehen nach aussen, ohne dass eine fachlich zuständige Person sie gelesen hat? Und welche KI Werkzeuge laufen im Betrieb, für die niemand zuständig ist?

Die Antworten stehen selten an einem Ort. Bei einem Betrieb mit vierzig Leuten rechnen wir mit einer Stunde Gespräch und danach zwei Stunden Arbeit am Verzeichnis. Was dabei herauskommt, ist meistens kürzer als befürchtet: zwei oder drei Entscheide ohne Spur, eine Stelle, an der Ungeprüftes hinausgeht und eine Handvoll Werkzeuge ohne Besitzer.

Das ist der Punkt, an dem Kontrolle zurückkommt und er hat nichts mit weniger KI zu tun. Wir nutzen sie selber täglich und würden keinen Schritt davon zurückgehen. Der Unterschied ist nur, dass zu jedem Ergebnis jemand sagen kann, warum es so aussieht und dass dieser Jemand einen Namen hat.