In fast jedem Unternehmen läuft KI, die niemand bewilligt hat.

Schatten-KI klingt nach einem Sicherheitsbegriff, ist aber zuerst eine Beobachtung: In fast jedem Unternehmen, mit dem wir sprechen, nutzen Mitarbeitende KI und in den wenigsten hat jemand darüber entschieden. Der Begriff lehnt sich an Schatten-IT an, also an Software, die Abteilungen an der IT vorbei eingeführt haben, vom Dropbox Ordner bis zur Excel Datenbank. Bei KI geht das schneller, weil ein Konto in zwei Minuten eröffnet ist, nichts installiert werden muss und der Nutzen sofort spürbar ist. Dieser Beitrag erklärt, was Schatten-KI ist, warum sie entsteht, welche vier Risiken sie tatsächlich bringt und warum ein Verbot die Sache nicht löst, sondern verschiebt.

Schatten-KI ist jede KI im Unternehmen, über die niemand entschieden hat.

Die Definition ist einfacher als der Begriff. Schatten-KI ist jede Nutzung von KI Werkzeugen für die Arbeit, die das Unternehmen weder bewilligt noch bezahlt noch kennt. In der Praxis sind das drei Formen. Erstens private Konten bei ChatGPT, Claude, Gemini oder Copilot, mit denen Mails, Offerten und Berichte geschrieben werden. Zweitens KI Funktionen in Werkzeugen, die das Unternehmen bereits hat, die aber niemand bewusst eingeschaltet hat: der Assistent im Browser, die Zusammenfassung im Mailprogramm, die Übersetzung im Chat. Drittens Browser Erweiterungen und kleine Dienste, die versprechen, Sitzungen zu protokollieren, PDFs zu erklären oder Tabellen auszufüllen und dafür Zugriff auf alles brauchen, was im Browser passiert.

Die erste Form ist die häufige. Die dritte fällt kaum auf und greift auf mehr zu als die beiden anderen. Alle drei haben gemeinsam, dass Firmendaten ein Werkzeug verlassen, das die Firma kontrolliert und in einem landen, das sie nicht kontrolliert. Das ist der Kern und daran ändert auch ein seriöser Anbieter nichts, weil das Problem nicht der Anbieter ist, sondern dass niemand im Unternehmen weiss, was wohin geht.

Sie entsteht, weil Mitarbeitende einen guten Job machen wollen.

Wer Schatten-KI als Regelverstoss betrachtet, versteht sie falsch. Die Person im Verkauf, die eine Offerte von ChatGPT umformulieren lässt, will eine bessere Offerte in kürzerer Zeit. Die Person in der Buchhaltung, die einen Vertrag zusammenfassen lässt, will bis Feierabend fertig sein. Beide haben ein Werkzeug gefunden, das funktioniert und beide hätten ein Firmenkonto genommen, wenn es eines gegeben hätte. Es gab keines, also nahmen sie ein privates.

Dazu kommt, dass die Nutzung meistens mit harmlosen Dingen beginnt. Eine Mail umformulieren, ein Wort übersetzen, einen Text kürzen. Wer damit gute Erfahrungen macht, geht den nächsten Schritt und der nächste Schritt ist die Kundenliste, weil das Werkzeug damit noch nützlicher wird. Es gibt keinen Moment, in dem sich das falsch anfühlt, weil jeder Schritt nur wenig grösser ist als der davor. Deshalb funktioniert der Appell an das Bauchgefühl nicht: Das Bauchgefühl sagt, dass es in Ordnung ist, weil es gestern auch in Ordnung war.

Der dritte Grund ist, dass niemand zuständig ist. KI liegt zwischen IT, Datenschutz und Personal und jeder Bereich nimmt an, ein anderer kümmere sich darum. Wir haben in einem früheren Beitrag beschrieben, welche vier Entscheide dabei liegen bleiben. Solange sie liegen bleiben, füllen die Mitarbeitenden die Lücke selber und das Ergebnis heisst Schatten-KI.

Vier Risiken lassen sich konkret benennen, der Rest ist Nebel.

Über Risiken von KI wird viel geschrieben und das meiste davon ist zu allgemein, um daraus etwas abzuleiten. Vier Risiken sind konkret genug, dass man sie einer Geschäftsleitung in fünf Minuten erklären kann.

Das erste Risiko betrifft Geschäftsgeheimnisse. Offerten, Kalkulationen, Kundenlisten, Verträge: Wer sie in ein privates Konto bei einem grossen Anbieter eingibt, sollte davon ausgehen, dass damit trainiert wird, egal was in den Bedingungen steht, weil sich die Bedingungen ändern und niemand im KMU das nachverfolgt. Das heisst nicht, dass die Kalkulation morgen beim Konkurrenten auftaucht. Es heisst, dass sie das Unternehmen verlassen hat und niemand sagen kann, wohin.

Das zweite Risiko betrifft Personendaten und hier kommt das Datenschutzgesetz dazu. Es verlangt, dass Personendaten nur für ihren Zweck bearbeitet werden und dass eine Bekanntgabe ins Ausland abgesichert ist. Ein Kundendossier in einem privaten Chat mit Servern in den USA erfüllt das in der Regel nicht und das Gesetz kennt seit September 2023 Bussen bis CHF 250'000 für vorsätzliche Verstösse gegen bestimmte Pflichten, gerichtet gegen die verantwortliche natürliche Person. Das ist unsere Lesart und keine Rechtsberatung. Der Punkt ist nicht die Busse, sondern dass die Verantwortung bei der Geschäftsleitung liegt, auch wenn die Eingabe im Verkauf passiert ist.

Das dritte Risiko ist der Kontrollverlust über die Konten. Ein privates Konto gehört der Person, nicht der Firma. Die Gesprächsverläufe mit Firmendaten bleiben dort nach der Kündigung, die Firma kann sie weder einsehen noch löschen und sie hat keinen Vertrag mit dem Anbieter, auf den sie sich berufen könnte. Bei zwanzig Mitarbeitenden mit je einem privaten Konto sind das zwanzig Archive mit Firmendaten, die ausserhalb jeder Kontrolle liegen.

Das vierte Risiko ist leise: Ergebnisse, die niemand prüft. Ein KI Werkzeug, das offiziell nicht existiert, hat auch keine Richtlinien dafür, wer die Ausgabe kontrolliert, bevor sie an den Kunden geht. Eine Zahl in der Offerte, ein Paragraph im Vertragsentwurf, eine Zusage in der Mail: Wenn die KI daneben liegt, merkt es der Kunde, nicht die Firma. Das Risiko besteht auch mit einem Firmenkonto, aber dort lässt es sich mit Richtlinien begrenzen. Im Schatten gibt es sie nicht.

Was nicht auf der Liste steht, ist die Sorge, dass KI Arbeitsplätze ersetzt oder die Firma aus der Hand nimmt. Das mag man diskutieren, aber es ist kein Risiko von Schatten-KI, sondern ein Thema für sich.

Ein Verbot ohne Alternative macht es schlimmer.

Die erste Reaktion vieler Geschäftsleitungen, wenn sie das Ausmass sehen, ist ein Verbot. Wir raten davon ab und zwar nicht aus Prinzip, sondern weil es die vier Risiken vergrössert. Ein Verbot beseitigt den Nutzen nicht, es beseitigt nur die Sichtbarkeit. Die Person im Verkauf, die mit ChatGPT eine Stunde pro Tag spart, hört nicht auf, sie wechselt auf das private Handy. Damit sind die Daten weiterhin draussen, nur noch auf einem Gerät, das die Firma nicht einmal theoretisch sieht und niemand redet mehr darüber, weil es verboten ist.

Ein Verbot funktioniert dort, wo die Alternative gleichwertig ist. Wer sagt, private Konten sind gesperrt und gleichzeitig ein Firmenkonto zur Verfügung stellt, das genauso gut ist, hat Richtlinien, die eingehalten werden. Wer nur sperrt, hat Richtlinien, die umgangen werden und das ist schlimmer als keine Richtlinien, weil man dann nicht einmal mehr fragen kann, was die Leute tun. Was auf der Seite ChatGPT mit Kundendaten steht, gilt genau hier: Es braucht die Richtlinien und vor allem braucht es eine Alternative, die funktioniert.

Der Weg aus dem Schatten sind Richtlinien, ein bezahltes Konto und eine zuständige Person.

Schatten-KI verschwindet nicht durch Kontrolle, sondern dadurch, dass die offizielle Variante besser ist als die inoffizielle. Das braucht drei Dinge und keines davon ist gross.

Erstens Richtlinien auf einer Seite: drei Datenklassen, öffentliche Inhalte, Geschäftsgeheimnisse und Personendaten und für jede Klasse das Werkzeug, in das sie darf. Zweitens ein Firmenkonto, das die Firma bezahlt und verwaltet. Es kostet je nach Anbieter und Stufe zwischen USD 20 und USD 100 pro Person und Monat und dafür gibt es die Zusicherung, dass nicht mit den Eingaben trainiert wird, eine zentrale Verwaltung und die Möglichkeit, ein Konto zu schliessen, wenn jemand geht. Für Personendaten braucht es zusätzlich ein Werkzeug, das in der Schweiz läuft und Eingaben nicht zum Training nutzt. Euria von Infomaniak ist eines, andere Schweizer Anbieter gibt es ebenfalls und welches passt, verdient eine Prüfung im Einzelfall. Welche Werkzeuge wir selber im Einsatz haben und was sie im Monat kosten, haben wir an anderer Stelle beschrieben. Drittens eine Person, die zuständig ist, die Richtlinien einmal im Jahr prüft und Ausnahmen bewilligt. In einem KMU ohne eigene technische Leitung ist das oft die Lücke, die niemand füllt und wir haben beschrieben, was in einem Unternehmen passiert, in dem niemand diese Rolle hat.

Der Aufwand dafür ist überschaubar. Eine Stunde, um zu erfassen, welche Werkzeuge heute im Haus sind und welche Daten darin landen. Eine Sitzung der Geschäftsleitung, um die Richtlinien zu beschliessen. Ein Nachmittag, um die Konten einzurichten. Danach gibt es im Unternehmen keine Schatten-KI mehr, sondern KI, über die jemand entschieden hat. Das ist der ganze Unterschied und er ist grösser, als er klingt.