Shadow AI: Der stille Regelbruch, den fast niemand bestraft - und der trotzdem gefährlich ist
71 Prozent der britischen Arbeitnehmer nutzen laut einer Microsoft-Umfrage unapproved Consumer-KI-Tools im Job, die Hälfte davon wöchentlich.
Bei mittelgroßen Unternehmen kommen auf 1.000 Mitarbeiter durchschnittlich 200 nicht autorisierte KI-Tools, so die Sicherheitsplattform Reco.
Nur vier von zehn Unternehmen haben überhaupt eine formale KI-Governance-Richtlinie - das ergab eine Erhebung von Protiviti unter 345 Führungskräften.
Fast 80 Prozent der IT-Entscheider glauben, dass Mitarbeiter mit nicht freigegebenen KI-Tools produktiver sind - aber 86 Prozent haben bereits negative Vorfälle durch solchen Einsatz erlebt.
Microsoft hat seinen Agent 365 im Mai 2026 allgemein verfügbar gemacht, um Unternehmen mehr Kontrolle über KI-Agenten zu geben.
Produktivitätsdruck schlägt IT-Policy - immer öfter
Gregg Bayes-Brown hat selbst die KI-Richtlinien bei einem früheren Arbeitgeber in der Biotechbranche mitentwickelt. Und er hat sie trotzdem gebrochen. Er nutzte einen privaten Google-Account, um über NotebookLM große Informationsmengen zu strukturieren - eine Aufgabe, die normalerweise 150 Stunden in Anspruch nahm, die er auf 30 Minuten drückte.
Sein Argument ist dabei nicht von der Hand zu weisen:
"Das minimale Risiko, dass Daten abfließen - wirklich klein. Aber die Chance, von einem chinesischen Konkurrenten überholt zu werden - massives Risiko."
Das ist keine naive Einschätzung, sondern die Kosten-Nutzen-Rechnung, die gerade Millionen Wissensarbeiter anstellen. Und sie kommen dabei fast immer zum gleichen Schluss.
Business Insider beschreibt dieses Phänomen als "Sneaky Rise of Shadow AI" - und trifft damit einen Nerv. Denn Shadow AI ist keine Randerscheinung von Tech-Enthusiasten, die halt gerne herumexperimentieren. Es ist Mainstream.
Hintergrund: Shadow IT ist alt, Shadow AI ist anders
Das Konzept des ungenehmigten Technologieeinsatzes im Unternehmen ist nicht neu. Shadow IT gibt es seit Jahrzehnten. 2014 endete ein besonders teurer Fall mit einem 4,8-Millionen-Dollar-Vergleich: Ein Arzt hatte an der Columbia University und dem New York Presbyterian Hospital eigene Anwendungen entwickelt und beim Deaktivieren eines privaten Servers Tausende Patientenakten ungeschützt im Netz hinterlassen - abrufbar über Google.
Was sich geändert hat, ist die Geschwindigkeit und die Tiefe. Samsung sperrte Generative-KI-Tools auf Firmengeräten, nachdem Softwareentwickler intern genutzten Code in ChatGPT eingespeist hatten. Amazon wurde misstrauisch, als ChatGPT-Antworten auf bestimmte Anfragen verdächtig nach internen Unternehmensdaten aussahen. Beide Vorfälle passierten, bevor OpenAI überhaupt Enterprise-Versionen anbot, die Eingaben nicht für das Modelltraining verwenden.
Seitdem hat sich die Lage nicht entspannt - sie hat sich vervielfacht. Spezialisierte Apps mit eingebetteten KI-Funktionen fluten den Markt. Für jede Rolle, jeden Workflow, jede Branche gibt es inzwischen ein Tool. Die IT-Abteilung spielt Whack-a-Mole, und die Mäuse sind schneller geworden. Dass dabei nicht jede Schwachstelle in genehmigten Systemen steckt, zeigen Fälle wie die kritische Sicherheitslücke in Ollama, über die wir bereits berichtet haben - selbst verbreitete, populäre Lösungen sind keine sicheren Häfen.
Das Kontrollproblem ist strukturell - und wächst gerade exponentiell
Man kann Shadow AI nicht als reines Compliance-Problem behandeln, denn es ist vor allem ein Strukturproblem. Die Einführung generativer KI verlief historisch umgekehrt zu fast jeder vorangegangenen Technologiewelle im Büro. Früher entschied das Management, welche Tools Einzug halten. Jetzt haben Big-Tech-Unternehmen die Technologie direkt an Endnutzer ausgespielt und die Erwartung gesetzt, dass Wissensarbeiter selbst herausfinden, was sich damit automatisieren lässt.
Das ist kein Versehen. Das ist Marktdurchdringungsstrategie. Und es funktioniert - auf Kosten der IT-Security. Rund die Hälfte aller Unternehmensführer weiß nicht einmal, in welchem Ausmaß ihre Mitarbeiter KI einsetzen, so die Protiviti-Erhebung. Wer nicht weiß, was in seiner Infrastruktur passiert, kann es auch nicht schützen.
Hier ist meine klare Haltung dazu: IT-Abteilungen, die monatelang über die Regulierung von KI-Tools diskutieren, während ihre Mitarbeiter unter Leistungsdruck stehen, sind selbst Teil des Problems. Wer keine klare, schnelle und praktikable Policy anbietet, zwingt Angestellte faktisch in den Regelbruch. Der Anreiz, produktiver zu sein, ist real - und die Konsequenz für Einzelne fast nie spürbar. Das ist eine toxische Kombination, die keine Sicherheitsschulung allein löst.
Harley Sugarman, CEO von Anagram, bringt den nächsten Eskalationsschritt auf den Punkt: KI-Agenten, die beginnen, sich selbst zu verbessern, autonom Entscheidungen zu treffen und Software zu entwickeln - ohne dass ein Mensch jeden Schritt absegnet. An diesem Punkt wird aus einem Compliance-Problem ein Kontrollproblem anderer Größenordnung. Dass Microsoft mit Agent 365 jetzt ein Framework für "Agent Sprawl" anbietet, ist ein Eingeständnis, dass die Industrie das Problem erkannt hat. Ob die Lösung schnell genug kommt, ist eine andere Frage.
Auch ein weiterer Aspekt verdient Aufmerksamkeit: Angestellte entwickeln emotionale Bindungen an ihre KI-Tools. Das klingt nach Übertreibung, ist aber dokumentiert. Wer seit Monaten täglich mit einem bestimmten Assistenten arbeitet, der seinen Stil kennt, seine Vorlieben antizipiert und Arbeit deutlich erleichtert, wechselt nicht einfach auf das firmengöttliche Einheitstool. Besonders dann nicht, wenn das firmeneigene Tool schlechter performt. Das ist eine menschliche Reaktion - und sie macht das Durchsetzen von Policies strukturell schwieriger als jedes technische Problem.
Dass dieser Vertrauensmissbrauch auch von außen ausgenutzt wird, haben wir bereits in anderem Zusammenhang beschrieben: Gefälschte KI-Repos wie das manipulierte OpenAI-Repository auf Hugging Face zielen genau auf Nutzer ab, die schnell nach nützlichen Tools greifen - ohne zweimal hinzuschauen. Shadow AI und Social-Engineering-Angriffe ergänzen sich dabei erschreckend gut. Und wer sich fragt, was dauerhafter KI-Einsatz ohne klare Grenzen mit Angestellten macht, findet in unserem Artikel zu AI Brain Fry einen weiteren Datenpunkt.
Quelle(n)