Shadow AI im Unternehmen: Warum fehlende Transparenz zum Sicherheitsrisiko wird?

Nur solange niemand gezielt angreift.

hadow AI im Unternehmen entsteht oft unbemerkt: Künstliche Intelligenz wird wahrscheinlich längst von Mitarbeitenden genutzt – möglicherweise ohne Wissen der IT.

Ein Mitarbeiter optimiert eine Kundenpräsentation mit ChatGPT. Eine Entwicklerin lässt Quellcode analysieren. Im Personalbereich wird eine Stellenanzeige mit Microsoft Copilot überarbeitet. Ein Projektteam fasst ein internes Dokument mit Gemini zusammen.

Die Anwendungen unterscheiden sich. Das Muster bleibt gleich: Mitarbeitende nutzen KI, weil sie damit schneller arbeiten können. Dabei können nicht freigegebene KI-Anwendungen Teil des Arbeitsalltags werden, ohne dass die IT davon erfährt.

Die entscheidende Frage lautet deshalb nicht mehr, ob KI im Unternehmen eingesetzt wird.

Sondern:
Wissen Sie, welche KI-Dienste genutzt werden, welche Daten dort verarbeitet werden und welche Zugriffsrechte damit verbunden sind?

Wenn sich diese Fragen nicht zuverlässig beantworten lassen, entsteht Shadow AI. Diese unkontrollierte KI-Nutzung wird vor allem dann zum Sicherheitsrisiko, wenn der IT die notwendige Transparenz über Anwendungen, Datenflüsse und Berechtigungen fehlt.

Warum verliert die IT die Kontrolle über KI?

Generative KI hat eine niedrige Einstiegshürde. Für viele Dienste sind weder eine Installation noch ein klassischer Beschaffungsprozess erforderlich. Ein Browser, eine E-Mail-Adresse oder ein privates Benutzerkonto genügen.

Gleichzeitig ist der Nutzen unmittelbar erkennbar. KI-Anwendungen helfen dabei, Texte zu formulieren, Dokumente zusammenzufassen, Recherchen zu strukturieren, Softwarecode zu prüfen oder Präsentationen vorzubereiten.

Mitarbeiter warten daher nicht immer, bis eine unternehmensweite KI-Strategie, eine Richtlinie oder ein formeller Freigabeprozess beschlossen wurde. Sie nutzen die Werkzeuge, die ihnen im Arbeitsalltag einen konkreten Vorteil bieten.

Das geschieht in der Regel nicht mit der Absicht, Sicherheitsvorgaben zu umgehen. Häufig stehen Zeitdruck, Produktivitätsziele und der Wunsch im Vordergrund, repetitive Aufgaben schneller zu erledigen.

Für IT-Leiter, Informationssicherheitsbeauftragte und CISOs entsteht dadurch ein strukturelles Problem: Neue KI-Dienste verbreiten sich schneller, als bestehende Prozesse sie erfassen können.

Bei klassischer Unternehmenssoftware entscheidet üblicherweise die Organisation über Beschaffung, Konfiguration und Zugriffsrechte. Bei vielen KI-Tools treffen Mitarbeiter diese Entscheidung selbst – innerhalb weniger Minuten.

Die IT verliert dabei zunächst nicht die Kontrolle über ihre gesamte Infrastruktur. Sie verliert die Transparenz über neue Konten, Anwendungen, Datenflüsse und Berechtigungen.

Shadow AI entsteht selten, weil Mitarbeiter bewusst Regeln missachten. Sie entsteht, wenn produktive Werkzeuge schneller verfügbar sind als sichere Unternehmensprozesse.

Was ist Shadow AI?

Shadow AI bezeichnet die Nutzung von KI-Diensten, Anwendungen, Modellen oder Integrationen, die nicht offiziell freigegeben wurden oder für IT und Informationssicherheit nicht ausreichend sichtbar sind.

Dazu gehören nicht nur private ChatGPT-Konten im Browser. Shadow AI kann auch durch KI-basierte Browser-Erweiterungen, mobile Apps, neue Funktionen in bestehenden SaaS-Plattformen oder selbstständig verbundene Automatisierungsdienste entstehen.

Besonders relevant sind Anwendungen, die über „Sign in with Microsoft“ oder „Sign in with Google“ eingebunden werden. Über solche OAuth-Freigaben kann ein externer Dienst – abhängig von den erteilten Rechten – auf E-Mails, Kalender, Kontakte, Dateien oder weitere Cloud-Ressourcen zugreifen.

Damit ist Shadow AI nicht nur ein Datenschutzthema. Sie betrifft ebenso Informationssicherheit, Identity and Access Management, Cloud Security, Data Governance, Compliance und Incident Response.

Nicht jede nicht freigegebene KI-Anwendung ist automatisch gefährlich. Das zentrale Problem besteht darin, dass das Unternehmen ihren Einsatz nicht fundiert bewerten kann.

Ohne Sichtbarkeit fehlen die Grundlagen für eine belastbare Risikoeinschätzung: Welcher Dienst wird genutzt? Von wem? Mit welchen Daten? Und mit welchen Berechtigungen?

Unternehmen verlieren nicht die Kontrolle, weil Mitarbeiter KI nutzen. Sie verlieren sie, weil die Nutzung unsichtbar bleibt.

Welche Risiken entstehen durch Shadow AI im Unternehmen?

Shadow AI im Unternehmen führt nicht automatisch zu einem Sicherheitsvorfall. Das Risiko entsteht vor allem dort, wo sensible Informationen, unklare Verarbeitungsbedingungen, weitreichende Zugriffsrechte und fehlende Nachvollziehbarkeit zusammentreffen.

Datenabfluss

Wer einen Text von einer KI überarbeiten lässt, übermittelt diesen Text an einen externen Dienst. Wer ein Dokument zusammenfassen lässt, übermittelt möglicherweise dessen gesamten Inhalt.

Davon können Kunden- und Lieferantendaten, personenbezogene Informationen, Verträge, interne Finanzdaten, Geschäftsgeheimnisse, Quellcode oder technische Dokumentationen betroffen sein. Besonders kritisch wird es, wenn Zugangsdaten, API-Schlüssel, Konfigurationen oder Informationen über Sicherheitslücken eingegeben werden.

Der Datenabfluss geschieht häufig nicht vorsätzlich. Die Anwendung wird wie ein gewöhnliches Text- oder Recherchewerkzeug wahrgenommen. Dass dabei ein neuer externer Datenfluss entsteht, ist für den Anwender nicht immer offensichtlich.

Für das Unternehmen bleibt dennoch die zentrale Frage: Durften diese Informationen unter den konkreten Bedingungen an diesen Anbieter übermittelt werden?

Datenschutz und Compliance

Sobald personenbezogene Daten in einer KI-Anwendung verarbeitet werden, müssen die Anforderungen der Datenschutz-Grundverordnung berücksichtigt werden.

Relevant sind unter anderem Zweckbindung, Rechtsgrundlage, Datenminimierung, Aufbewahrung, Löschung, Empfänger sowie mögliche Übermittlungen in Drittländer.

Ob ein KI-Dienst datenschutzkonform eingesetzt werden kann, lässt sich deshalb nicht pauschal beantworten. Entscheidend sind das konkrete Angebot, der verwendete Kontotyp, die Konfiguration, der Verarbeitungszweck und die Art der eingegebenen Daten.

Ein privater Gratis-Account kann anders zu bewerten sein als eine vertraglich geregelte Unternehmensversion. Auch unterschiedliche Einstellungen desselben Dienstes können zu unterschiedlichen Risiken führen.

Die Frage lautet daher nicht nur: „Ist dieser Anbieter sicher?“ Sondern: „Ist dieser konkrete Einsatz unter unseren organisatorischen und rechtlichen Rahmenbedingungen vertretbar?“

Unkontrollierte Berechtigungen

Bei Shadow AI geht es nicht nur um die Inhalte einzelner Prompts.

Ein externer KI-Dienst kann über Integrationen auf weitere Unternehmensressourcen zugreifen. Abhängig von den erteilten OAuth-Rechten darf eine Anwendung möglicherweise E-Mails lesen, Kalenderdaten abrufen, Dateien durchsuchen oder Inhalte verändern.

Ohne zentrale Prüfung bleiben wesentliche Fragen offen: Wer hat den Zugriff genehmigt? Welche Daten darf die Anwendung verarbeiten? Wie lange besteht die Berechtigung? Kann die IT sie zentral widerrufen? Und wird der Zugriff beim Offboarding eines Mitarbeiter zuverlässig entfernt?
Damit wird Shadow AI auch zu einem Problem des Identitäts- und Berechtigungsmanagements.

Ein Dienst, der zunächst wie ein harmloser Assistent wirkt, kann durch weitreichende Berechtigungen eine deutlich größere Angriffs- und Risikofläche schaffen.

Fehlende Nachvollziehbarkeit

Was die IT nicht sieht, kann sie nur schwer schützen.

Ohne ein realistisches Lagebild lässt sich häufig nicht zuverlässig beantworten, welche KI-Dienste tatsächlich verwendet werden, welche Abteilungen sie nutzen und welche Daten betroffen sein könnten.

Diese fehlende Nachvollziehbarkeit erschwert interne Audits, Datenschutzprüfungen und die Reaktion auf Sicherheitsvorfälle. Im Ernstfall muss zunächst rekonstruiert werden, welche Anwendungen, Konten und Berechtigungen überhaupt existieren.

Auch eine bestehende KI-Richtlinie löst dieses Problem nicht automatisch. Sie beschreibt, wie Mitarbeiter handeln sollen. Sie zeigt jedoch nicht, wie im Arbeitsalltag tatsächlich gehandelt wird.

Kurz gesagt: Eine Richtlinie beschreibt den gewünschten Zustand. Transparenz zeigt den tatsächlichen Zustand.

Warum schaffen Verbote keine Kontrolle?

Ein pauschales Verbot wirkt auf den ersten Blick konsequent. Es ist schnell formuliert, eindeutig und vermeidet komplizierte Einzelfallentscheidungen.
In der Praxis beendet es die Nutzung von KI jedoch nicht zwangsläufig.

Mitarbeiter können auf private Konten, mobile Geräte, Browser-Dienste oder weniger bekannte Alternativen ausweichen. Die Anwendung verschwindet dadurch nicht unbedingt aus dem Arbeitsalltag. Sie verschwindet vor allem aus dem sichtbaren Bereich der IT.

Ein allgemeines Verbot kann außerdem die Offenheit im Unternehmen reduzieren. Wer befürchten muss, für die Nutzung eines nicht freigegebenen Tools kritisiert zu werden, wird neue Anwendungsfälle oder Unsicherheiten seltener ansprechen.

Gleichzeitig werden auch sinnvolle und risikoarme Einsatzmöglichkeiten blockiert. Fachbereiche beginnen dann möglicherweise, eigene Lösungen zu suchen, weil der offizielle Weg als zu langsam oder unpraktisch wahrgenommen wird.

Das bedeutet nicht, dass jedes KI-Tool erlaubt werden sollte. Für bestimmte Daten, Anwendungen und Berechtigungen sind klare Einschränkungen notwendig.

Der wirksamere Grundsatz lautet:
So restriktiv wie nötig – und so nutzbar wie möglich.

Freigegebene Werkzeuge müssen im Arbeitsalltag eine echte Alternative darstellen. Auch der Prozess zur Prüfung neuer KI-Anwendungen sollte klar und praktikabel sein.

Ein Freigabeverfahren, das mehrere Wochen dauert, konkurriert mit einem öffentlichen Dienst, der innerhalb weniger Sekunden verfügbar ist.

Ein Verbot macht KI nicht unsichtbar. Es macht häufig nur ihre Nutzung unsichtbar.

Woran lässt sich Shadow AI im Unternehmen erkennen?

Shadow AI ist nicht immer sofort sichtbar. Typische Warnsignale sind:

• Sie kennen nur die offiziell beschafften KI-Dienste.
• Es gibt keine Übersicht über private oder kostenlose Accounts.
• OAuth-Freigaben und KI-basierte Browser-Erweiterungen werden nicht zentral geprüft.
• Mitarbeiter wissen nicht eindeutig, welche Daten sie eingeben dürfen.
• Die KI-Richtlinie besteht überwiegend aus allgemeinen Verboten.
• Für neue KI-Anwendungen gibt es keinen schnellen und klaren Freigabeweg.
• Die Verantwortung ist zwischen IT, Datenschutz, Compliance und Fachbereichen ungeklärt.
• Es fehlt technische Sichtbarkeit über tatsächlich genutzte Dienste und Berechtigungen.

Je häufiger die ehrliche Antwort „Ja“ lautet, desto größer ist der Handlungsbedarf.

Das bedeutet nicht automatisch, dass bereits ein Sicherheitsvorfall vorliegt. Es bedeutet jedoch, dass bestehende Risiken nicht belastbar bewertet werden können.

Der erste Schritt ist Transparenz

Um die Risiken von Shadow AI im Unternehmen zu reduzieren, müssen Unternehmen die Nutzung von KI nicht grundsätzlich verhindern.
Sie müssen zunächst verstehen, was bereits geschieht.
Dafür braucht es Antworten auf drei grundlegende Fragen:

1. Welche KI-Dienste werden tatsächlich genutzt?
2. Welche Daten und Zugriffsrechte sind davon betroffen?
3. Wo besteht konkreter Handlungsbedarf?
   

Erst auf dieser Grundlage lassen sich sinnvolle Regeln, technische Kontrollen und freigegebene Alternativen entwickeln.

Der nächste Schritt besteht darin, eine praxistaugliche KI-Governance aufzubauen. Dazu gehören klare Verantwortlichkeiten, verständliche Regeln, geeignete Freigabeprozesse und kontinuierliche Kontrolle. Diese Themen behandeln wir im zweiten Teil unserer Artikelserie: KI-Governance im Unternehmen aufbauen .

Doch der Ausgangspunkt bleibt derselbe:
Sichere KI-Nutzung beginnt nicht mit einem weiteren Verbot. Sie beginnt mit Sichtbarkeit.

Wie geht es nach der Transparenz weiter?

Transparenz über die tatsächliche KI-Nutzung ist der erste Schritt. Doch wie lassen sich daraus klare Regeln, Verantwortlichkeiten und verlässliche Prozesse entwickeln? Im Beitrag KI Governance im Unternehmen: So gelingt der Aufbau zeigen wir, wie Unternehmen einen praxistauglichen Rahmen für den sicheren KI-Einsatz schaffen.

Wenn Sie direkt in die Umsetzung einsteigen möchten, finden Sie im Beitrag KI-Nutzung im Unternehmen: 7 Schritte für mehr Kontrolle konkrete Schritte für mehr Transparenz, sichere Abläufe und eine kontinuierliche Steuerung der KI-Nutzung.

Möchten Sie wissen, wie KI in Ihrem Unternehmen tatsächlich genutzt wird?

Mit BRISTOL können Sie Check Point Workforce AI Security kostenlos in Ihrem eigenen Unternehmenskontext testen. So gewinnen Sie Transparenz über die tatsächliche KI-Nutzung und schaffen eine fundierte Grundlage für die nächsten Schritte – von klaren Richtlinien bis hin zu gezielten Schutzmaßnahmen.

Kostenlosen Testzugang anfragen → KI im Unternehmen sicher nutzen | Workforce AI Security

FAQ