Shadow AI
Unkontrollierte Nutzung von KI-Tools durch Mitarbeiter ohne Wissen oder Genehmigung der IT-Abteilung — ein wachsendes Datenschutz- und Sicherheitsrisiko.
Shadow AI beschreibt die Nutzung von KI-Diensten wie ChatGPT, Copilot oder Gemini durch Mitarbeiter auf eigene Faust — ohne offizielle Genehmigung, ohne Datenschutzprüfung, ohne Kontrolle durch die IT. Das Phänomen ist die logische Weiterentwicklung von Shadow IT, bringt aber ein zusätzliches Risiko mit sich: Unternehmensdaten werden direkt an externe LLM-Anbieter gesendet, häufig ohne Maskierung, ohne Audit-Trail und ohne vertragliche Grundlage für die Datenverarbeitung. In der Praxis zeigt sich, dass nahezu jedes Unternehmen bereits mit Shadow AI konfrontiert ist — unabhängig davon, ob eine offizielle KI-Strategie existiert.
Warum Shadow AI entsteht
Mitarbeiter nutzen KI-Tools, weil sie produktiver arbeiten wollen — Texte schreiben, Daten analysieren, Code generieren, Präsentationen erstellen. Wenn das Unternehmen keinen offiziellen, sicheren Zugang bereitstellt, greifen sie auf private Accounts zurück. Das ist in der Regel kein böser Wille, sondern ein Zeichen für unerfüllten Bedarf. Die Einstiegshürde ist dabei extrem niedrig: Ein Browser-Tab genügt, und der Mitarbeiter arbeitet mit einem externen KI-Modell, das keinerlei Unternehmensrichtlinien kennt. Besonders verbreitet ist dieses Verhalten in wissensintensiven Abteilungen, in denen Zeitdruck und hohe Textvolumen den Griff zum KI-Werkzeug nahelegen.
Typische Shadow-AI-Szenarien
Die folgende Tabelle zeigt, welche Abteilungen in der Praxis besonders häufig betroffen sind und welche konkreten Risiken dabei entstehen:
| Abteilung | Typisches Tool | Risiko |
|---|---|---|
| Marketing | ChatGPT für Kampagnentexte |
Markenrichtlinien werden umgangen, interne Strategiedaten fließen ab |
| Rechtsabteilung | LLM-Chatbots für Vertragszusammenfassungen | Mandanten- und Vertragsdaten bei externen Anbietern |
| Entwicklung | GitHub Copilot mit privatem Account |
Proprietärer Quellcode wird als Trainingskontext übermittelt |
| Personalabteilung | KI-gestützte Bewerbungsanalyse | Bewerberdaten (Art. 9 DSGVO) an Drittanbieter ohne Rechtsgrundlage |
| Vertrieb | KI-Zusammenfassungen von Kundengesprächen | CRM-Daten und Gesprächsnotizen verlassen die Unternehmensinfrastruktur |
| Finanzabteilung | LLM für Berichtsvorlagen und Analysen | Finanzzahlen, Forecasts und M&A-Daten in externen Systemen |
Risiken im Detail
Die Risiken von Shadow AI lassen sich in drei Kategorien unterteilen, die sich gegenseitig verstärken.
DSGVO-Verstöße
Sobald personenbezogene Daten — Kundennamen, E-Mail-Adressen, Bewerberdaten — in ein externes LLM eingegeben werden, liegt eine Datenübermittlung vor. Ohne Auftragsverarbeitungsvertrag (AVV) und ohne dokumentierte Rechtsgrundlage nach Art. 6 DSGVO ist diese Übermittlung rechtswidrig. In der Praxis fehlt bei Shadow AI beides. Bei Drittlandtransfers (etwa an US-Anbieter) kommen zusätzliche Anforderungen aus Kapitel V DSGVO hinzu. Aufsichtsbehörden haben bereits signalisiert, dass unkontrollierte KI-Nutzung ein Prüfungsschwerpunkt wird.
EU AI Act
Der EU AI Act verlangt ab 2026 eine Risikoklassifizierung und Dokumentation für KI-Systeme, die in Unternehmen eingesetzt werden. Shadow AI macht diese Pflicht praktisch unmöglich zu erfüllen, da die IT-Abteilung nicht weiß, welche Systeme überhaupt genutzt werden. Besonders kritisch wird es, wenn Mitarbeiter KI-Tools für Entscheidungen einsetzen, die unter die Hochrisikokategorie fallen — etwa bei der Personalauswahl oder Kreditwürdigkeitsprüfung.
Datenverlust und Kontrollverlust
Daten, die einmal in ein externes Modell eingegeben wurden, lassen sich nicht zurückholen. Je nach Anbieter und Konfiguration können Eingaben für das Modelltraining verwendet werden. Es gibt keine Nachvollziehbarkeit, wer welche Daten wann an welches Modell gesendet hat. Bei Sicherheitsvorfällen oder Audits fehlen jegliche Nachweise. Hinzu kommt das Risiko von Prompt Injection: Werden manipulierte Inhalte in ein LLM eingespeist, können vertrauliche Daten aus dem Kontext extrahiert werden — ein Risiko, das ohne zentrale Guardrails unkontrollierbar bleibt.
Erkennung von Shadow AI
Shadow AI zu erkennen ist schwieriger als klassische Shadow IT, da kein Software-Install erforderlich ist. In der Praxis bewähren sich folgende Ansätze: Netzwerk-Monitoring auf API-Aufrufe zu bekannten KI-Endpunkten (api.openai.com, generativelanguage.googleapis.com), die Analyse von Browser-Erweiterungen auf Unternehmensgeräten, regelmäßige anonymisierte Mitarbeiterbefragungen zur tatsächlichen Tool-Nutzung sowie die Auswertung von DNS-Logs und Proxy-Protokollen. Entscheidend ist, dass Erkennung nicht als Überwachung wahrgenommen wird, sondern als Grundlage für ein besseres KI-Angebot kommuniziert wird.
Gegenmaßnahmen
Statt Shadow AI zu verbieten — was in der Praxis selten funktioniert und die Nutzung nur weiter in den Schatten treibt — sollten Unternehmen einen kontrollierten KI-Zugang bereitstellen. Die wirksamsten Maßnahmen umfassen:
Ein AI Gateway als zentraler Zugangspunkt für alle KI-Anfragen ermöglicht Logging, Kostenkontrolle und die Durchsetzung von Nutzungsrichtlinien. Alle Anfragen laufen über eine unternehmenseigene Infrastruktur, bevor sie an das jeweilige LLM weitergeleitet werden.
DLP-Integration (Data Loss Prevention) erkennt und maskiert sensible Daten automatisch, bevor sie das Unternehmensnetzwerk verlassen. Personenbezogene Daten, Finanzzahlen und proprietärer Code werden durch Platzhalter ersetzt oder die Anfrage wird blockiert.
Guardrails definieren, welche Arten von Anfragen zulässig sind und welche Modelle genutzt werden dürfen. Sie verhindern, dass Mitarbeiter versehentlich oder absichtlich Hochrisiko-Anwendungsfälle ohne Genehmigung umsetzen.
Ergänzend braucht es klare Nutzungsrichtlinien (Acceptable Use Policy), Schulungen zum sicheren Umgang mit KI-Tools und eine regelmäßige Überprüfung, ob der offizielle KI-Zugang die tatsächlichen Bedürfnisse der Fachabteilungen abdeckt.
Relevanz für KMUs
Shadow AI ist kein reines Konzernproblem. Gerade in kleinen und mittleren Unternehmen fehlen häufig dedizierte IT-Security-Teams, die das Phänomen überhaupt erkennen könnten. Gleichzeitig ist der Innovationsdruck hoch, und Mitarbeiter greifen schneller zu frei verfügbaren KI-Tools, wenn kein offizielles Angebot existiert. Die DSGVO-Bußgeldrisiken treffen KMUs dabei genauso wie Großunternehmen — die Obergrenze von 20 Mio. Euro oder 4 % des Jahresumsatzes gilt unabhängig von der Unternehmensgröße. In der Praxis zeigt sich, dass ein pragmatischer Ansatz — offizieller KI-Zugang mit automatischer Datenmaskierung statt Verbotspolitik — sowohl die Produktivität steigert als auch die Compliance sicherstellt.