Shadow-KI im Unternehmen: nicht gemeldete KI-Tools inventarisieren.
Mitarbeitende nutzen ChatGPT, Gemini und andere KI-Tools, ohne dies der IT-Abteilung oder dem Datenschutzbeauftragten zu melden. Dieses Phänomen, bekannt als Shadow-KI, untergräbt die Konformität mit der KI-Verordnung und setzt Unternehmen rechtlichen und operativen Risiken aus.
Was ist Shadow-KI?
Shadow-KI bezeichnet die Nutzung von KI-Tools durch Mitarbeitende ohne Validierung oder Aufsicht der IT-Abteilung oder des Datenschutzbeauftragten.
Dazu gehören Chatbots wie ChatGPT, Schreibassistenten, Bildgeneratoren und Coding-Lösungen wie GitHub Copilot. Sie sind per Klick zugänglich - über persönliche Konten oder Freemium-Stufen. Studien zeigen, dass zwischen 41 % und 78 % der Unternehmen betroffen sind, wobei die Verbreitung in Grossunternehmen höher ist.
Shadow-KI ist kein Randphänomen. Es spiegelt einen breiteren Trend wider: die schnelle Technologieadoption durch Fachabteilungen ausserhalb traditioneller IT-Kanäle. Diese Praxis stellt die Daten-Governance und die regulatorische Konformität vor erhebliche Herausforderungen.
Warum Shadow-KI in Unternehmen zunimmt
Consumer-KI-Tools sind auf sofortige Adoption ausgelegt. Eine einzige E-Mail-Adresse genügt, um ein Konto zu erstellen und Dienste wie ChatGPT oder Gemini zu nutzen. Freemium-Angebote ohne finanzielle Verpflichtung senken die Einstiegshürde weiter.
Produktivitätsdruck treibt Mitarbeitende dazu, schnelle Lösungen zu suchen. KI erscheint als Hebel, um Zeit zu sparen - beim Verfassen von E-Mails, der Datenanalyse oder der Code-Generierung. Fachabteilungen, die der IT-Abteilung oft voraus sind, übernehmen diese Tools ohne interne Genehmigung.
Schliesslich fördert das Fehlen genehmigter Alternativen die Shadow-KI. Bietet das Unternehmen keine konformen, einfach zu nutzenden KI-Tools an, greifen Mitarbeitende auf externe Lösungen zurück. Dies ist besonders ausgeprägt in Bereichen, in denen KI-Bedürfnisse erst entstehen, wie Recht oder Kommunikation.
Konkrete Compliance-Risiken unter der KI-Verordnung
Die KI-Verordnung stellt strenge Anforderungen an Transparenz, Dokumentation und Aufsicht. Ein nicht gemeldetes Tool kann nicht bewertet, dokumentiert oder geprüft werden. Artikel 26 der Verordnung verlangt ein Register und Protokolle für Hochrisiko-Systeme - unmöglich zu erfüllen, wenn das System nicht vorab identifiziert wurde.
Die operativen Risiken sind ebenso besorgniserregend. Consumer-KI-Tools sind nicht für den professionellen Einsatz ausgelegt. Sie können sensible Daten - Kundendaten, Geschäftsgeheimnisse - ohne Vertraulichkeitsgarantie verarbeiten. Prompts, die an externe APIs gesendet werden, können personenbezogene Daten enthalten und das Unternehmen DSGVO-Verstössen aussetzen.
Shadow-KI bringt auch undokumentierte Verzerrungen in Geschäftsprozesse ein. Ein Text- oder Datenanalyse-Tool kann voreingenommene Ergebnisse liefern, ohne dass das Unternehmen davon weiss. Diese Verzerrungen können rechtliche Folgen in Bereichen wie Recruiting oder Risikobewertung haben.
5-stufige Inventarisierungsmethode
Die Identifizierung nicht gemeldeter KI-Tools erfordert einen strukturierten Ansatz, der kollaborative Befragung und technische Analyse kombiniert. Keine einzelne Methode genügt - die Kombination aller fünf Schritte gewährleistet ein vollständiges und zuverlässiges Inventar.
- Mitarbeitendenbefragung: einen anonymen Fragebogen versenden, um verwendete Tools zu identifizieren. Beispielfragen: "Welche KI-Tools verwenden Sie bei Ihrer Arbeit?", "Für welche Aufgaben?", "Haben Sie ein persönliches Konto erstellt, um darauf zuzugreifen?".
- IT-Ausgabenanalyse: Firmenkartenabrechnungen und Rechnungen prüfen, um Abonnements für KI-Tools zu identifizieren. Kostenpflichtige Versionen von ChatGPT, Midjourney oder ähnlichen Diensten werden oft direkt von Fachabteilungen ausserhalb der IT-Beschaffung erworben.
- Netzwerk- und Protokoll-Scanning: Monitoring-Tools einsetzen, um Verbindungen zu KI-APIs oder -Diensten zu erkennen. Firewall- und Proxy-Protokolle können nicht gemeldete Nutzung aufdecken, insbesondere zu Endpunkten wie api.openai.com oder generativelanguage.googleapis.com.
- Interviews mit Fachabteilungen: Workshops mit Teams durchführen, um die tatsächlichen Bedürfnisse und Nutzungsmuster zu verstehen. Diese Gespräche bringen der IT unbekannte Tools ans Licht und liefern Rückmeldungen zur wahrgenommenen Effektivität.
- Freiwilliges Meldeformular: einen einfachen Kanal einrichten, über den Mitarbeitende ihre KI-Nutzung melden können. Das Formular muss zugänglich, sanktionsfrei und von einer klaren Kommunikation über seinen Zweck begleitet sein.
Vorlage für das KI-Tool-Meldeformular
Ein einfaches, zugängliches Formular ermutigt Mitarbeitende, ihre KI-Nutzung ohne Angst vor Sanktionen zu melden. Bereitstellen über Google Forms, Microsoft Forms oder ein gleichwertiges internes Tool. Entscheidend: einfache Felder und ein neutraler Ton.
Folgende Felder sollte das Formular enthalten:
- Name des KI-Tools: Freitextfeld (z. B. ChatGPT, Copilot, Midjourney, Perplexity).
- Hauptanwendung: Dropdown - Texterstellung, Datenanalyse, Code-Generierung, Bildgenerierung, Sonstiges.
- Nutzungshäufigkeit: täglich, wöchentlich, gelegentlich.
- Verarbeitete Datenkategorien: keine sensiblen Daten, Kundendaten, Mitarbeiterdaten, Finanzdaten, Sonstiges.
- Verwendeter Kontotyp: Unternehmenskonto, persönliches Konto oder Freemium-Stufe.
- Freitextkommentar: Textfeld für ergänzende Angaben.
Zuckerbrot oder Peitsche: Welcher Ansatz ist richtig?
Shadow-KI zu verbieten, ohne Alternativen anzubieten, ist wirkungslos. Die Bedürfnisse bleiben - die Tools wechseln. Eine nachhaltige Strategie kombiniert Sensibilisierung, genehmigte Lösungen und einen klaren Rahmen.
Der restriktive Ansatz: warum er scheitert
Den Zugang zu Consumer-KI-Tools zu sperren oder Mitarbeitende zu sanktionieren, löst das eigentliche Problem nicht. Mitarbeitende finden Umgehungswege: mobiler Zugriff, persönliche VPNs oder nicht erkannte Alternative-Tools. Repression erzeugt Misstrauen und macht unsichtbar, was bislang nur diskret war. Shadow-KI verschwindet nicht - sie versteckt sich nur besser.
Der kollaborative Ansatz: drei Hebel
Eine wirksame Strategie basiert auf drei komplementären Hebeln:
- Sensibilisierung: Mitarbeitende über konkrete Risiken schulen - Datenverlust, DSGVO-Verstösse, persönliche Haftung. Kurze E-Learning-Module sind wirksamer als lange, ungelesene Richtlinien. Artikel 4 der KI-Verordnung verpflichtet alle Betreiber seit dem 2. Februar 2025 zur KI-Kompetenz.
- Genehmigte Lösungen: konforme Alternativen bereitstellen. Ein Unternehmensabonnement für zertifizierte Tools mit geeigneten Vertragsbedingungen reduziert Shadow-KI deutlich. Der Markt bietet heute professionelle Versionen der meisten Consumer-Tools.
- Klarer Rahmen: eine einfache, operative KI-Nutzungsrichtlinie veröffentlichen. Sie muss festlegen, welche Tools für welche Zwecke und mit welchen Daten erlaubt sind. Das aiacto.eu-Pflichtentool kann helfen, diesen Rahmen nach Branche und Unternehmensgrösse zu strukturieren.
Das Ziel ist nicht, den KI-Einsatz durch Mitarbeitende zu unterbinden, sondern ihn zu steuern. Gut gesteuerter KI-Einsatz ist ein Wettbewerbsvorteil. Nicht dokumentierter Einsatz ist ein regulatorisches Risiko, das das Unternehmen allein trägt.
Rechtsrahmen: die wichtigsten Artikel
Sind alle Ihre KI-Tools gemeldet und konform?
In 3 Minuten ermittelt die aiacto.eu-Diagnose Ihre KI-Verordnungspflichten basierend auf Branche, Unternehmensgrösse und eingesetzten Tools. Kostenlos, ohne Registrierung.
Häufig gestellte Fragen
Antworten auf die häufigsten Fragen zu Shadow-KI und Compliance mit der KI-Verordnung.
Shadow-KI bezeichnet die Nutzung von KI-Tools durch Mitarbeitende ohne Genehmigung der IT-Abteilung oder des Datenschutzbeauftragten. Dazu gehören Chatbots, Schreibassistenten und Code-Generatoren, die frei online verfügbar sind. Studien zeigen, dass zwischen 41 % und 78 % der Unternehmen betroffen sind.
Die KI-Verordnung verbietet Shadow-KI nicht direkt, erlegt aber Dokumentations-, Aufsichts- und Rückverfolgbarkeitspflichten auf, die eine nicht gemeldete KI-Nutzung unmöglich zu erfüllen macht. Hochrisiko-Systeme benötigen ein Register und Protokolle, die ohne vorheriges Inventar nicht geführt werden können.
Die Aufdeckung stützt sich auf mehrere komplementäre Ansätze: anonyme Mitarbeitendenbefragungen, Netzwerkprotokollanalyse, IT-Ausgabenprüfung und Interviews mit Fachabteilungen. Keine einzelne Methode genügt. Die Kombination aller fünf Schritte gewährleistet ein vollständiges und zuverlässiges Inventar.
Alle in einem externen KI-Tool eingegebenen Daten können ohne Vertraulichkeitsgarantie an Server ausserhalb der EU übermittelt werden. Kundendaten, Finanzdaten und interne Kommunikation sind besonders gefährdet. Jeder Prompt mit einem Namen, einer E-Mail-Adresse oder einer identifizierenden Information stellt eine Verarbeitung personenbezogener Daten im Sinne der DSGVO dar.
Transparenz über die Ziele ist entscheidend: Die Meldung dient dazu, Nutzung abzusichern - nicht Mitarbeitende zu sanktionieren. Ein anonymes Formular, eine sanktionsfreie Kommunikation und das zeitnahe Bereitstellen genehmigter Alternativen erhöhen die Rücklaufquote deutlich. Die Kernbotschaft: Melden schützt sowohl das Unternehmen als auch die Person.
Shadow-IT bezeichnet alle IT-Systeme, die ohne IT-Genehmigung genutzt werden, wobei Shadow-KI eine Teilkategorie darstellt. Shadow-KI ist heute die häufigste Form von Shadow-IT, bedingt durch die Zugänglichkeit von Consumer-KI-Tools. Sie birgt spezifische Risiken im Zusammenhang mit der Datenverarbeitung und den neuen Pflichten der KI-Verordnung.
Die Haftung wird zwischen Arbeitgeber und Mitarbeiter aufgeteilt. Das Unternehmen bleibt für Datenverarbeitungen verantwortlich, die in seinem Namen erfolgen - auch ohne Kenntnis der IT-Abteilung. Der Mitarbeiter kann für einen Verstoss gegen interne Richtlinien haftbar gemacht werden. Das Vorhandensein einer veröffentlichten KI-Nutzungsrichtlinie stellt einen Schutzfaktor für das Unternehmen dar.