KI-Transparenz Artikel 50, Leitfaden für Unternehmen.
Am 2. November 2026 treten die Transparenzpflichten des KI-Gesetzes in Kraft. Anbieter und Betreiber müssen ihre betroffenen Systeme identifizieren, sichtbare Kennzeichnungen implementieren und ihre Prozesse dokumentieren. So bereiten Sie sich rechtzeitig vor.
Welche KI-Systeme fallen unter Artikel 50?
Artikel 50 betrifft drei Kategorien von KI-Systemen, unabhängig von ihrem Risikolevel.
Im Gegensatz zu den Pflichten für Hochrisiko-KI-Systeme gelten die Transparenzanforderungen für weit verbreitete Tools. Die Verordnung unterscheidet:
- Generative KI-Systeme, die Text, Audio oder Video erzeugen,
- KI-Systeme, die über konversationelle Schnittstellen mit Menschen interagieren,
- Systeme, die bestehende Inhalte manipulieren, um Deepfakes zu erstellen.
Das KI-Büro stellt klar, dass automatische Übersetzungs- oder Zusammenfassungstools nicht betroffen sind, es sei denn, sie erzeugen originäre Inhalte. Das offizielle Glossar enthält konkrete Beispiele für jede Kategorie.
Wer muss sich anpassen? Anbieter vs. Betreiber
Die Pflichten unterscheiden sich je nach Rolle in der KI-Wertschöpfungskette.
Anbieter von KI-Systemen müssen:
- Mechanismen zur Kennzeichnung synthetischer Inhalte integrieren,
- Eine technische Dokumentation dieser Mechanismen bereitstellen,
- Betreiber über ihre verbleibenden Pflichten informieren.
Betreiber hingegen müssen:
- Prüfen, ob die genutzten Systeme die Transparenzmechanismen korrekt integrieren,
- Ihre Teams in der Erkennung und Nutzung dieser Kennzeichnungen schulen,
- Ihre Überwachungsprozesse dokumentieren.
Das KI-Büro hat im Juni 2026 Leitlinien veröffentlicht, die diese geteilten Verantwortlichkeiten klären. Unternehmen, die SaaS-Lösungen nutzen, müssen vertraglich sicherstellen, dass ihr Anbieter diese Pflichten erfüllt.
Wie werden synthetische Inhalte gekennzeichnet?
Die Verordnung verlangt eine sichtbare Kennzeichnung und eine maschinenlesbare Kennzeichnung.
Für die sichtbare Kennzeichnung sind zwei Methoden zugelassen:
- Ein direkt in den Inhalt integriertes Wasserzeichen,
- Ein klarer Textvermerk, der die synthetische Natur des Inhalts angibt.
Für die maschinenlesbare Kennzeichnung werden die technischen Standards derzeit vom CEN-CENELEC finalisiert. Das KI-Büro empfiehlt die Verwendung folgender Formate:
- Für Bilder: EXIF-Tags oder XMP-Metadaten,
- Für Videos: Metadaten im Stream oder separate Dateien,
- Für Texte: HTML-Tags oder JSON-LD-Metadaten.
Die CNIL hat im April 2026 einen praktischen Leitfaden veröffentlicht, der diese Methoden mit konkreten Beispielen erläutert. Unternehmen müssen ihre Produktions- und Verbreitungs-Tools anpassen, um diese Kennzeichnungen zu integrieren.
Welche Risiken bestehen bei Nichteinhaltung?
Die Sanktionen variieren je nach Schwere des Verstoßes und der Rolle des Akteurs.
Für Anbieter können die Bußgelder betragen:
- Bis zu 15 Millionen Euro oder 3% des weltweiten Umsatzes,
- Mit möglichen Erhöhungen bei wiederholten Verstößen.
Für Betreiber umfassen die Sanktionen:
- Verwaltungsstrafen, die sich an der Unternehmensgröße orientieren,
- Anordnungen zur Herstellung der Konformität innerhalb einer Frist,
- Die vorübergehende Aussetzung der Nutzung des nicht konformen Systems.
Laut mehreren Studien könnten Reputationsrisiken teurer sein als finanzielle Sanktionen. Unternehmen, die in Skandale um nicht gekennzeichnete synthetische Inhalte verwickelt sind, könnten einen dauerhaften Vertrauensverlust bei Kunden und Partnern erleiden.
Das KI-Büro hat angekündigt, dass die ersten Kontrollen sich auf Sektoren mit hoher öffentlicher Wirkung konzentrieren werden: Medien, Werbung, Finanzdienstleistungen und Verwaltung. Der offizielle Zeitplan enthält die wichtigsten Termine für jede Art von Pflicht.
Konkrete Beispiele nach Branche
Jede Branche muss die Transparenzpflichten an ihre spezifischen Anwendungsfälle anpassen.
Medien und Kommunikation
Nachrichtenagenturen und Medien müssen:
- Systematisch Bilder und Videos kennzeichnen, die durch KI erzeugt wurden,
- In Artikeln deutlich angeben, wenn KI-Tools für die Erstellung genutzt wurden,
- Journalisten in den Best Practices der Transparenz schulen.
Beispiel: Die Gruppe Le Monde hat 2025 die automatische Integration von Wasserzeichen in ihre Bildproduktions-Tools angekündigt.
Finanzdienstleistungen
Banken und Versicherungen müssen:
- Kunden informieren, wenn automatisierte Entscheidungen getroffen werden,
- Berichte kennzeichnen, die durch KI für Kreditanalysen generiert wurden,
- Prozesse zur menschlichen Überwachung dokumentieren.
Beispiel: BNP Paribas hat 2026 ein System zur Kennzeichnung von Zusammenfassungen in Finanzanalysen eingeführt.
Gesundheitswesen
Gesundheitseinrichtungen müssen:
- Deutlich angeben, wenn Diagnosen durch KI unterstützt werden,
- Automatisch generierte medizinische Berichte kennzeichnen,
- Das medizinische Personal in der transparenten Nutzung dieser Tools schulen.
Beispiel: Die AP-HP hat 2025 ein Transparenzprotokoll für ihre KI-gestützten radiologischen Diagnose-Tools eingeführt.
Sind Ihre KI-Tools konform?
Identifizieren Sie Ihre genauen Pflichten unter dem KI-Gesetz mit unserer kostenlosen Diagnose.
Häufige Fragen
Antworten auf die häufigsten Fragen zu den Transparenzpflichten.
Ja, Artikel 50 gilt für alle betroffenen KI-Systeme, einschließlich solcher, die intern genutzt werden. Die Unterscheidung zwischen interner und externer Nutzung existiert in der Verordnung für Transparenzpflichten nicht. Unternehmen müssen daher synthetische Inhalte kennzeichnen, selbst wenn sie ausschließlich intern genutzt werden, wie z.B. automatisierte Berichte oder durch KI generierte Präsentationen.
Die sichtbare Kennzeichnung richtet sich an menschliche Nutzer. Sie kann in Form eines Wasserzeichens, eines Textvermerks oder eines erkennbaren Symbols erfolgen. Die maschinenlesbare Kennzeichnung hingegen ist in die Metadaten des Inhalts integriert und ermöglicht eine automatische Erkennung durch technische Tools. Beide Kennzeichnungsarten sind für synthetische Inhalte verpflichtend, sofern nicht durch die Verordnung Ausnahmen vorgesehen sind.
Nein, die Transparenzpflichten gelten für alle Unternehmen gleichermaßen, unabhängig von ihrer Größe. KMU können jedoch bei einer ersten, nicht vorsätzlichen Zuwiderhandlung von einer zusätzlichen Frist zur Herstellung der Konformität profitieren. Das KI-Büro hat spezifische Leitfäden veröffentlicht, um kleinen Strukturen bei der Umsetzung dieser Pflichten mit begrenzten Ressourcen zu helfen.
Die Dokumentation muss umfassen: eine Beschreibung der betroffenen Systeme, die verwendeten Kennzeichnungsmethoden, die implementierten Überwachungsprozesse und die durchgeführten Schulungen. Diese Unterlagen müssen mindestens 5 Jahre aufbewahrt und den Aufsichtsbehörden auf Anfrage vorgelegt werden. Unser Leitfaden zu den Pflichten erläutert die erforderlichen Elemente dieser Dokumentation.
Bei einer versehentlichen Verbreitung nicht gekennzeichneter synthetischer Inhalte muss das Unternehmen: den Vorfall innerhalb von 72 Stunden dem KI-Büro melden, die Kennzeichnung der betroffenen Inhalte korrigieren und Maßnahmen zur Vermeidung von Wiederholungen dokumentieren. Betreiber müssen zudem ihre Anbieter informieren, um eine Korrektur upstream zu ermöglichen. Die CNIL empfiehlt, bereits jetzt ein internes Verfahren zur Vorfallsbewältigung einzurichten.
