Anthropic führt unsichtbare C2PA-Kennzeichnung für Claude ein.
Der Marktführer für sichere KI-Modelle integriert den C2PA-Standard für seine multimodalen Ausgaben - ein Novum in der Branche. Diese vor der regulatorischen Frist umgesetzte Entscheidung legt den Grundstein für eine proaktive Einhaltung von Artikel 50 des AI Act.
C2PA - ein technischer Standard für die Transparenz synthetischer Inhalte
Die Coalition for Content Provenance and Authenticity (C2PA) ist ein offener Standard, der von Adobe, Microsoft, Intel und anderen Akteuren entwickelt wurde, um die Herkunft digitaler Inhalte nachverfolgbar zu machen.
Anthropic kündigt die systematische Integration von C2PA-Metadaten in die von seinen Modellen Claude 3.7 und neueren Versionen generierten Bilder an. Diese Metadaten, die für das bloße Auge unsichtbar, aber mit speziellen Tools nachweisbar sind, enthalten folgende Informationen:
- die Herkunft des Inhalts (KI-generiert),
- das verwendete Modell (Claude 3.7, 3.8 usw.),
- Datum und Uhrzeit der Generierung,
- eine eindeutige Kennung für jede Ausgabe.
C2PA basiert auf einer kryptografischen Signatur, die die Integrität der Metadaten gewährleistet. Jede nachträgliche Änderung des Inhalts macht die Signatur ungültig und weist auf eine mögliche Manipulation hin. Dieser Mechanismus erfüllt teilweise die Anforderungen von Artikel 50 des AI Act, der eine maschinenlesbare Kennzeichnung synthetischer Inhalte vorschreibt.
Was der AI Act tatsächlich von Anbietern generativer KI verlangt
Artikel 50 des AI Act legt unterschiedliche Pflichten für Anbieter und Betreiber generativer KI-Systeme fest.
Für Anbieter wie Anthropic umfassen die Anforderungen:
- eine maschinenlesbare Kennzeichnung synthetischer Inhalte, die anerkannten Standards entspricht (C2PA, IPTC, Schema.org),
- eine zugängliche technische Dokumentation, die Fähigkeiten und Grenzen des Systems beschreibt,
- die Einrichtung von Mechanismen zur Erkennung KI-generierter Inhalte,
- die Veröffentlichung einer Zusammenfassung der verwendeten Trainingsdaten, sofern keine Ausnahme für Geschäftsgeheimnisse gilt.
C2PA erfüllt die erste Anforderung, deckt jedoch nicht alle Pflichten ab. Anthropic muss diesen Ansatz ergänzen durch:
- eine detaillierte technische Dokumentation gemäß Anhang IV des AI Act,
- eine öffentlich zugängliche Zusammenfassung der Trainingsdaten über seine Website,
- Erkennungstools für die von seinen Modellen generierten Inhalte.
Grenzen des C2PA gegenüber den europäischen Anforderungen
Der C2PA-Standard ist zwar technisch robust, weist jedoch mehrere Grenzen im Hinblick auf die Pflichten des AI Act auf.
Erstens deckt C2PA nur multimodale Inhalte ab (Bilder, Videos, Audio). Die von KI generierten Texte, wie sie von Claude erstellt werden, sind nicht betroffen. Artikel 50 verlangt jedoch Transparenz für alle Arten synthetischer Inhalte, einschließlich Texte. Anthropic muss seinen Ansatz daher durch weitere Mechanismen für textuelle Ausgaben ergänzen.
Zweitens basiert C2PA auf Metadaten, die in die Datei eingebettet sind. Diese Metadaten können durch Bearbeitungstools oder Plattformen zum Teilen von Inhalten entfernt oder verändert werden. Der AI Act verlangt jedoch eine dauerhafte Transparenz, was für Anbieter eine technische Herausforderung darstellt.
Drittens liefert C2PA keine Informationen über die Trainingsdaten oder die Grenzen des Modells - zwei Elemente, die Artikel 50 vorschreibt. Diese Informationen müssen separat über die technische Dokumentation und die öffentliche Zusammenfassung der Daten kommuniziert werden.
Schließlich ist C2PA ein technischer Standard, doch der AI Act sieht auch organisatorische Pflichten vor, wie die Einrichtung von Konformitätsverfahren und die Meldung von Vorfällen. Diese Aspekte werden vom Standard nicht abgedeckt.
Verantwortlichkeiten der Betreiber und verbleibende Risiken
Die Integration von C2PA durch Anthropic entbindet Betreiber nicht von ihren Pflichten gemäß AI Act.
Betreiber, also Unternehmen oder Organisationen, die Claude zur Generierung von Inhalten nutzen, bleiben verantwortlich für:
- die Überprüfung der Konformität des Anbieters (Anthropic) mit Artikel 50,
- die Einrichtung von Transparenzmechanismen für öffentlich verbreitete Inhalte,
- die Schulung der Nutzer zu Risiken synthetischer Inhalte,
- die Meldung von Konformitätsvorfällen an die Behörden innerhalb von 72 Stunden.
Die verbleibenden Risiken für Betreiber umfassen:
- das Entfernen der C2PA-Metadaten bei der Verbreitung von Inhalten,
- die Nutzung von Claude für Anwendungsfälle, die nicht in der Dokumentation von Anthropic abgedeckt sind,
- die Nicht-Erkennung KI-generierter Inhalte bei Fehlen geeigneter Prüftools.
Betreiber müssen daher den technischen Ansatz von Anthropic durch organisatorische Maßnahmen ergänzen, wie die Einführung interner Transparenzrichtlinien und die Schulung der Teams.
Wie Sie die Konformität Ihrer KI-Tools überprüfen
Unternehmen müssen sicherstellen, dass ihre generativen KI-Tools die Pflichten aus Artikel 50 bis zum 2. August 2026 erfüllen.
Zur Überprüfung der Konformität eines Anbieters wie Anthropic werden folgende Schritte empfohlen:
- Prüfen der C2PA-Metadaten: Nutzen Sie Tools wie Content Credentials Verify, um Metadaten in generierten Bildern zu erkennen.
- Technische Dokumentation prüfen: Stellen Sie sicher, dass sie die Anforderungen von Anhang IV des AI Act erfüllt, insbesondere zu Fähigkeiten, Grenzen und Trainingsdaten des Modells.
- Veröffentlichung der Trainingsdaten-Zusammenfassung prüfen: Dieses Dokument muss öffentlich zugänglich sein, sofern keine Ausnahmen für Geschäftsgeheimnisse gelten.
- Erkennungsmechanismen testen: Nutzen Sie Tools wie AI Detection, um die Fähigkeit des Anbieters zu bewerten, eigene generierte Inhalte zu erkennen.
- Konformitätsverfahren bewerten: Fordern Sie vom Anbieter Nachweise über interne Verfahren an, wie Konformitätsaudits und Meldewege für Vorfälle.
Für Betreiber wird außerdem empfohlen:
- interne Transparenzrichtlinien für verbreitete Inhalte einzuführen,
- Teams zu Risiken synthetischer Inhalte zu schulen,
- Anwendungsfälle und umgesetzte Konformitätsmaßnahmen zu dokumentieren.
Häufige Fragen
Alles Wissenswerte zur C2PA-Kennzeichnung und den Pflichten aus Artikel 50.
Nein, der AI Act schreibt keinen einheitlichen Standard für die Kennzeichnung synthetischer Inhalte vor. C2PA ist einer von drei anerkannten Standards der Verordnung, neben IPTC und Schema.org. Anbieter können den Standard wählen, der am besten zu ihrem Anwendungsfall passt, sofern er maschinenlesbar ist und den Anforderungen von Artikel 50 entspricht.
Bei Nichteinhaltung von Artikel 50 können Sanktionen von bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes verhängt werden, je nachdem, welcher Betrag höher ist. Die Aufsichtsbehörden, wie die CNIL in Frankreich, können zudem Korrekturmaßnahmen anordnen, etwa die Einstellung der Verbreitung nicht konformer Inhalte oder zusätzliche Transparenzmaßnahmen.
Nein, der C2PA-Standard deckt derzeit nur multimodale Inhalte ab (Bilder, Videos, Audio). Für KI-generierte Texte, wie sie von Claude erstellt werden, müssen Anbieter andere Transparenzmechanismen nutzen, etwa digitale Wasserzeichen oder in Dateien eingebettete Metadaten. Anthropic hat noch keine Lösung für Texte kommuniziert.
Ja, Betreiber bleiben für die Transparenz der von ihnen verbreiteten Inhalte verantwortlich, selbst wenn Metadaten entfernt werden. Der AI Act verpflichtet Betreiber, Mechanismen zur Wahrung der Transparenz einzurichten, etwa explizite Hinweise in Inhalten oder interne Prüfrichtlinien. Bei Entfernung der Metadaten muss der Betreiber nachweisen können, dass er alle zumutbaren Maßnahmen zur Einhaltung seiner Pflichten ergriffen hat.
Der AI Act erkennt drei Standards für die maschinenlesbare Kennzeichnung synthetischer Inhalte an: C2PA, IPTC und Schema.org. Anbieter können auch proprietäre Lösungen nutzen, sofern diese interoperabel und konform mit den Anforderungen von Artikel 50 sind. So setzt Google beispielsweise ein unsichtbares digitales Wasserzeichen für seine Imagen-Modelle ein, während Microsoft Metadaten in seine Office-365-Tools integriert.
