Anthropic généralise le marquage invisible C2PA de Claude.
Le leader des modèles d'IA sécurisés intègre le standard C2PA pour ses sorties multimodales, une première dans l'industrie. Cette décision, effective avant l'échéance réglementaire, pose les bases d'une conformité proactive avec l'Article 50 de l'AI Act.
C2PA, un standard technique pour la transparence des contenus synthétiques
Le Coalition for Content Provenance and Authenticity (C2PA) est un standard ouvert développé par Adobe, Microsoft, Intel et d'autres acteurs pour tracer l'origine des contenus numériques.
Anthropic annonce l'intégration systématique de métadonnées C2PA dans les images générées par ses modèles Claude 3.7 et ultérieurs. Ces métadonnées, invisibles à l'œil nu mais détectables par des outils spécialisés, indiquent :
- l'origine du contenu (généré par IA),
- le modèle utilisé (Claude 3.7, 3.8, etc.),
- la date et l'heure de génération,
- un identifiant unique pour chaque sortie.
Le C2PA repose sur une signature cryptographique qui garantit l'intégrité des métadonnées. Toute modification du contenu après génération invalide la signature, signalant une altération potentielle. Ce mécanisme répond partiellement aux exigences de l'Article 50 de l'AI Act, qui impose un marquage machine-readable des contenus synthétiques.
Ce que l'AI Act impose réellement aux fournisseurs d'IA générative
L'Article 50 de l'AI Act établit des obligations distinctes pour les fournisseurs et les déployeurs de systèmes d'IA générative.
Pour les fournisseurs comme Anthropic, les exigences incluent :
- un marquage machine-readable des contenus synthétiques, conforme à des standards reconnus (C2PA, IPTC, Schema.org),
- une documentation technique accessible décrivant les capacités et limites du système,
- la mise en place de mécanismes de détection des contenus générés par IA,
- la publication d'un résumé des données d'entraînement utilisées, sauf exceptions pour les secrets industriels.
Le C2PA répond à la première exigence, mais ne couvre pas l'ensemble des obligations. Anthropic devra compléter cette approche par :
- une documentation technique détaillée, conforme à l'Annexe IV de l'AI Act,
- un résumé public des données d'entraînement, accessible via son site web,
- des outils de détection pour les contenus générés par ses modèles.
Limites du C2PA face aux exigences européennes
Le standard C2PA, bien que technique et robuste, présente plusieurs limites au regard des obligations de l'AI Act.
Premièrement, le C2PA ne couvre que les contenus multimodaux (images, vidéos, audio). Les textes générés par IA, comme ceux produits par Claude, ne sont pas concernés. Or, l'Article 50 impose une transparence pour tous les types de contenus synthétiques, y compris les textes. Anthropic devra donc compléter son approche par d'autres mécanismes pour les sorties textuelles.
Deuxièmement, le C2PA repose sur des métadonnées embarquées dans le fichier. Ces métadonnées peuvent être supprimées ou altérées par des outils de retouche ou des plateformes de partage. L'AI Act exige une transparence persistante, ce qui pose un défi technique pour les fournisseurs.
Troisièmement, le C2PA ne fournit pas d'information sur les données d'entraînement ou les limites du modèle, deux éléments requis par l'Article 50. Ces informations doivent être communiquées séparément, via la documentation technique et le résumé public des données.
Enfin, le C2PA est un standard technique, mais l'AI Act impose également des obligations organisationnelles, comme la mise en place de procédures de conformité et la notification des incidents. Ces aspects ne sont pas couverts par le standard.
Responsabilités des déployeurs et risques résiduels
L'intégration du C2PA par Anthropic ne décharge pas les déployeurs de leurs obligations sous l'AI Act.
Les déployeurs, c'est-à-dire les entreprises ou organisations qui utilisent Claude pour générer des contenus, restent responsables de :
- la vérification de la conformité du fournisseur (Anthropic) avec l'Article 50,
- la mise en place de mécanismes de transparence pour les contenus diffusés auprès du public,
- la formation des utilisateurs aux risques liés aux contenus synthétiques,
- la notification aux autorités en cas d'incident de conformité, dans un délai de 72 heures.
Les risques résiduels pour les déployeurs incluent :
- la suppression des métadonnées C2PA lors de la diffusion des contenus,
- l'utilisation de Claude pour des cas d'usage non couverts par la documentation d'Anthropic,
- la non-détection de contenus générés par IA en l'absence d'outils de vérification adaptés.
Les déployeurs doivent donc compléter l'approche technique d'Anthropic par des mesures organisationnelles, comme la mise en place de politiques internes de transparence et la formation des équipes.
Comment vérifier la conformité de vos outils IA
Les entreprises doivent s'assurer que leurs outils d'IA générative respectent les obligations de l'Article 50 avant le 2 août 2026.
Pour vérifier la conformité d'un fournisseur comme Anthropic, les étapes suivantes sont recommandées :
- Vérifier la présence de métadonnées C2PA : utiliser des outils comme Content Credentials Verify pour détecter les métadonnées dans les images générées.
- Consulter la documentation technique : s'assurer qu'elle couvre les exigences de l'Annexe IV de l'AI Act, notamment les capacités, limites et données d'entraînement du modèle.
- Vérifier la publication du résumé des données d'entraînement : ce document doit être accessible publiquement, sauf exceptions pour les secrets industriels.
- Tester les mécanismes de détection : utiliser des outils comme AI Detection pour évaluer la capacité du fournisseur à détecter ses propres contenus générés.
- Évaluer les procédures de conformité : demander au fournisseur des preuves de ses procédures internes, comme les audits de conformité et les mécanismes de notification des incidents.
Pour les déployeurs, il est également recommandé de :
- mettre en place des politiques internes de transparence pour les contenus diffusés,
- former les équipes aux risques liés aux contenus synthétiques,
- documenter les cas d'usage et les mesures de conformité mises en place.
Questions fréquentes
Tout ce qu'il faut savoir sur le marquage C2PA et les obligations de l'Article 50.
Non, l'AI Act ne prescrit pas de standard unique pour le marquage des contenus synthétiques. Le C2PA est l'un des trois standards reconnus par le Règlement, aux côtés de l'IPTC et de Schema.org. Les fournisseurs peuvent choisir le standard qui convient le mieux à leur cas d'usage, à condition qu'il soit machine-readable et conforme aux exigences de l'Article 50.
Les sanctions pour non-respect de l'Article 50 peuvent atteindre jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires mondial, selon le montant le plus élevé. Les autorités de surveillance, comme la CNIL en France, peuvent également imposer des mesures correctives, comme l'arrêt de la diffusion des contenus non conformes ou la mise en place de mesures de transparence supplémentaires.
Non, le standard C2PA ne couvre actuellement que les contenus multimodaux (images, vidéos, audio). Pour les textes générés par IA, comme ceux produits par Claude, les fournisseurs doivent utiliser d'autres mécanismes de transparence, comme des filigranes numériques ou des métadonnées embarquées dans les fichiers. Anthropic n'a pas encore communiqué sur sa solution pour les textes.
Oui, les déployeurs restent responsables de la transparence des contenus qu'ils diffusent, même si les métadonnées sont supprimées. L'AI Act impose aux déployeurs de mettre en place des mécanismes pour préserver la transparence, comme des mentions explicites dans les contenus ou des politiques internes de vérification. En cas de suppression des métadonnées, le déployeur doit être en mesure de prouver qu'il a pris toutes les mesures raisonnables pour respecter ses obligations.
L'AI Act reconnaît trois standards pour le marquage machine-readable des contenus synthétiques : le C2PA, l'IPTC et Schema.org. Les fournisseurs peuvent également utiliser des solutions propriétaires, à condition qu'elles soient interopérables et conformes aux exigences de l'Article 50. Par exemple, Google utilise un filigrane numérique invisible pour ses modèles Imagen, tandis que Microsoft intègre des métadonnées dans ses outils Office 365.
