35 millions d'amende : les 6 pratiques IA interdites depuis 2025.
Depuis le 2 février 2025, six pratiques d'IA sont formellement interdites en Europe. La sanction maximale : 35 millions d'euros ou 7% du chiffre d'affaires mondial. Voici ce que votre entreprise doit savoir pour éviter les risques.
Pourquoi ces interdictions ?
L'AI Act encadre strictement les usages de l'IA jugés dangereux pour les droits fondamentaux.
Le règlement européen classe certaines pratiques comme des risques inacceptables. Ces interdictions s'appliquent à tous les acteurs, qu'ils soient fournisseurs ou déployeurs de systèmes d'IA. Les sanctions, prévues à l'Article 99(2), visent à dissuader les usages abusifs.
Les six pratiques interdites couvrent des domaines variés : manipulation comportementale, surveillance biométrique, scoring social ou encore analyse émotionnelle. Chacune répond à des enjeux spécifiques de protection des individus et de la société.
1. Manipulation subliminale ou trompeuse
L'Article 5(1)(a) interdit les techniques agissant à l'insu d'une personne pour altérer son comportement.
Définition légale
Tout système d'IA conçu pour influencer les décisions d'une personne sans qu'elle en ait conscience, par des stimuli subliminaux ou des informations fausses, est interdit. L'objectif est d'éviter un préjudice physique ou psychologique.
Exemple concret
Une application de fitness qui utilise des messages audio subliminaux pour inciter l'utilisateur à acheter des compléments alimentaires, sans qu'il en ait conscience. Ces messages, intégrés dans des sons ambiants, poussent à la consommation sous couvert de motivation.
Outil concerné
Les plateformes de publicité ciblée utilisant des algorithmes de dark patterns pour maximiser l'engagement, comme certaines fonctionnalités de réseaux sociaux ou de jeux mobiles.
2. Exploitation des vulnérabilités
L'Article 5(1)(b) cible les systèmes exploitant les faiblesses des personnes vulnérables.
Définition légale
Les systèmes d'IA qui ciblent des groupes spécifiques (enfants, personnes en situation de handicap, individus en difficulté économique) pour déformer leur comportement et leur causer un préjudice sont interdits.
Exemple concret
Un jeu mobile conçu pour inciter les enfants à effectuer des achats intégrés, en exploitant leur manque de maturité cognitive. Le jeu utilise des récompenses immédiates et des mécanismes de pression sociale pour pousser à la dépense.
Outil concerné
Les applications de prêt rapide ciblant les populations précaires, avec des taux d'intérêt élevés et des algorithmes conçus pour maximiser l'endettement.
3. Scoring social
L'Article 5(1)(c) interdit les systèmes de notation sociale par les autorités publiques.
Définition légale
Les systèmes d'IA utilisés par des autorités publiques pour évaluer ou classer les citoyens en fonction de leur comportement social, économique ou personnel sont interdits. Cette interdiction s'étend aux acteurs privés dont les effets seraient similaires.
Exemple concret
Un système de notation des citoyens basé sur leur participation à des activités communautaires, leur historique de crédit ou leur comportement en ligne, utilisé pour accorder ou refuser des avantages sociaux.
Outil concerné
Les plateformes de notation des locataires ou des employés, comme certains systèmes utilisés en Chine, qui influencent l'accès au logement ou à l'emploi en fonction de critères opaques.
4. Biométrie à distance en temps réel
L'Article 5(1)(d) encadre strictement l'usage de la reconnaissance faciale dans les lieux publics.
Définition légale
L'identification biométrique à distance en temps réel dans des espaces accessibles au public est interdite, sauf exceptions strictes : lutte contre le terrorisme, recherche de personnes disparues ou prévention d'une menace spécifique et substantielle.
Exemple concret
Un système de reconnaissance faciale déployé dans un centre commercial pour identifier les clients en temps réel et leur envoyer des publicités ciblées. Ce type d'usage, sans consentement explicite, est interdit.
Outil concerné
Clearview AI, dont la base de données de visages collectés sans consentement a déjà fait l'objet de sanctions en Europe.
5. Inférence des émotions
L'Article 5(1)(f) interdit l'analyse des émotions dans des contextes sensibles.
Définition légale
Les systèmes d'IA conçus pour inférer les émotions des individus dans des contextes professionnels ou éducatifs sont interdits, sauf pour des raisons médicales ou de sécurité strictement encadrées.
Exemple concret
Un logiciel d'analyse faciale utilisé lors d'entretiens d'embauche pour évaluer l'honnêteté ou la motivation des candidats en fonction de leurs expressions faciales. Ce type d'outil, basé sur des corrélations non prouvées, est interdit.
Outil concerné
Les solutions comme HireVue ou Affectiva, qui analysent les émotions des candidats ou des employés pour influencer les décisions RH.
6. Catégorisation biométrique
L'Article 5(1)(g) interdit les systèmes classant les individus sur la base de données biométriques sensibles.
Définition légale
Les systèmes d'IA qui classent les individus en catégories sur la base de données biométriques (origine ethnique, orientation sexuelle, convictions religieuses) sont interdits, sauf exceptions très limitées.
Exemple concret
Un algorithme de recrutement qui classe les candidats en fonction de leur origine ethnique ou de leur genre, en analysant leurs traits faciaux ou leur voix. Ce type de catégorisation, même indirecte, est interdit.
Outil concerné
Les logiciels de gait analysis (analyse de la démarche) utilisés pour identifier des caractéristiques personnelles sans base scientifique solide.
Votre entreprise utilise-t-elle une IA interdite ?
Identifiez vos risques en 3 minutes avec notre diagnostic gratuit.
Comment vérifier que votre entreprise n'utilise aucune pratique interdite
La conformité passe par un audit rigoureux de vos outils et processus.
1. Inventorier les outils IA
Listez tous les systèmes d'IA utilisés dans votre entreprise, y compris ceux intégrés dans des logiciels tiers. Vérifiez leur conformité avec l'Article 5 de l'AI Act.
2. Analyser les cas d'usage
Pour chaque outil, identifiez son contexte d'utilisation. Par exemple, un logiciel d'analyse faciale peut être autorisé en contexte médical mais interdit en entretien d'embauche.
3. Documenter les exceptions
Si un outil entre dans une zone grise (comme la biométrie à distance pour des raisons de sécurité), documentez les justifications légales et obtenez les autorisations nécessaires.
4. Former les équipes
Sensibilisez vos collaborateurs aux interdictions de l'AI Act, notamment les équipes RH, marketing et sécurité. Une formation adaptée réduit les risques de non-conformité.
5. Auditer régulièrement
La conformité n'est pas un état statique. Mettez en place des audits réguliers pour vérifier que vos outils restent conformes aux évolutions réglementaires.
Questions fréquentes
Tout ce que vous devez savoir sur les pratiques interdites par l'AI Act.
Les sanctions peuvent atteindre 35 millions d'euros ou 7% du chiffre d'affaires mondial de l'entreprise, selon le montant le plus élevé. Ces amendes sont prévues à l'Article 99(2) de l'AI Act.
Oui, si l'entreprise propose des services ou des produits sur le marché européen, elle doit se conformer à l'AI Act, y compris aux interdictions de l'Article 5.
Non, l'interdiction ne s'applique qu'aux contextes professionnels et éducatifs. Les usages médicaux ou de sécurité, strictement encadrés, peuvent être autorisés.
Un audit de conformité est nécessaire. Il doit inclure une analyse des fonctionnalités de l'outil, de son contexte d'utilisation et de sa documentation technique. Le diagnostic AiActo permet d'identifier les risques en quelques minutes.
Les exceptions concernent la lutte contre le terrorisme, la recherche de personnes disparues ou la prévention d'une menace spécifique et substantielle. Ces usages doivent être autorisés par une autorité judiciaire ou administrative compétente.
