AI Act et EdTech : quelles obligations pour les fournisseurs et établissements éducatifs ?
À partir du 2 décembre 2027, les systèmes d'IA utilisés en éducation seront soumis à des obligations strictes. Plateformes d'apprentissage adaptatif, outils de notation automatisée ou systèmes d'orientation scolaire sont classés haut risque. Fournisseurs EdTech et établissements doivent se préparer dès maintenant.
Pourquoi l'EdTech est concernée par l'AI Act
Les outils d'IA utilisés en éducation sont majoritairement classés haut risque par l'AI Act. Cette classification impose des obligations strictes aux fournisseurs et aux établissements.
L'Annexe III du Règlement UE 2024/1689 liste les systèmes d'IA considérés comme haut risque. Le point 3 vise spécifiquement les systèmes utilisés dans l'éducation et la formation professionnelle. Sont concernés :
- Les outils d'évaluation des élèves ou étudiants,
- Les plateformes d'apprentissage adaptatif,
- Les systèmes d'orientation scolaire ou professionnelle,
- Les outils de détection de comportements ou de triche.
Exemple concret : une plateforme de notation automatique de dissertations, comme celles utilisées dans certaines universités, est classée haut risque. De même, un système d'orientation lycéens basé sur l'IA, qui recommande des filières en fonction des résultats et du profil de l'élève, entre dans cette catégorie.
Cette classification s'explique par l'impact potentiel de ces outils sur les droits fondamentaux des élèves. Une erreur ou un biais dans un système d'évaluation peut compromettre l'accès à l'éducation ou influencer une orientation scolaire de manière disproportionnée.
Fournisseurs EdTech : vos obligations en tant que fournisseur
Les éditeurs de logiciels éducatifs utilisant l'IA sont considérés comme fournisseurs au sens de l'AI Act. Leurs obligations sont multiples et techniques.
En tant que fournisseur, vous devez :
- Classer votre système : Vérifier si votre outil entre dans la catégorie haut risque (Annexe III, point 3). Une plateforme d'apprentissage adaptatif ou un système de notation automatisée sont typiquement concernés.
- Documenter techniquement votre système : Rédiger une documentation conforme à l'Annexe IV du Règlement. Cette documentation doit décrire le système, ses limites, ses performances et les mesures de mitigation des risques.
- Mettre en place un système de gestion des risques : Identifier et atténuer les risques liés à votre outil, notamment les biais dans les évaluations ou les recommandations d'orientation.
- Assurer la transparence : Informer les utilisateurs que le système utilise de l'IA et fournir des explications sur son fonctionnement (Article 13).
- Garantir la qualité des données : Les données utilisées pour entraîner votre modèle doivent être représentatives et exemptes de biais. L'Article 10 impose des critères stricts, notamment pour les données sensibles comme celles des mineurs.
- Enregistrer votre système : Les systèmes haut risque doivent être enregistrés dans la base de données de l'UE dédiée à l'IA.
Exemple : Un éditeur de logiciels de notation automatique de dissertations doit documenter les critères d'évaluation de son IA, expliquer comment les biais sont détectés et corrigés, et informer les établissements utilisateurs des limites du système.
Établissements scolaires : vos obligations en tant que déployeur
Les écoles, universités et autres organismes éducatifs qui utilisent des outils d'IA sont considérés comme déployeurs. Leurs obligations diffèrent de celles des fournisseurs.
En tant que déployeur, vous devez :
- Vérifier la conformité du fournisseur : Vous assurer que le système utilisé est conforme à l'AI Act. Cela inclut la vérification de la documentation technique et de l'enregistrement du système.
- Superviser l'utilisation du système : Mettre en place des procédures pour surveiller le fonctionnement de l'outil et détecter d'éventuels dysfonctionnements ou biais.
- Informer les utilisateurs : Les élèves, parents et enseignants doivent être informés de l'utilisation de l'IA et de ses implications.
- Tenir un registre des incidents : Documenter tout incident lié à l'utilisation du système et le signaler au fournisseur.
- Réaliser une FRIA si vous êtes un organisme public : Les établissements publics utilisant des systèmes haut risque doivent réaliser une évaluation des risques liés à l'IA (Article 27).
Exemple : Une université utilisant un outil de détection de triche par IA doit vérifier que le fournisseur a bien documenté son système, informer les étudiants de son utilisation, et surveiller les faux positifs qui pourraient pénaliser des élèves.
Pour les établissements publics, la FRIA (Fundamental Rights Impact Assessment) est une obligation clé. Elle doit évaluer l'impact du système sur les droits fondamentaux des élèves, notamment en matière de non-discrimination et de protection des données.
Données de mineurs et biais : les risques spécifiques en éducation
Les outils d'IA en éducation soulèvent des enjeux uniques, notamment en matière de protection des données de mineurs et de gestion des biais.
Protection des données de mineurs
Les données personnelles des élèves, notamment des mineurs, bénéficient d'une protection renforcée sous le RGPD. L'AI Act renforce ces exigences :
- Consentement parental : Pour les mineurs de moins de 15 ans, le consentement des parents est généralement requis pour le traitement de leurs données.
- Minimisation des données : Seules les données strictement nécessaires doivent être collectées et traitées.
- Sécurité des données : Les fournisseurs doivent mettre en place des mesures techniques et organisationnelles pour protéger les données des élèves.
Exemple : Une plateforme d'apprentissage adaptatif ne doit pas collecter des données sur les origines ethniques ou les opinions politiques des élèves, sauf si ces données sont strictement nécessaires et explicitement consenties.
Gestion des biais dans les systèmes d'évaluation et d'orientation
Les systèmes d'IA utilisés pour évaluer les élèves ou les orienter vers des filières peuvent reproduire ou amplifier des biais existants. L'AI Act impose aux fournisseurs de :
- Utiliser des données représentatives : Les données d'entraînement doivent couvrir tous les groupes d'élèves pour éviter les biais de sous-représentation.
- Tester les biais : Les systèmes doivent être testés pour détecter d'éventuels biais liés au genre, à l'origine socio-économique ou à d'autres critères protégés.
- Documenter les mesures de mitigation : Les fournisseurs doivent expliquer comment ils corrigent les biais détectés.
Exemple : Un système d'orientation scolaire qui recommande davantage de filières scientifiques aux garçons et de filières littéraires aux filles doit être corrigé pour éviter de perpétuer ces stéréotypes.
Calendrier et prochaines étapes
Les obligations liées aux systèmes haut risque en éducation entreront en vigueur le 2 décembre 2027. D'ici là, plusieurs échéances sont à anticiper.
Voici les dates clés à retenir :
- 2 novembre 2026 : Obligation de transparence pour les systèmes d'IA générative (watermarking, disclosure). Les outils comme les chatbots éducatifs ou les générateurs de contenu pédagogique sont concernés.
- 2 décembre 2027 : Entrée en vigueur des obligations pour les systèmes haut risque listés à l'Annexe III. Les fournisseurs EdTech et les établissements doivent être conformes à cette date.
- 2026-2027 : Le Conseil supérieur de l'éducation numérique (CSEN) et le Ministère de l'Éducation nationale publieront des guidelines spécifiques pour l'utilisation de l'IA en éducation. Ces documents aideront les établissements à se préparer.
Pour les fournisseurs EdTech, la priorité est de commencer dès maintenant la documentation technique de leurs systèmes et la mise en place des mesures de gestion des risques. Les établissements, quant à eux, doivent identifier les outils d'IA qu'ils utilisent et vérifier leur conformité.
Votre outil EdTech est-il conforme ?
Identifiez vos obligations AI Act en 3 minutes avec notre diagnostic gratuit. Adapté aux fournisseurs EdTech et aux établissements scolaires.
Questions fréquentes
Réponses aux questions les plus courantes sur l'AI Act et l'EdTech.
Non, la FRIA (Fundamental Rights Impact Assessment) est obligatoire uniquement pour les organismes du secteur public utilisant des systèmes haut risque listés à l'Annexe III, points 1, 6, 7 et 8. Les établissements privés ne sont pas soumis à cette obligation, mais ils doivent tout de même respecter les autres obligations des déployeurs, comme la supervision du système et la tenue d'un registre des incidents.
Oui, dans la plupart des cas. Un outil de détection de triche par IA est généralement considéré comme un système d'évaluation des étudiants, ce qui le classe haut risque selon l'Annexe III, point 3. Cependant, si l'outil est utilisé uniquement à des fins d'assistance (par exemple, pour alerter un enseignant sans prendre de décision automatique), il pourrait être classé à risque limité. La classification dépend de l'usage concret du système.
Les sanctions pour non-conformité à l'AI Act peuvent aller jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial, selon le montant le plus élevé. Pour les PME et startups, les amendes peuvent être réduites à 15 millions d'euros ou 3 % du chiffre d'affaires. Les autorités de surveillance, comme la CNIL en France, peuvent également imposer des mesures correctives, comme l'arrêt de l'utilisation du système non conforme.
Pour documenter les biais dans un système d'orientation scolaire, le fournisseur doit :
1. Identifier les critères protégés (genre, origine socio-économique, etc.),
2. Tester le système sur des jeux de données représentatifs pour détecter d'éventuels biais,
3. Documenter les résultats des tests et les mesures prises pour corriger les biais (par exemple, rééquilibrage des données ou ajustement des algorithmes),
4. Inclure cette documentation dans le dossier technique conforme à l'Annexe IV de l'AI Act.
Les établissements utilisateurs doivent également surveiller les biais en conditions réelles et signaler tout incident au fournisseur.
Un chatbot éducatif peut être concerné par l'AI Act selon son usage. Si le chatbot est utilisé pour des tâches administratives (par exemple, répondre aux questions sur les inscriptions), il peut être classé à risque limité. En revanche, s'il est utilisé pour évaluer les élèves ou influencer leur orientation, il peut être classé haut risque. Dans tous les cas, les obligations de transparence (Article 50) s'appliquent à partir du 2 novembre 2026 : les utilisateurs doivent être informés qu'ils interagissent avec une IA, et le contenu généré doit être marqué comme tel.