AI Act y EdTech: ¿qué obligaciones para los proveedores y centros educativos?
A partir del 2 de diciembre de 2027, los sistemas de IA utilizados en educación estarán sujetos a obligaciones estrictas. Plataformas de aprendizaje adaptativo, herramientas de calificación automatizada o sistemas de orientación escolar se clasifican como de alto riesgo. Proveedores EdTech y centros educativos deben prepararse desde ahora.
Por qué el sector EdTech está afectado por el AI Act
Las herramientas de IA utilizadas en educación se clasifican mayoritariamente como de alto riesgo según el AI Act. Esta clasificación impone obligaciones estrictas a los proveedores y a los centros educativos.
El Anexo III del Reglamento UE 2024/1689 enumera los sistemas de IA considerados de alto riesgo. El punto 3 se refiere específicamente a los sistemas utilizados en educación y formación profesional. Están afectados:
- Las herramientas de evaluación de alumnos o estudiantes,
- Las plataformas de aprendizaje adaptativo,
- Los sistemas de orientación escolar o profesional,
- Las herramientas de detección de comportamientos o fraude.
Ejemplo concreto: una plataforma de calificación automática de ensayos, como las utilizadas en algunas universidades, se clasifica como de alto riesgo. Del mismo modo, un sistema de orientación para estudiantes de secundaria basado en IA, que recomienda itinerarios en función de los resultados y el perfil del alumno, entra en esta categoría.
Esta clasificación se explica por el impacto potencial de estas herramientas en los derechos fundamentales de los alumnos. Un error o un sesgo en un sistema de evaluación puede comprometer el acceso a la educación o influir en una orientación escolar de manera desproporcionada.
Proveedores EdTech: sus obligaciones como proveedor
Los editores de software educativo que utilizan IA se consideran proveedores en el sentido del AI Act. Sus obligaciones son múltiples y técnicas.
Como proveedor, debe:
- Clasificar su sistema: Verificar si su herramienta entra en la categoría de alto riesgo (Anexo III, punto 3). Una plataforma de aprendizaje adaptativo o un sistema de calificación automatizada suelen estar afectados.
- Documentar técnicamente su sistema: Redactar una documentación conforme al Anexo IV del Reglamento. Esta documentación debe describir el sistema, sus límites, sus prestaciones y las medidas de mitigación de riesgos.
- Implementar un sistema de gestión de riesgos: Identificar y mitigar los riesgos asociados a su herramienta, especialmente los sesgos en las evaluaciones o las recomendaciones de orientación.
- Garantizar la transparencia: Informar a los usuarios de que el sistema utiliza IA y proporcionar explicaciones sobre su funcionamiento (Artículo 13).
- Asegurar la calidad de los datos: Los datos utilizados para entrenar su modelo deben ser representativos y estar libres de sesgos. El Artículo 10 impone criterios estrictos, especialmente para los datos sensibles, como los de los menores.
- Registrar su sistema: Los sistemas de alto riesgo deben registrarse en la base de datos de la UE dedicada a la IA.
Ejemplo: Un editor de software de calificación automática de ensayos debe documentar los criterios de evaluación de su IA, explicar cómo se detectan y corrigen los sesgos, e informar a los centros usuarios de las limitaciones del sistema.
Centros educativos: sus obligaciones como responsable del despliegue
Las escuelas, universidades y otros organismos educativos que utilizan herramientas de IA se consideran responsables del despliegue. Sus obligaciones difieren de las de los proveedores.
Como responsable del despliegue, debe:
- Verificar la conformidad del proveedor: Asegurarse de que el sistema utilizado cumple con el AI Act. Esto incluye la verificación de la documentación técnica y el registro del sistema.
- Supervisar el uso del sistema: Establecer procedimientos para monitorear el funcionamiento de la herramienta y detectar posibles disfunciones o sesgos.
- Informar a los usuarios: Los alumnos, padres y profesores deben ser informados sobre el uso de la IA y sus implicaciones.
- Llevar un registro de incidentes: Documentar cualquier incidente relacionado con el uso del sistema y comunicarlo al proveedor.
- Realizar una FRIA si es un organismo público: Los centros públicos que utilicen sistemas de alto riesgo deben realizar una evaluación de impacto sobre los derechos fundamentales (Artículo 27).
Ejemplo: Una universidad que utiliza una herramienta de detección de fraude mediante IA debe verificar que el proveedor ha documentado correctamente su sistema, informar a los estudiantes sobre su uso y supervisar los falsos positivos que podrían perjudicar a los alumnos.
Para los centros públicos, la FRIA (Fundamental Rights Impact Assessment) es una obligación clave. Debe evaluar el impacto del sistema en los derechos fundamentales de los alumnos, especialmente en materia de no discriminación y protección de datos.
Datos de menores y sesgos: los riesgos específicos en educación
Las herramientas de IA en educación plantean desafíos únicos, especialmente en materia de protección de datos de menores y gestión de sesgos.
Protección de datos de menores
Los datos personales de los alumnos, especialmente de los menores, gozan de una protección reforzada según el RGPD. El AI Act refuerza estos requisitos:
- Consentimiento parental: Para los menores de menos de 15 años, generalmente se requiere el consentimiento de los padres para el tratamiento de sus datos.
- Minimización de datos: Solo deben recogerse y tratarse los datos estrictamente necesarios.
- Seguridad de los datos: Los proveedores deben implementar medidas técnicas y organizativas para proteger los datos de los alumnos.
Ejemplo: Una plataforma de aprendizaje adaptativo no debe recoger datos sobre el origen étnico o las opiniones políticas de los alumnos, salvo si estos datos son estrictamente necesarios y se ha obtenido el consentimiento explícito.
Gestión de sesgos en los sistemas de evaluación y orientación
Los sistemas de IA utilizados para evaluar a los alumnos o orientarlos hacia itinerarios pueden reproducir o amplificar sesgos existentes. El AI Act obliga a los proveedores a:
- Utilizar datos representativos: Los datos de entrenamiento deben cubrir todos los grupos de alumnos para evitar sesgos por infrarrepresentación.
- Probar los sesgos: Los sistemas deben probarse para detectar posibles sesgos relacionados con el género, el origen socioeconómico u otros criterios protegidos.
- Documentar las medidas de mitigación: Los proveedores deben explicar cómo corrigen los sesgos detectados.
Ejemplo: Un sistema de orientación escolar que recomienda más itinerarios científicos a los chicos y más itinerarios literarios a las chicas debe corregirse para evitar perpetuar estos estereotipos.
Calendario y próximos pasos
Las obligaciones relacionadas con los sistemas de alto riesgo en educación entrarán en vigor el 2 de diciembre de 2027. Hasta entonces, hay varios plazos que deben anticiparse.
Estas son las fechas clave que debe recordar:
- 2 de noviembre de 2026: Obligación de transparencia para los sistemas de IA generativa (marcado de agua, divulgación). Herramientas como los chatbots educativos o los generadores de contenido pedagógico están afectados.
- 2 de diciembre de 2027: Entrada en vigor de las obligaciones para los sistemas de alto riesgo enumerados en el Anexo III. Los proveedores EdTech y los centros educativos deben estar conformes en esta fecha.
- 2026-2027: El Consejo Superior de Educación Digital (CSEN) y el Ministerio de Educación Nacional publicarán guías específicas para el uso de la IA en educación. Estos documentos ayudarán a los centros a prepararse.
Para los proveedores EdTech, la prioridad es comenzar ya la documentación técnica de sus sistemas y la implementación de medidas de gestión de riesgos. Los centros educativos, por su parte, deben identificar las herramientas de IA que utilizan y verificar su conformidad.
¿Su herramienta EdTech es conforme?
Identifique sus obligaciones del AI Act en 3 minutos con nuestro diagnóstico gratuito. Adaptado a proveedores EdTech y centros educativos.
Preguntas frecuentes
Respuestas a las preguntas más comunes sobre el AI Act y el sector EdTech.
No, la FRIA (Fundamental Rights Impact Assessment) es obligatoria únicamente para los organismos del sector público que utilicen sistemas de alto riesgo enumerados en el Anexo III, puntos 1, 6, 7 y 8. Los centros privados no están sujetos a esta obligación, pero deben cumplir con las demás obligaciones de los responsables del despliegue, como la supervisión del sistema y el mantenimiento de un registro de incidentes.
Sí, en la mayoría de los casos. Una herramienta de detección de fraude mediante IA generalmente se considera un sistema de evaluación de estudiantes, lo que la clasifica como de alto riesgo según el Anexo III, punto 3. Sin embargo, si la herramienta se utiliza únicamente con fines de asistencia (por ejemplo, para alertar a un profesor sin tomar una decisión automática), podría clasificarse como de riesgo limitado. La clasificación depende del uso concreto del sistema.
Las sanciones por incumplimiento del AI Act pueden llegar hasta 35 millones de euros o el 7% de la facturación mundial, según la cantidad más alta. Para las PYMES y startups, las multas pueden reducirse a 15 millones de euros o el 3% de la facturación. Las autoridades de supervisión, como la CNIL en Francia, también pueden imponer medidas correctivas, como la suspensión del uso del sistema no conforme.
Para documentar los sesgos en un sistema de orientación escolar, el proveedor debe:
1. Identificar los criterios protegidos (género, origen socioeconómico, etc.),
2. Probar el sistema con conjuntos de datos representativos para detectar posibles sesgos,
3. Documentar los resultados de las pruebas y las medidas adoptadas para corregir los sesgos (por ejemplo, reequilibrar los datos o ajustar los algoritmos),
4. Incluir esta documentación en el expediente técnico conforme al Anexo IV del AI Act.
Los centros usuarios también deben supervisar los sesgos en condiciones reales y comunicar cualquier incidente al proveedor.
Un chatbot educativo puede estar afectado por el AI Act según su uso. Si el chatbot se utiliza para tareas administrativas (por ejemplo, responder preguntas sobre matrículas), puede clasificarse como de riesgo limitado. En cambio, si se utiliza para evaluar a los alumnos o influir en su orientación, puede clasificarse como de alto riesgo. En cualquier caso, las obligaciones de transparencia (Artículo 50) se aplican a partir del 2 de noviembre de 2026: los usuarios deben ser informados de que interactúan con una IA, y el contenido generado debe marcarse como tal.