35 millones de multa: las 6 prácticas de IA prohibidas desde 2025.
Desde el 2 de febrero de 2025, seis prácticas de IA están formalmente prohibidas en Europa. La sanción máxima: 35 millones de euros o el 7% de la facturación mundial. Esto es lo que su empresa debe saber para evitar riesgos.
¿Por qué estas prohibiciones?
El Reglamento de IA regula estrictamente los usos de la IA considerados peligrosos para los derechos fundamentales.
El reglamento europeo clasifica ciertas prácticas como riesgos inaceptables. Estas prohibiciones se aplican a todos los actores, ya sean proveedores o responsables del despliegue de sistemas de IA. Las sanciones, previstas en el Artículo 99(2), tienen como objetivo disuadir los usos abusivos.
Las seis prácticas prohibidas abarcan ámbitos variados: manipulación conductual, vigilancia biométrica, scoring social o análisis emocional. Cada una responde a desafíos específicos de protección de los individuos y la sociedad.
1. Manipulación subliminal o engañosa
El Artículo 5(1)(a) prohíbe las técnicas que actúan sin el conocimiento de una persona para alterar su comportamiento.
Definición legal
Todo sistema de IA diseñado para influir en las decisiones de una persona sin que esta sea consciente, mediante estímulos subliminales o información falsa, está prohibido. El objetivo es evitar un perjuicio físico o psicológico.
Ejemplo concreto
Una aplicación de fitness que utiliza mensajes de audio subliminales para incitar al usuario a comprar suplementos alimenticios, sin que este sea consciente. Estos mensajes, integrados en sonidos ambientales, impulsan el consumo bajo la apariencia de motivación.
Herramienta afectada
Las plataformas de publicidad dirigida que utilizan algoritmos de dark patterns para maximizar la participación, como ciertas funciones de redes sociales o juegos móviles.
2. Explotación de vulnerabilidades
El Artículo 5(1)(b) se dirige a los sistemas que explotan las debilidades de las personas vulnerables.
Definición legal
Los sistemas de IA que se dirigen a grupos específicos (niños, personas con discapacidad, individuos en situación de dificultad económica) para distorsionar su comportamiento y causarles un perjuicio están prohibidos.
Ejemplo concreto
Un juego móvil diseñado para incitar a los niños a realizar compras integradas, explotando su falta de madurez cognitiva. El juego utiliza recompensas inmediatas y mecanismos de presión social para fomentar el gasto.
Herramienta afectada
Las aplicaciones de préstamos rápidos dirigidas a poblaciones precarias, con tipos de interés elevados y algoritmos diseñados para maximizar el endeudamiento.
3. Scoring social
El Artículo 5(1)(c) prohíbe los sistemas de puntuación social por parte de las autoridades públicas.
Definición legal
Los sistemas de IA utilizados por autoridades públicas para evaluar o clasificar a los ciudadanos en función de su comportamiento social, económico o personal están prohibidos. Esta prohibición se extiende a los actores privados cuyos efectos serían similares.
Ejemplo concreto
Un sistema de puntuación de los ciudadanos basado en su participación en actividades comunitarias, su historial crediticio o su comportamiento en línea, utilizado para conceder o denegar beneficios sociales.
Herramienta afectada
Las plataformas de puntuación de inquilinos o empleados, como ciertos sistemas utilizados en China, que influyen en el acceso a la vivienda o al empleo en función de criterios opacos.
4. Biometría a distancia en tiempo real
El Artículo 5(1)(d) regula estrictamente el uso del reconocimiento facial en lugares públicos.
Definición legal
La identificación biométrica a distancia en tiempo real en espacios accesibles al público está prohibida, salvo excepciones estrictas: lucha contra el terrorismo, búsqueda de personas desaparecidas o prevención de una amenaza específica y sustancial.
Ejemplo concreto
Un sistema de reconocimiento facial desplegado en un centro comercial para identificar a los clientes en tiempo real y enviarles publicidad dirigida. Este tipo de uso, sin consentimiento explícito, está prohibido.
Herramienta afectada
Clearview AI, cuya base de datos de rostros recopilados sin consentimiento ya ha sido objeto de sanciones en Europa.
5. Inferencia de emociones
El Artículo 5(1)(f) prohíbe el análisis de emociones en contextos sensibles.
Definición legal
Los sistemas de IA diseñados para inferir las emociones de los individuos en contextos profesionales o educativos están prohibidos, salvo por razones médicas o de seguridad estrictamente reguladas.
Ejemplo concreto
Un software de análisis facial utilizado durante entrevistas de trabajo para evaluar la honestidad o la motivación de los candidatos en función de sus expresiones faciales. Este tipo de herramienta, basada en correlaciones no probadas, está prohibida.
Herramienta afectada
Soluciones como HireVue o Affectiva, que analizan las emociones de los candidatos o empleados para influir en las decisiones de recursos humanos.
6. Categorización biométrica
El Artículo 5(1)(g) prohíbe los sistemas que clasifican a los individuos sobre la base de datos biométricos sensibles.
Definición legal
Los sistemas de IA que clasifican a los individuos en categorías basadas en datos biométricos (origen étnico, orientación sexual, convicciones religiosas) están prohibidos, salvo excepciones muy limitadas.
Ejemplo concreto
Un algoritmo de contratación que clasifica a los candidatos según su origen étnico o género, analizando sus rasgos faciales o voz. Este tipo de categorización, incluso indirecta, está prohibida.
Herramienta afectada
Los programas de gait analysis (análisis de la marcha) utilizados para identificar características personales sin base científica sólida.
¿Utiliza su empresa una IA prohibida?
Identifique sus riesgos en 3 minutos con nuestro diagnóstico gratuito.
Cómo verificar que su empresa no utiliza ninguna práctica prohibida
El cumplimiento requiere una auditoría rigurosa de sus herramientas y procesos.
1. Inventariar las herramientas de IA
Haga una lista de todos los sistemas de IA utilizados en su empresa, incluidos aquellos integrados en software de terceros. Verifique su conformidad con el Artículo 5 del Reglamento de IA.
2. Analizar los casos de uso
Para cada herramienta, identifique su contexto de uso. Por ejemplo, un software de análisis facial puede estar permitido en un contexto médico pero prohibido en una entrevista de trabajo.
3. Documentar las excepciones
Si una herramienta se encuentra en una zona gris (como la biometría a distancia por razones de seguridad), documente las justificaciones legales y obtenga las autorizaciones necesarias.
4. Formar a los equipos
Sensibilice a sus colaboradores sobre las prohibiciones del Reglamento de IA, especialmente a los equipos de RRHH, marketing y seguridad. Una formación adaptada reduce los riesgos de incumplimiento.
5. Auditar regularmente
El cumplimiento no es un estado estático. Implemente auditorías periódicas para verificar que sus herramientas sigan cumpliendo con las evoluciones regulatorias.
Preguntas frecuentes
Todo lo que necesita saber sobre las prácticas prohibidas por el Reglamento de IA.
Las sanciones pueden alcanzar los 35 millones de euros o el 7% de la facturación mundial de la empresa, según la cantidad más alta. Estas multas están previstas en el Artículo 99(2) del Reglamento de IA.
Sí, si la empresa ofrece servicios o productos en el mercado europeo, debe cumplir con el Reglamento de IA, incluidas las prohibiciones del Artículo 5.
No, la prohibición solo se aplica a contextos profesionales y educativos. Los usos médicos o de seguridad, estrictamente regulados, pueden estar permitidos.
Es necesario realizar una auditoría de cumplimiento. Debe incluir un análisis de las funcionalidades de la herramienta, su contexto de uso y su documentación técnica. El diagnóstico de AiActo permite identificar los riesgos en pocos minutos.
Las excepciones se refieren a la lucha contra el terrorismo, la búsqueda de personas desaparecidas o la prevención de una amenaza específica y sustancial. Estos usos deben ser autorizados por una autoridad judicial o administrativa competente.
