Question 1

¿Qué es sistema de inteligencia artificial según el AI Act?

Accepted Answer

Un sistema de inteligencia artificial designa un sistema automatizado diseñado para operar con diferentes niveles de autonomía, que puede mostrar adaptabilidad tras su despliegue, y que, para objetivos explícitos o implícitos, infiere, a partir de las entradas que recibe, como generar resultados tales como predicciones, contenido, recomendaciones o decisiones. Esta definición es intencionalmente amplia para cubrir todas las tecnologías de IA actuales y futuras.

Question 2

¿Qué es sistema de identificación biométrica según el AI Act?

Accepted Answer

Un sistema de identificación biométrica es un sistema de IA destinado a identificar a personas físicas comparando sus datos biométricos con los contenidos en una base de datos de referencia, sin que la persona afectada haya dado necesariamente su consentimiento previo. La identificación biométrica remota en tiempo real en espacios públicos está sujeta a restricciones particularmente estrictas.

Question 3

¿Qué es sistema de reconocimiento de emociones según el AI Act?

Accepted Answer

Un sistema de reconocimiento de emociones designa un sistema de IA destinado a identificar o inferir las emociones o intenciones de personas físicas a partir de sus datos biométricos. El uso de estos sistemas en el lugar de trabajo y en centros educativos está prohibido por el reglamento, salvo con fines médicos o de seguridad.

Question 4

¿Qué es sistema de categorización biométrica según el AI Act?

Accepted Answer

Un sistema de categorización biométrica es un sistema de IA destinado a clasificar a personas físicas en categorías específicas como sexo, edad, color de pelo, color de ojos, tatuajes, origen étnico u orientación sexual y política. La categorización basada en datos biométricos para inferir raza, opiniones políticas u orientación sexual está prohibida.

Question 5

¿Qué es modelo de ia de uso general (gpai) según el AI Act?

Accepted Answer

Un modelo de IA de uso general designa un modelo de IA, incluso cuando se entrena con una gran cantidad de datos mediante autosupervisión a gran escala, que muestra una generalidad significativa y es capaz de realizar de manera competente una amplia gama de tareas distintas. Estos modelos pueden integrarse en diversos sistemas o aplicaciones descendentes.

Question 6

¿Qué es modelo gpai con riesgo sistémico según el AI Act?

Accepted Answer

Un modelo de IA de uso general se clasifica como que presenta riesgo sistémico si tiene capacidades de alto impacto, evaluadas sobre la base de herramientas y metodologías técnicas apropiadas, o cuando la cantidad acumulada de cómputo utilizada para su entrenamiento supera 10^25 FLOPS. Estos modelos están sujetos a obligaciones reforzadas en materia de evaluación, documentación y ciberseguridad.

Question 7

¿Qué es sistema de ia de uso general según el AI Act?

Accepted Answer

Un sistema de IA de uso general designa un sistema de IA basado en un modelo de IA de uso general, que es capaz de servir para diversos fines, tanto para uso directo como para integración en otros sistemas de IA. El proveedor de tal sistema debe cumplir tanto con las obligaciones relativas al modelo subyacente como con las aplicables al propio sistema de IA.

Question 8

¿Qué es documentación técnica según el AI Act?

Accepted Answer

La documentación técnica constituye toda la información que el proveedor de un sistema de IA de alto riesgo debe establecer y mantener de conformidad con el artículo 11 y el anexo IV del reglamento. Debe demostrar la conformidad del sistema con los requisitos aplicables y proporcionar a las autoridades competentes toda la información necesaria para evaluar dicha conformidad.

Question 9

¿Qué es sistema de ia de alto riesgo según el AI Act?

Accepted Answer

Un sistema de IA de alto riesgo es un sistema contemplado en el artículo 6 del reglamento, ya sea porque constituye un componente de seguridad de un producto cubierto por la legislación de armonización de la Unión incluida en el anexo I, o porque pertenece a uno de los ámbitos enumerados en el anexo III. Estos sistemas están sujetos al conjunto más completo de obligaciones del reglamento.

Question 10

¿Qué es sistema de ia de riesgo limitado según el AI Act?

Accepted Answer

Los sistemas de IA de riesgo limitado son aquellos sujetos a obligaciones de transparencia específicas previstas en el artículo 50 del reglamento, sin ser clasificados como de alto riesgo. Incluyen sistemas que interactúan directamente con personas físicas, sistemas de generación de contenido sintético y sistemas de detección de emociones.

Question 11

¿Qué es sistema de ia de riesgo mínimo según el AI Act?

Accepted Answer

Los sistemas de IA de riesgo mínimo son aquellos que no pertenecen a la categoría de alto riesgo, ni a las prácticas prohibidas, ni a las obligaciones de transparencia específicas. Representan la gran mayoría de los sistemas de IA actualmente desplegados en la Unión. El reglamento fomenta la adopción voluntaria de códigos de conducta para estos sistemas.

Question 12

¿Qué es prácticas de ia prohibidas según el AI Act?

Accepted Answer

El artículo 5 del reglamento establece una lista de prácticas de IA estrictamente prohibidas debido a su carácter contrario a los valores de la Unión. Están prohibidos en particular los sistemas de puntuación social, la manipulación subliminal, la explotación de vulnerabilidades, la identificación biométrica remota en tiempo real en espacios públicos (con excepciones) y la categorización biométrica basada en características sensibles.

Question 13

¿Qué es proveedor según el AI Act?

Accepted Answer

Proveedor designa a cualquier persona física o jurídica, autoridad pública, organismo o cualquier otro órgano que desarrolla o hace desarrollar un sistema de IA o un modelo de IA de uso general y lo comercializa o pone en servicio bajo su propio nombre o marca, ya sea a título oneroso o gratuito. El proveedor tiene la responsabilidad principal de la conformidad del sistema.

Question 14

¿Qué es responsable del despliegue según el AI Act?

Accepted Answer

Responsable del despliegue designa a cualquier persona física o jurídica, autoridad pública, organismo o cualquier otro órgano que utiliza un sistema de IA bajo su propia autoridad, salvo cuando dicho sistema se utiliza en el marco de una actividad personal de carácter no profesional. El responsable del despliegue debe seguir las instrucciones de uso del proveedor y garantizar una supervisión humana adecuada.

Question 15

¿Qué es importador según el AI Act?

Accepted Answer

Importador designa a cualquier persona física o jurídica establecida en la Unión que comercializa un sistema de IA que lleva el nombre o la marca de una persona física o jurídica establecida en un tercer país. El importador debe verificar que el proveedor ha realizado el procedimiento de evaluación de la conformidad aplicable y que se ha colocado el marcado CE.

Question 16

¿Qué es distribuidor según el AI Act?

Accepted Answer

Distribuidor designa a cualquier persona física o jurídica en la cadena de suministro, distinta del proveedor o del importador, que pone a disposición un sistema de IA en el mercado de la Unión. El distribuidor debe verificar que el sistema lleva el marcado CE requerido y está acompañado de la documentación e instrucciones de uso necesarias.

Question 17

¿Qué es representante autorizado según el AI Act?

Accepted Answer

Representante autorizado designa a cualquier persona física o jurídica establecida en la Unión que ha recibido y aceptado un mandato por escrito de un proveedor de un sistema de IA o de un modelo de IA de uso general para actuar en su nombre a efectos de cumplir las obligaciones y procedimientos establecidos por el reglamento. El recurso a un representante autorizado es obligatorio para los proveedores establecidos fuera de la Unión.

Question 18

¿Qué es obligación de transparencia según el AI Act?

Accepted Answer

La obligación de transparencia exige a los proveedores y responsables del despliegue de sistemas de IA asegurar que las personas físicas sean informadas de que están interactuando con un sistema de IA, salvo que esto sea evidente para una persona razonablemente informada. Esta obligación se extiende también a los contenidos generados por IA, incluidos los ultrafalsificados y los textos sintéticos.

Question 19

¿Qué es supervisión humana según el AI Act?

Accepted Answer

La supervisión humana constituye un requisito fundamental para los sistemas de IA de alto riesgo. Exige que dichos sistemas se diseñen y desarrollen de manera que puedan ser supervisados eficazmente por personas físicas durante su periodo de uso. Las medidas de supervisión deben permitir interpretar los resultados, decidir no utilizarlos o interrumpir el sistema.

Question 20

¿Qué es gobernanza de datos según el AI Act?

Accepted Answer

La gobernanza de datos designa todas las prácticas y medidas que los proveedores de sistemas de IA de alto riesgo deben implementar en relación con los conjuntos de datos de entrenamiento, validación y prueba. Estas medidas se refieren a la calidad, representatividad, ausencia de sesgos y completitud de los datos utilizados.

Question 21

¿Qué es sistema de gestión de riesgos según el AI Act?

Accepted Answer

El sistema de gestión de riesgos es un proceso iterativo continuo, planificado y ejecutado a lo largo del ciclo de vida de un sistema de IA de alto riesgo. Incluye la identificación, análisis, estimación y evaluación de riesgos, así como la adopción de medidas de gestión de riesgos apropiadas. Este sistema debe actualizarse periódicamente.

Question 22

¿Qué es marcado ce según el AI Act?

Accepted Answer

El marcado CE es un marcado de conformidad colocado en un sistema de IA de alto riesgo que indica que cumple los requisitos del reglamento. Debe colocarse de forma visible, legible e indeleble antes de la comercialización. El marcado CE es obligatorio para todos los sistemas de IA de alto riesgo comercializados o puestos en servicio en la Unión.

Question 23

¿Qué es declaración de conformidad ue según el AI Act?

Accepted Answer

La declaración de conformidad UE es un documento establecido por el proveedor para cada sistema de IA de alto riesgo, que certifica que cumple los requisitos del reglamento. Debe contener la información mencionada en el anexo V y traducirse a la(s) lengua(s) oficial(es) requerida(s) por el Estado miembro en el que se comercializa el sistema.

Question 24

¿Qué es evaluación de la conformidad según el AI Act?

Accepted Answer

La evaluación de la conformidad es el proceso mediante el cual se demuestra que se han cumplido los requisitos del reglamento relativos a un sistema de IA de alto riesgo. Según el ámbito de aplicación, esta evaluación puede ser realizada por el propio proveedor (autoevaluación) o por un organismo notificado independiente.

Question 25

¿Qué es evaluación de impacto en derechos fundamentales (fria) según el AI Act?

Accepted Answer

La evaluación de impacto en derechos fundamentales es una obligación impuesta a los responsables del despliegue de sistemas de IA de alto riesgo que son organismos de derecho público o entidades privadas que prestan servicios públicos. Esta evaluación debe realizarse antes de la puesta en servicio y debe analizar el impacto del sistema en los derechos fundamentales de las personas afectadas.

Question 26

¿Qué es espacio controlado de pruebas de ia según el AI Act?

Accepted Answer

Un espacio controlado de pruebas de IA es un marco controlado establecido por una autoridad competente que ofrece a los proveedores y posibles proveedores de sistemas de IA la posibilidad de desarrollar, entrenar, validar y probar sus sistemas de conformidad con un plan específico durante un tiempo limitado bajo la supervisión regulatoria de dicha autoridad.

Question 27

¿Qué es oficina europea de ia según el AI Act?

Accepted Answer

La Oficina Europea de Inteligencia Artificial es el organismo creado en el seno de la Comisión Europea responsable de supervisar la aplicación del reglamento, en particular para los modelos de IA de uso general. También es responsable de la elaboración de directrices, el seguimiento de los códigos de prácticas y la coordinación con las autoridades nacionales.

Glosario AI Act

Definiciones

Sistema de inteligencia artificial

Sistema de identificación biométrica

Sistema de reconocimiento de emociones

Sistema de categorización biométrica

Modelo de IA de uso general (GPAI)

Modelo GPAI con riesgo sistémico

Sistema de IA de uso general

Documentación técnica

Niveles de riesgo

Sistema de IA de alto riesgo

Sistema de IA de riesgo limitado

Sistema de IA de riesgo mínimo

Prácticas de IA prohibidas

Actores

Proveedor

Responsable del despliegue

Importador

Distribuidor

Representante autorizado

Obligaciones

Obligación de transparencia

Supervisión humana

Gobernanza de datos

Sistema de gestión de riesgos

Marcado CE

Declaración de conformidad UE

Evaluación de la conformidad

Evaluación de impacto en derechos fundamentales (FRIA)

Gobernanza

Espacio controlado de pruebas de IA

Oficina Europea de IA

Verifique su conformidad con el AI Act