El pasado mes de diciembre, la Presidencia del Consejo y los negociadores del Parlamento Europeo firmaron el “Reglamento de Inteligencia Artificial” a través de un acuerdo provisional, el cual pretende garantizar el uso seguro de los nuevos sistemas de Inteligencia Artificial (IA) respetando los derechos fundamentales y los valores de la UE.
Esta propuesta legislativa pretende:
- Fomentar el desarrollo y la adopción de una inteligencia Artificial segura y fiable en todo el mercado único de la Unión Europea
- Regular la IA para evitar daños en la sociedad, siguiendo un enfoque basado en los riesgos: a mayor riesgo, normas más estrictas.
- Ser un referente mundial, como primera legislación relativa a la IA.
Elementos del Acuerdo Provisional
El acuerdo provisional del “Reglamento de Inteligencia Artificial” abarca los siguientes aspectos:
Ámbito de aplicación
- No se aplica a ámbitos fuera del ámbito de aplicación del Derecho de la UE.
- No afectará a las competencias de los Estados miembros en materia de seguridad nacional ni a ninguna entidad a la que se hayan encomendado tareas en este ámbito.
- No se aplicará a los sistemas utilizados exclusivamente con fines militares o de defensa.
- No se aplicará a los sistemas de IA utilizados únicamente con fines de investigación e innovación
- No se aplicará a las personas que utilicen la IA por motivos no profesionales.
Clasificación de los sistemas de IA como de alto riesgo y prácticas prohibidas de IA
Podemos diferenciar los Sistemas de Inteligencia Artificial bajo dos tipologías: aquellos que pueden llegar a violar los derechos fundamentales y aquellos que no suponen un riesgo para la sociedad, razón por la que se han establecido en este acuerdo los criterios horizontales de protección:
- Los sistemas de IA con riesgo limitado estarían sujetos a obligaciones de transparencia muy leves, como por ejemplo la divulgación de que el contenido se hubiera generado mediante IA, de modo que los usuarios puedan tomar decisiones fundadas sobre su uso posterior.
- Los sistemas de IA con riesgo alto, estarán sujetos a una serie de requisitos y obligaciones para acceder al mercado de la UE. Estos serán viables desde el punto de vista técnico y deberán ser acreditados por las empresas que cuenten con sus propios sistemas de IA.
Además, dado que algunos usos de la inteligencia artificial conllevan riesgos considerados como inaceptables,el acuerdo provisional prohíbe, entre otras cosas:
- La manipulación cognitiva conductual
- El rastreo indiscriminado de imágenes faciales sacadas de internet o de circuitos cerrados de televisión
- El reconocimiento de emociones en los lugares de trabajo y en las instituciones de enseñanza
- La puntuación ciudadana
- La categorización biométrica para deducir datos sensibles (orientación sexual, creencias religiosas…)
Y en algunos casos, la vigilancia policial predictiva de personas.
Excepciones en el ámbito policial
Se ha introducido un procedimiento de emergencia que permite a los organismos policiales el uso de una herramienta de IA de alto riesgo que no haya superado el procedimiento de evaluación de la conformidad. Sin embargo, también se ha introducido un mecanismo específico para asegurar que los derechos fundamentales estén protegidos frente a cualquier posible uso indebido de los sistemas de IA.
Además, por lo que respecta al uso de sistemas de identificación biométrica remota (en tiempo real y en espacios de acceso público) el acuerdo provisional de la IA aclara qué autoridades podrán hacer uso de él y que éste será exclusivamente con fines de aplicación de la ley, limitando su uso a delitos de alta gravedad.
Una nueva estructura de gobernanza
Se ha aprobado la creación de una oficina de IA en la Comisión Europea, asesorada por un panel científico de expertos independientes y cuyas funciones serán:
- Supervisar estos modelos de IA más avanzados
- Fomentar las normas y las prácticas de ensayo
- Garantizar el cumplimiento de las normas comunes en todos los Estados miembros.
Además, se creará un foro consultivo para las partes interesadas para aportar conocimientos técnicos al Comité de IA.
Sanciones
Las multas por infracciones del Reglamento de Inteligencia Artificial se han fijado como un porcentaje del volumen de negocios anual global del ejercicio financiero anterior de la empresa infractora o un importe predeterminado, si este fuera superior. Es decir:
- 35 millones de euros o el 7% del volumen de negocio.
- 15 millones de euros o el 3% del volumen de negocio.
- 7,5 millones de euros o el 1,5% del volumen de negocio.
Sin embargo, el acuerdo provisional establece límites más proporcionados a las multas administrativas que pueden imponerse a las pymes y las empresas emergentes en caso de infracción de las disposiciones del Reglamento de Inteligencia Artificial.
Medidas de apoyo a la innovación
Para promover la innovación y el aprendizaje, la Comisión Europea ha establecido un espacio controlado de pruebas para la IA, en el que se podrá desarrollar, probar y validar sistemas innovadores de IA, incluso en condiciones reales siempre que se cumplan determinadas condiciones y se ofrezcan determinadas garantías.
Entrada en vigor
El acuerdo provisional establece que el Reglamento de Inteligencia Artificial debe aplicarse dos años después de su entrada en vigor. Por lo que está previsto que la ley entre en vigor en 2026 pero se aplicará por fases.
En resumen
- Nuevas normas sobre modelos de IA de uso general de gran impacto que pueden causar un riesgos para la sociedad en el futuro, así como sobre los sistemas de IA de alto riesgo.
- Un sistema revisado de gobernanza con algunas competencias de ejecución a escala de la UE
- Ampliación de la lista de prohibiciones, pero con la posibilidad de utilizar la identificación biométrica remota por parte de las autoridades policiales.
- Una mejor protección de los derechos mediante la obligación de que los implementadores de sistemas de IA de alto riesgo lleven a cabo una evaluación del impacto en los derechos fundamentales antes de poner en marcha un sistema de IA.
¿Quieres certificar tu Sistema de Inteligencia Artificial?
El equipo de consultores expertos en Ciberseguridad y Seguridad de la Información de Grupo Ingertec, te ayudará a certificarte en ISO 42001. Sistema de Gestión de Inteligencia Artificial (IA).
