Reglamento (UE) 2024/1689 de Inteligencia Artificial (EU AI Act)

ebido al aumento del uso de la inteligencia artificial a nivel mundial, el Parlamento y el Consejo Europeo han decidido establecer un marco jurídico uniforme con el que regular el desarrollo, puesta en marcha, funcionamiento y utilización de Sistemas de Inteligencia Artificial en la Unión Europea, llamado Reglamento (UE) 2024/1689, también conocido como «Reglamento de Inteligencia Artificial», «RIA» o «EU AI Act».

Esta norma constituye la primera regulación general a nivel mundial de esta materia y su fin es claro, garantizar la seguridad y los derechos fundamentales de los ciudadanos de la UE frente a riesgos potenciales de la IA a través de una serie de requisitos y obligaciones tanto para desarrolladores de estos sistemas como para usuarios de IA.

El Reglamento (UE) 2024/1689 de Inteligencia Artificial, también conocido como EU AI Act se estructura en un total de 180 Considerandos, 113 artículos y 13 anexos. En su artículo 1, enuncia los objetivos principales:

• Mejorar el funcionamiento del mercado interior mediante el establecimiento de un marco jurídico uniforme, en particular, para el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de inteligencia artificial en la Unión.

• Promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, de conformidad con los valores y los principios de funcionamiento de la Unión.

• Asegurar un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, proteger frente a los efectos perjudiciales de los sistemas de IA en la Unión.

• Brindar apoyo a la innovación, especialmente, a las pequeñas y medianas empresas (pymes), incluidas las empresas emergentes.

• Garantizar la libre circulación transfronteriza de mercancías y servicios basados en la IA, impidiendo así que los Estados miembros impongan restricciones al desarrollo, la comercialización y la utilización de sistemas de IA, a menos que el propio EU AI Act lo autorice expresamente.

El Reglamento de IA de la UE aplica a toda entidad que opere en el mercado europeo, independientemente de su ubicación geográfica. Las empresas obligadas se dividen en:

El EU AI Act establece 4 niveles de riesgo, y en función del diagnóstico inicial del sistema de IA, aplicará el cumplimiento de medidas de un nivel u otro.

Nivel de Riesgo Inaceptable (Sistemas prohibidos)

• Quedan prohibidos los sistemas de IA que representan una amenaza directa a la seguridad pública, la privacidad y los derechos fundamentales, nombradas en el artículo 5 del Reglamento (UE) 2024/1689.
• Esta prohibición se aplica a funciones o usos relacionados con calificación social, vigilancia masiva, manipulación del comportamiento, etc.
• Sin embargo permite una serie de excepciones, en relación con el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho.

Nivel de Alto Riesgo 

• Se considera un sistema de IA de alto riesgo aquellos que puedan tener impacto relevante en los derechos fundamentales de las personas. Éstos necesitarán una evaluación de conformidad previa.
• Algunos ejemplos son el uso de la IA en la educación y la formación profesional, el empleo, los servicios públicos y privados esenciales, determinados sistemas de las fuerzas de seguridad, la migración y la gestión aduanera, la justicia y los procesos democráticos.

Nivel de Riesgo Limitado

• Se trata de sistemas de IA como chatbots, deep fakes, reconocimiento de emociones, categorización biométrica, suplantación de la personalidad, etc.
• En este caso existe una obligación de transparencia y ha de informar a los usuarios que están interactuando con una máquina, etiquetando al texto generado por IA como “generado artificialmente”

Nivel de Riesgo Mínimo o Nulo

• Se trata de aquellos sistemas de IA en los que las personas pueden decidir de forma libre su uso, los cuales no están regulados específicamente.

La Comisión Europea establece un calendario de aplicación claro para las normas que rigen los sistemas de IA de alto riesgo, según este:

La Oficina de Inteligencia Artificial de la UE será la autoridad encargada de supervisar la implantación del Reglamento (UE) 2024/1689 en los Estados miembros de la UE, a través de:

• La orientación técnica y operativa a los desarrolladores y usuarios de lA

• La gestión de informes de incidentes relacionados con la lA.

• La cooperación entre los diferentes organismos nacionales y regionales. La Agencia Española de Supervisión de la IA (AESIA) en España.

El incumplimiento de las obligaciones del Reglamento (UE) 2024/1689 por parte de los modelos de IA puede alcanzar multas de hasta 15 millones de euros o el 3% del volumen anual de negocio.
Por otro lado, en Sistemas de IA puede alcanzar:

• Hasta 35 millones de euros o el 7% del volumen anual de negocio por incumplir prohibiciones del reglamento.
• Hasta 15 millones de euros o el 3% del volumen anual de negocio por incumplir obligaciones de figuras implicadas.
• Hasta 7,5 millones de euros o el 1% del volumen anual de negocio por presentar información inexacta, incompleta o engañosa en respuesta a una solicitud por una autoridad o regulador competente.

El Reglamento (UE) 2024/1689 entra en vigor 20 días tras su publicación en el DOUE, es decir, el 1 de agosto de 2024, y su aplicación en todos los sistemas de IA será de dos años, es decir, será obligatoria a partir del 1 de agosto de 2026. Excepto las prohibiciones de sistemas de riesgo inaceptable, que deberán aplicarse desde el 2 de febrero de 2025.

En consecuencia de todo lo anterior, las empresas afectadas por el Reglamento (UE) 2024/1689 de inteligencia artificial deberán crear su propio Sistema de Gestión de Cumplimiento Legal, a través de un plan integral para adecuarse al Reglamento de Inteligencia Artificial de la UE.

Este plan será de alta importancia para:

• Cumplimiento regulatorio para evitar sanciones.
• Mejora de la reputación corporativa.
• Garantía de una gestión ética y responsable de la IA.
• •  

Y establecerá un alcance concreto dentro de la organización:

• Identificación de sistemas de lA en uso.
• Evaluación de riesgos y adecuación al marco regulatorio.
• Capacitación del personal y actualización de políticas internas.
•  

quipo de consultores expertos en Ciberseguridad e Inteligencia Artificial de Grupo Ingertec, te ayudará a establecer tu plan integral para adecuar tu empresa al  Reglamento (UE) 2024/1689 de inteligencia artificial de la Unión Europea.

Con más de 20 años en el mercado, contamos con la experiencia y el mejor equipo consultor, quienes te apoyarán en todo momento.

¡No lo dudes más y contáctanos!