La aprobación del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, conocido como la Ley Europea de Inteligencia Artificial (AI Act), constituye uno de los desarrollos regulatorios más relevantes de los últimos años en el ámbito del Derecho tecnológico.
La Unión Europea se convierte así en la primera jurisdicción del mundo que establece un marco normativo integral para regular el desarrollo, comercialización y uso de sistemas de inteligencia artificial. Esta regulación responde a la necesidad de equilibrar dos objetivos fundamentales: por un lado, promover la innovación tecnológica y la competitividad del mercado digital europeo; y, por otro, garantizar que el uso de la inteligencia artificial respete los derechos fundamentales, la seguridad jurídica y los valores democráticos.
La creciente presencia de sistemas de inteligencia artificial en ámbitos como la sanidad, el empleo, la educación o los servicios financieros ha puesto de manifiesto la necesidad de contar con normas claras que regulen los riesgos asociados a estas tecnologías. El Reglamento pretende precisamente ofrecer un marco jurídico que permita aprovechar el potencial de la inteligencia artificial minimizando sus posibles impactos negativos.
En este artículo analizamos las claves jurídicas del Reglamento europeo de inteligencia artificial, su enfoque basado en el riesgo, las obligaciones que introduce para empresas y administraciones públicas y sus principales implicaciones legales.
Objetivos del Reglamento Europeo de Inteligencia Artificial
El Reglamento (UE) 2024/1689 tiene como finalidad establecer normas armonizadas para el desarrollo, la comercialización y la utilización de sistemas de inteligencia artificial dentro de la Unión Europea. Se trata de un instrumento normativo directamente aplicable en todos los Estados miembros, lo que garantiza una regulación uniforme en todo el mercado interior.
Los principales objetivos del Reglamento pueden sintetizarse en los siguientes:
- Garantizar la protección de los derechos fundamentales frente a los riesgos derivados del uso de sistemas de inteligencia artificial.
- Establecer requisitos de seguridad y transparencia para determinados sistemas de IA.
- Crear un marco jurídico común que evite la fragmentación normativa entre los Estados miembros.
- Fomentar el desarrollo de una inteligencia artificial fiable y responsable.
- Impulsar la innovación tecnológica y la competitividad del ecosistema digital europeo.
Desde una perspectiva jurídica, el Reglamento forma parte de una estrategia regulatoria más amplia de la Unión Europea orientada a construir un modelo europeo de gobernanza digital, junto con otras normas relevantes como el Reglamento General de Protección de Datos (RGPD), el Reglamento de Servicios Digitales o el Reglamento de Mercados Digitales.
Ámbito de aplicación del Reglamento
El Reglamento de Inteligencia Artificial se aplica a diversos actores que intervienen en el desarrollo y utilización de sistemas de IA. En particular, la norma afecta a:
- Proveedores de sistemas de inteligencia artificial que desarrollan o comercializan estos sistemas en la Unión Europea.
- Empresas u organizaciones que utilizan sistemas de IA en sus actividades.
- Importadores y distribuidores que introducen sistemas de IA en el mercado europeo.
- Administraciones públicas que utilizan inteligencia artificial en la prestación de servicios o en procesos de toma de decisiones.
Una característica especialmente relevante del Reglamento es su alcance extraterritorial. Esto significa que también se aplicará a empresas establecidas fuera de la Unión Europea cuando los sistemas de inteligencia artificial se utilicen o comercialicen dentro del territorio europeo.
Este enfoque refleja la voluntad del legislador europeo de garantizar que todos los sistemas de IA utilizados en el mercado europeo cumplan los mismos estándares de seguridad y protección de derechos.
El enfoque basado en el riesgo en la regulación de la IA
Uno de los elementos más innovadores del Reglamento es la adopción de un modelo regulatorio basado en el riesgo. En lugar de imponer las mismas obligaciones a todos los sistemas de inteligencia artificial, el Reglamento establece diferentes niveles de regulación en función del riesgo que puedan generar para la seguridad o los derechos fundamentales de las personas.
Este enfoque permite adaptar las exigencias regulatorias al impacto potencial de cada sistema de IA, evitando una regulación excesiva que pudiera obstaculizar la innovación tecnológica.
El Reglamento distingue cuatro categorías principales de riesgo.
Sistemas de IA de riesgo inaceptable
Los sistemas de inteligencia artificial considerados de riesgo inaceptable quedan directamente prohibidos en la Unión Europea. Se trata de aplicaciones que se consideran incompatibles con los valores fundamentales del ordenamiento jurídico europeo.
Entre los sistemas prohibidos se encuentran:
- Los sistemas que utilizan técnicas subliminales o manipuladoras para influir en el comportamiento de las personas.
- Los sistemas de puntuación social o social scoring aplicados por autoridades públicas.
- Determinadas formas de identificación biométrica remota en tiempo real en espacios públicos.
- Los sistemas que explotan las vulnerabilidades de menores o personas en situación de especial vulnerabilidad.
La prohibición de estas prácticas refleja la voluntad del legislador europeo de evitar usos de la inteligencia artificial que puedan comprometer derechos fundamentales como la dignidad humana, la privacidad o la igualdad.
Sistemas de inteligencia artificial de alto riesgo
La segunda categoría regulatoria se refiere a los sistemas de inteligencia artificial de alto riesgo. Se trata de aplicaciones que pueden tener un impacto significativo en la seguridad o en los derechos fundamentales de las personas.
El Reglamento identifica múltiples ámbitos en los que pueden utilizarse sistemas de IA de alto riesgo, entre ellos:
- Procesos de selección de personal y gestión laboral.
- Sistemas utilizados en educación y evaluación académica.
- Aplicaciones en el ámbito de la sanidad.
- Sistemas empleados en infraestructuras críticas.
- Herramientas de evaluación crediticia o acceso a servicios esenciales.
- Aplicaciones utilizadas por autoridades públicas.
Los sistemas de alto riesgo deberán cumplir una serie de requisitos estrictos antes de su comercialización o puesta en funcionamiento. Entre ellos destacan:
- Implantar sistemas de gestión y evaluación de riesgos.
- Garantizar la calidad y gobernanza de los datos utilizados.
- Elaborar documentación técnica detallada.
- Garantizar la supervisión humana del sistema.
- Someter el sistema a procedimientos de evaluación de conformidad.
Además, estos sistemas deberán registrarse en una base de datos europea de sistemas de inteligencia artificial de alto riesgo.
Sistemas de riesgo limitado
Los sistemas clasificados como de riesgo limitado están sujetos principalmente a obligaciones de transparencia. El objetivo es garantizar que los usuarios sean conscientes de que están interactuando con una inteligencia artificial.
Entre los ejemplos más habituales se encuentran:
- Chatbots utilizados en servicios de atención al cliente.
- Sistemas capaces de generar contenido sintético o deepfakes.
En estos casos, las organizaciones deberán informar claramente a los usuarios de que el contenido ha sido generado por inteligencia artificial.
Sistemas de riesgo mínimo
La mayoría de las aplicaciones actuales de inteligencia artificial se incluyen dentro de la categoría de riesgo mínimo.
Entre ellas pueden encontrarse:
- Filtros de spam en servicios de correo electrónico.
- Sistemas de recomendación en plataformas digitales.
- Aplicaciones de inteligencia artificial en videojuegos.
Estos sistemas no están sujetos a obligaciones regulatorias específicas, aunque el Reglamento fomenta la adopción de códigos de conducta voluntarios.
Regulación de los modelos de IA de propósito general
Uno de los aspectos más innovadores del Reglamento es la regulación de los modelos de inteligencia artificial de propósito general, incluidos los modelos generativos capaces de realizar múltiples tareas.
Las empresas desarrolladoras deberán cumplir determinadas obligaciones, entre las que destacan:
- Proporcionar documentación técnica sobre el funcionamiento del modelo.
- Garantizar el respeto a las normas de propiedad intelectual y derechos de autor.
- Evaluar los riesgos sistémicos asociados a los modelos de gran escala.
Esta regulación busca garantizar que los modelos de inteligencia artificial más avanzados se desarrollen de forma responsable, transparente y conforme a la normativa europea.
Sistema de supervisión y autoridades competentes
Para garantizar el cumplimiento del Reglamento, se establece un sistema de supervisión compuesto por diferentes niveles institucionales.
Entre ellos destacan:
- Las autoridades nacionales competentes designadas por cada Estado miembro.
- La Oficina Europea de Inteligencia Artificial (AI Office), encargada de coordinar la aplicación del Reglamento.
- Mecanismos de cooperación entre autoridades nacionales.
Este modelo de gobernanza pretende asegurar una aplicación coherente de la normativa en todo el territorio de la Unión Europea.
Régimen sancionador
El Reglamento establece un régimen sancionador significativo para garantizar su cumplimiento. Las sanciones previstas son comparables a las establecidas en el Reglamento General de Protección de Datos.
En los casos más graves, las infracciones pueden dar lugar a:
- Multas de hasta 35 millones de euros.
- O bien hasta el 7 % del volumen de negocio anual global de la empresa infractora.
Estas sanciones reflejan la importancia que el legislador europeo concede al cumplimiento de las normas en materia de inteligencia artificial.
Entrada en vigor y calendario de aplicación
El Reglamento (UE) 2024/1689 entró en vigor el 1 de agosto de 2024. Sin embargo, su aplicación se realizará de manera progresiva.
- 2025: entrada en vigor de las prohibiciones relativas a prácticas de riesgo inaceptable.
- 2026: aplicación de obligaciones para sistemas de alto riesgo.
- 2027: implementación completa del Reglamento.
Este calendario busca facilitar la adaptación de empresas, desarrolladores y administraciones públicas al nuevo marco regulatorio.
Implicaciones jurídicas para empresas y organizaciones
La aprobación del Reglamento implica que las empresas que desarrollen o utilicen sistemas de inteligencia artificial deberán adoptar medidas de cumplimiento normativo específicas.
Entre las principales actuaciones recomendables se encuentran:
- Realizar una auditoría de los sistemas de IA utilizados en la organización.
- Clasificar cada sistema según su nivel de riesgo.
- Implementar políticas internas de gobernanza de inteligencia artificial.
- Establecer mecanismos de gestión de riesgos y supervisión humana.
La anticipación en la adaptación normativa será fundamental para evitar posibles sanciones y garantizar un uso responsable de estas tecnologías.
Conclusión
El Reglamento europeo de inteligencia artificial marca el inicio de una nueva etapa en la regulación del ecosistema digital. Su objetivo es crear un entorno en el que la innovación tecnológica pueda desarrollarse respetando al mismo tiempo los derechos fundamentales de las personas.
Para empresas, administraciones públicas y desarrolladores de tecnología, la norma introduce nuevos retos jurídicos y obligaciones de cumplimiento. En este contexto, el asesoramiento legal especializado será clave para garantizar que el uso de sistemas de inteligencia artificial se ajuste al nuevo marco regulatorio europeo.
