¿Cuáles son las principales novedades del nuevo Reglamento de la UE sobre IA?

El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo sobre Inteligencia Artificial introduce varias novedades significativas para regular el desarrollo y el uso de tecnologías de inteligencia artificial (IA) en la Unión Europea. Os hacemos un resumen de los aspectos más destacados:

1. Clasificación de Sistemas de IA:
   • Los sistemas de IA se clasifican en cuatro niveles de riesgo: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo. Cada categoría tiene diferentes requisitos y restricciones.
2. Prohibiciones y Limitaciones:
   • Se prohíben los sistemas de IA que se consideran una amenaza para la seguridad, los derechos fundamentales o la democracia, y están prohibidas. Ejemplos incluyen sistemas de IA que manipulan el comportamiento humano de manera perjudicial o sistemas de puntuación social.
3. Requisitos para Sistemas de Alto Riesgo:
   • Los sistemas de IA clasificados como de alto riesgo pueden afectar significativamente la seguridad o los derechos fundamentales y están sujetos a estrictos requisitos de conformidad antes y después de su comercialización.
   • Ejemplos incluyen sistemas de IA utilizados en infraestructuras críticas, educación, empleo, servicios esenciales, y la administración de justicia deben cumplir con estrictos requisitos en cuanto a transparencia, seguridad, robustez y gestión de datos. 
   • Esto incluye evaluaciones previas y continuas de conformidad, así como obligaciones de documentación y registro.
4. Transparencia y Derechos del Usuario:
   • Se imponen obligaciones de transparencia para los sistemas de IA que interactúan con los humanos, requieren una identificación automática de emociones o utilizan datos biométricos. Los usuarios deben ser informados de que están interactuando con un sistema de IA.
5. Supervisión y Gobernanza:
   • La supervisión y gobernanza del reglamento se distribuye entre la Comisión Europea y las autoridades nacionales de los Estados miembros:
     1. A nivel nacional: Cada Estado miembro debe establecer una autoridad de vigilancia del mercado responsable de la aplicación del reglamento a nivel nacional
     2. A nivel europeo: La Oficina de IA de la UE, establecida por la Comisión Europea, supervisará los modelos de IA de uso general y coordinará con las autoridades nacionales
     3. Sandboxes regulatorios: Los Estados miembros deben establecer sandboxes regulatorios para facilitar la innovación y el cumplimiento del reglamento por parte de las empresas
6. Responsabilidades de los Proveedores y Usuarios:
   • Los proveedores de sistemas de IA de alto riesgo deben asegurarse de que sus sistemas cumplan con los requisitos de seguridad y transparencia establecidos en el reglamento.
   • Los responsables de despliegue son responsables de la supervisión continua del sistema de IA y de informar cualquier mal funcionamiento o riesgo
   • Los distribuidores e importadores deben asegurarse de que los sistemas de IA que comercializan cumplan con el reglamento y mantener la documentación de conformidad
   • Los usuarios también tienen responsabilidades, como el uso adecuado de los sistemas de IA conforme a las instrucciones del proveedor.
7. Multas y Sanciones:
   • Se establecen multas significativas para el incumplimiento del reglamento, con sanciones que pueden alcanzar hasta 35 millones de euros o el 7% del volumen de negocios anual mundial para infracciones relacionadas con prácticas prohibidas o falta de cumplimiento en relación con los requisitos de datos.

Este reglamento busca equilibrar la promoción de la innovación en el ámbito de la IA con la protección de los derechos fundamentales y la seguridad de los ciudadanos europeos.