Reglamento de Inteligencia Artificial: El Consejo Europeo da luz verde definitiva a las primeras normas internacionales en materia de inteligencia artificial

21/05/2024
Imatge
Sandbox IA

El Consejo Europeo ha aprobado un reglamento  que busca armonizar las reglas sobre inteligencia artificial, conocido como el reglamento de inteligencia artificial. Esta legislación emblemática sigue un enfoque basado en el riesgo, lo que significa que cuanto mayor sea el riesgo de causar daño a la sociedad, más estrictas serán las reglas. Es la primera de su tipo en el mundo y puede establecer un estándar global para la regulación de la IA.

El nuevo reglamento tiene como objetivo fomentar el desarrollo y la adopción de sistemas de IA seguros y confiables en el mercado único de la UE, tanto por actores privados como públicos. Al mismo tiempo, busca asegurar el respeto de los derechos fundamentales de los ciudadanos de la UE y estimular la inversión y la innovación en inteligencia artificial en Europa. El reglamento de IA se aplica solo a áreas dentro de la legislación de la UE y proporciona exenciones para sistemas utilizados exclusivamente para fines militares y de defensa, así como para propósitos de investigación.

La adopción del reglamento de IA es un hito significativo para la Unión Europea. Esta normativa histórica, la primera de su tipo en el mundo, aborda un desafío tecnológico global que también crea oportunidades para nuestras sociedades y economías. Con el reglamento de IA, Europa enfatiza la importancia de la confianza, la transparencia y la responsabilidad al tratar con nuevas tecnologías, mientras asegura que esta tecnología en rápida evolución pueda prosperar y potenciar la innovación europea.

Clasificación de sistemas de IA como de alto riesgo y prácticas de IA prohibidas

El reglamento categoriza diferentes tipos de inteligencia artificial según el riesgo. Los sistemas de IA que presenten solo un riesgo limitado estarán sujetos a obligaciones de transparencia muy ligeras, mientras que los sistemas de IA de alto riesgo estarán autorizados, pero sujetos a un conjunto de requisitos y obligaciones para acceder al mercado de la UE. Los sistemas de IA como, por ejemplo, la manipulación del comportamiento cognitivo y la puntuación social estarán prohibidos en la UE porque su riesgo se considera inaceptable. El reglamento también prohíbe el uso de IA para la vigilancia predictiva basada en perfiles y los sistemas que utilizan datos biométricos para categorizar a las personas según categorías específicas como raza, religión u orientación sexual.

Modelos de IA de propósito general

El reglamento de IA también aborda el uso de modelos de IA de propósito general (GPAI).

Los modelos de GPAI que no presenten riesgos sistémicos estarán sujetos a algunos requisitos limitados, por ejemplo, en cuanto a la transparencia, pero aquellos con riesgos sistémicos deberán cumplir con reglas más estrictas.

Nueva arquitectura de gobernanza

Para asegurar una adecuada aplicación, se establecen varios órganos de gobierno:

  • Una Oficina de IA dentro de la Comisión para hacer cumplir las reglas comunes en toda la UE.
  • Un panel científico de expertos independientes para apoyar las actividades de aplicación.
  • Un Consejo de IA con representantes de los estados miembros para asesorar y asistir a la Comisión y a los estados miembros en la aplicación coherente y efectiva del Reglamento de IA.
  • Un foro consultivo para partes interesadas para proporcionar experiencia técnica al Consejo de IA y a la Comisión.

Sanciones

Las multas por infracciones al reglamento de IA se establecen como un porcentaje del volumen de negocios anual global de la empresa infractora en el año financiero anterior o una cantidad predeterminada, lo que sea mayor. Las pymes y las empresas emergentes están sujetas a multas administrativas proporcionales.

Transparencia y protección de los derechos fundamentales

Antes de que un sistema de IA de alto riesgo sea desplegado por algunas entidades que prestan servicios públicos, se deberá evaluar el impacto en los derechos fundamentales. La regulación también prevé una mayor transparencia en cuanto al desarrollo y uso de sistemas de IA de alto riesgo. Los sistemas de IA de alto riesgo, así como ciertos usuarios de un sistema de IA de alto riesgo que sean entidades públicas, deberán registrarse en la base de datos de la UE para sistemas de IA de alto riesgo, y los usuarios de un sistema de reconocimiento de emociones tendrán que informar a las personas cuando estén siendo expuestas a dicho sistema.

Medidas en apoyo de la innovación

El reglamento de IA proporciona un marco legal favorable a la innovación y busca promover el aprendizaje regulatorio basado en la evidencia. La nueva normativa prevé que las cajas de arena regulatorias de IA, que permiten un entorno controlado para el desarrollo, prueba y validación de sistemas de IA innovadores, también deben permitir la prueba de sistemas de IA innovadores en condiciones del mundo real.

Inteligencia Artificial