El Consejo de la Unión Europea acaba de aprobar definitivamente el Reglamento de Inteligencia Artificial.
La IA es un conjunto de tecnologías en rápida evolución que contribuye a generar beneficios económicos, medioambientales y sociales muy diversos en todos los sectores económicos y las actividades sociales. Al mismo tiempo, dependiendo de las circunstancias relativas a su aplicación, utilización y nivel de desarrollo tecnológico concretos, la IA puede generar riesgos y menoscabar los intereses públicos y los derechos fundamentales que protege el Derecho de la Unión. Dicho menoscabo puede ser tangible o intangible e incluye los perjuicios físicos, psíquicos, sociales o económicos.
Conviene establecer normas comunes para los sistemas de IA de alto riesgo al objeto de garantizar un nivel elevado y coherente de protección de los intereses públicos en lo que respecta a la salud, la seguridad y los derechos fundamentales.
En consecuencia, se necesita un marco jurídico de la Unión que establezca unas normas armonizadas en materia de IA para impulsar el desarrollo, la utilización y la adopción en el mercado interior de la IA y que, al mismo tiempo, ofrezca un nivel elevado de protección
de los intereses públicos, como la salud y la seguridad y la protección de los derechos fundamentales, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, reconocidos y protegidos por la UE.
Para alcanzar dicho objetivo, conviene establecer normas que regulen la introducción en el mercado, la puesta en servicio y la utilización de determinados sistemas de IA, lo que garantizará el buen funcionamiento del mercado interior y permitirá que dichos sistemas se beneficien del principio de libre circulación de mercancías y servicios.
El Reglamento de Inteligencia Artificial (en español), se divide en cuatro grandes secciones.
- Aplicaciones prohibidas
- Exenciones de aplicación de la ley
- Obligaciones para sistemas de alto riesgo
- Requisitos de transparencia
Aplicaciones prohibidas
1. Categorización biométrica basada en datos sensibles y la extracción no dirigida de imágenes faciales de Internet o de CCTV para crear bases de datos de reconocimiento facial.
2. El reconocimiento de emociones en el lugar de trabajo y las escuelas, la puntuación social, la vigilancia policial predictiva.
3. IAs que manipulen el comportamiento humano o explote las vulnerabilidades de las personas.
Exenciones de aplicación de la ley
Los sistemas de identificación biométrica remota (RBI) por parte de las autoridades está prohibido en principio, excepto en situaciones enumeradas exhaustivamente y de forma estricta.
Obligaciones para sistemas de alto riesgo
Fundamento: su importante daño potencial a la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho.
Ejemplo: Se establecerá, implantará, documentará y mantendrá un sistema de gestión de riesgos en relación con los sistemas de IA de alto riesgo.
Requisitos de transparencia
Los sistemas de IA de propósito general (GPAI), y los modelos GPAI en los que se basan, deben cumplir ciertos requisitos de transparencia, incluidos:
- El cumplimiento de la ley de derechos de autor de la UE.
- La publicación de resúmenes detallados del contenido utilizado para la capacitación.
Fuente y redacción: segu-info.com.ar
