La UE es la primera en regular la inteligencia artificial

La legislación de la UE tiene como objetivo prevenir la discriminación, la vigilancia masiva y la manipulación creativa a través de la inteligencia artificial. La urgencia de regular la inteligencia artificial está motivada por los riesgos de abuso que podrían amenazar los regímenes democráticos y la vida civil. A pesar del éxito del acuerdo, persisten dudas y resentimientos velados por la falta de regulación de asistentes virtuales ya muy utilizados como ChatGPT o Bard.

Massimiliano D'Elia

Tras una intensa semana de reuniones y debates, el Parlamento y el Consejo han encontrado por fin una solución, a nivel político, para la primera arquitectura regulatoria global sobre el uso de la inteligencia artificial. El objetivo principal era equilibrar las extraordinarias oportunidades de esta tecnología revolucionaria con la necesidad imperiosa de proteger los derechos fundamentales de los ciudadanos de la UE. Las nuevas reglas se aplicarán en contextos sensibles como escuelas, lugares de trabajo, hospitales y tribunales, centrándose en la protección de las personas más vulnerables.

Durante las negociaciones, el Parlamento buscó normas más restrictivas, mientras que los gobiernos insistieron en margen de maniobra, tanto en términos de seguridad como en el sector económico. El acuerdo ahora alcanzado prevé la aplicación a nivel europeo de prohibiciones, con algunas excepciones, para la identificación biométrica remota por parte de la policía y las autoridades de seguridad en los espacios públicos. Además, será necesario realizar evaluaciones más detalladas para quienes utilicen sistemas de inteligencia artificial de alto riesgo.

En cuanto al 'inteligencia artificial generativa, el compromiso establece reglas comunes para garantizar la calidad de los datos, verificar el cumplimiento de las leyes de derechos de autor e identificar claramente sonidos, imágenes y textos artificiales. Se aplicarán restricciones más estrictas sólo a los sistemas más potentes.

El texto legislativo, que prevé sanciones financieras contra las empresas que violen los principios, requerirá más detalles antes de una votación final por parte del Parlamento y el Consejo. Se espera que el reglamento entre en pleno vigor en dos años, lo que convertirá a la Unión Europea en la primera jurisdicción del mundo en regular la inteligencia artificial.

Emergencia con microchip

A pesar del progreso regulatorio, Europa sigue rezagada en el frente de los microchips: sólo Francia y Alemania están invirtiendo en empresas emergentes prometedoras para llenar el vacío. La Ley Europea de Chips pretende duplicar la producción de microchips de aquí a 2030. Italia, hasta la fecha, demuestra una falta de estrategia clara y tendrá que actuar rápidamente, empezando, por ejemplo, por la creación de "modelos de cimientos“Nacionales capaces de interceptar las oportunidades culturales nacionales antes que otros.

La Ley de IA

laLey de inteligencia artificial divide los sistemas de inteligencia artificial en cuatro categorías de riesgo, con beneficios para los de bajo riesgo y obligaciones específicas para los de alto riesgo. Los sistemas con riesgo inaceptable están claramente prohibidos, mientras que el riesgo de transparencia se evalúa en casos como el “profundamente falso”.

En cuanto a la reconocimiento biométrico, sólo está permitido en contextos específicos, como la búsqueda selectiva de víctimas o la prevención de amenazas terroristas. Se prohíben las prácticas que involucren características sensibles en los sistemas de categorización biométrica.

El acuerdo regula el “modelos de cimientos“, requiriendo una evaluación previa para los de alto impacto antes del acceso al mercado. Para los sistemas de alto riesgo, las obligaciones van desde la evaluación de modelos hasta la ciberseguridad. Los sistemas de riesgo inaceptable, como los que manipulan el comportamiento humano, están inequívocamente prohibidos, al igual que aquellos que permiten “puntuación social” por empresas y gobiernos.

Además, el texto menciona ChatGPT di OpenAI como uno de los IA generativas más potente, mientras Gemini de Google se presenta como una respuesta significativa. En Europa, el laboratorio de investigación de Kyutai se centra ende código abierto y sobre la democratización de la inteligencia artificial. De China, erniebot surge como una aplicación de Inicio IA con funcionalidad similar a ChatGPT, especializándose en conversaciones de texto, respondiendo preguntas y resolviendo problemas matemáticos.

¡Suscríbete a nuestro boletín!

La UE es la primera en regular la inteligencia artificial

| ECONOMÍA, EVIDENCIA 1 |