Este martes 21 de mayo de 2024, la Unión Europea dio luz verde a la ley de inteligencia artificial (IA)1, que se implementará gradualmente hasta 2026, cuando estará completamente operativa. Mathieu Michel, Secretario de Estado de Digitalización de Bélgica, país que actualmente preside la Unión Europea, calificó este hecho como un “momento histórico”.
A partir de noviembre, se prohibirán los sistemas de inteligencia artificial que categorizan biométricamente por creencias políticas, religiosas, filosóficas, raza y orientación sexual.
A partir de noviembre, se prohibirán los sistemas de inteligencia artificial que categorizan biométricamente por creencias políticas, religiosas, filosóficas, raza y orientación sexual.
Además, no se permitirá el uso de sistemas que califican a las personas según su comportamiento o características personales, ni la inteligencia artificial que puede alterar el comportamiento humano.
No se permitirá el uso de sistemas que califican a las personas según su comportamiento o características personales, ni la inteligencia artificial que puede alterar el comportamiento humano.
También se prohibirán los sistemas que amplían o crean bases de datos faciales recopiladas indiscriminadamente a través de internet o grabaciones audiovisuales, entre otros.
Sin embargo, la ley permite excepciones. Por ejemplo, las fuerzas de seguridad podrán usar cámaras de identificación biométrica con autorización judicial para prevenir una amenaza terrorista inminente. Este fue uno de los aspectos más controvertidos durante las negociaciones entre el Parlamento Europeo y los Estados miembros, quienes argumentaron la necesidad de permitir ciertos usos para garantizar la seguridad nacional. Por lo tanto, estos sistemas también se podrán utilizar para localizar a los autores de delitos de terrorismo, tráfico de personas, explotación sexual y para buscar a las víctimas.
Dentro de un año, entrarán en vigencia los criterios de transparencia que los sistemas de inteligencia artificial generativa2 deberán cumplir. Este es uno de los puntos principales de discusión, especialmente en un momento en que programas como ChatGPT están en pleno auge. Estos modelos, tendrán la obligación de indicar claramente si un texto, una canción o una fotografía ha sido generado mediante inteligencia artificial. Además, deberán garantizar que los datos utilizados para entrenar los sistemas respeten los derechos de autor.
Estos modelos, tendrán la obligación de indicar claramente si un texto, una canción o una fotografía ha sido generado mediante inteligencia artificial. Además, deberán garantizar que los datos utilizados para entrenar los sistemas respeten los derechos de autor.
En términos generales, el reglamento permite o prohíbe el uso de la inteligencia artificial según el riesgo que representa para las personas. Además, identifica sistemas de alto riesgo que solo podrán utilizarse si se demuestra que respetan los derechos fundamentales.
En términos generales, el reglamento permite o prohíbe el uso de la inteligencia artificial según el riesgo que representa para las personas. Además, identifica sistemas de alto riesgo que solo podrán utilizarse si se demuestra que respetan los derechos fundamentales.
Por ejemplo, aquellos sistemas que puedan influir en el resultado de elecciones o que las entidades financieras utilicen para evaluar la solvencia y establecer la calificación crediticia.
En caso de incumplimiento de la normativa, se prevén multas que oscilan entre 35 millones de euros (37,6 millones de dólares) o el 7 % del volumen global de negocio de las empresas, hasta 7,5 millones de euros (8 millones de dólares) o el 1,5 % del volumen global de negocio.
Impacto de las nueva ley de inteligencia artificial de la UE en el ámbito del Desarrollo Web
Las nuevas restricciones en comentario impuestas por la Unión Europea (UE), afectan directamente al desarrollo de aplicaciones web que utilizan modelos de IA para generar contenido. Los sistemas web sujetos al control de la UE deberán dejar claro si un texto, una canción o una imagen se han generado mediante inteligencia artificial, implicando que las aplicaciones deben proporcionar información transparente sobre la fuente de su contenido generado. Además, los datos utilizados para entrenar los sistemas deben respetar los derechos de autor, lo que obliga a las empresas de desarrollo y diseño web a asegurar que los modelos de IA no infrinjan derechos de propiedad intelectual al generar contenido.
El reglamento de la UE permite o prohíbe el uso de la inteligencia artificial según el riesgo que representa para las personas, afectando a las aplicaciones web que emplean IA. Las empresas que no cumplan con las regulaciones pueden enfrentar multas significativas.
Asimismo, el desarrollo de sitios web, debe considerar no solo la funcionalidad sino también la ética y la responsabilidad. Las restricciones de la UE, fomentan la adopción de prácticas responsables en el uso de la inteligencia artificial, obligando a las empresas de desarrollo y diseño web a estar al tanto de estas regulaciones y adaptar sus procesos para garantizar el cumplimiento. Es crucial que los desarrolladores web consideren cómo estas restricciones afectarán sus proyectos, teniendo en cuenta la transparencia, el respeto a los derechos de autor y la evaluación del riesgo en el desarrollo de aplicaciones web que utilizan inteligencia artificial.
Responsable del Artículo: Lucas Vilaplana – Professional Full Stack Developer (UTN)
Fuentes consultadas: Agencia EFE, Wikipedia
