Sanciones de entre 7,5 y 35 millones de euros
El objetivo de la norma es que todos los usuarios puedan identificar con claridad cuando una imagen, audio o vídeo que imita de forma realista a personas, objetos, lugares, entidades o eventos reales ha sido creado o alterado mediante inteligencia artificial. Para aquellas empresas que la incumplan, la ley prevé sanciones de entre 7,5 y 35 millones de euros.
«Todos somos susceptibles de ser víctimas de una suplantación, de sufrir un ‘deepfake’. La IA es una herramienta muy poderosa que puede mejorar nuestra vida, pero también puede ser un arma para difundir bulos, mentiras, esparcir odio y perjudicar la democracia», ha señalado el ministro de Transformación Digital y Función Pública, Óscar López.
El Gobierno prevé imponer multas de entre 100.000 y 750.000 euros para aquellos medios de comunicación que incumplan la obligación de inscribirse en el nuevo registro estatal, dependiente de la Comisión Nacional del Mercado de la Competencia (CNMC)
Hace menos de dos semanas, Europol detuvo a dos españoles que formaban parte de una organización criminal encargada de distribuir pornografía infantil generada con IA, que luego revendían a través de una página web. En los ocho discos duros que incautaron en Madrid y Barcelona había más de 16.800 archivos con contenido pedófilo. Pero las alarmas saltaron en septiembre de 2023, cuando un par de menores de un instituto de Almendralejo (Badajoz), desnudaron a varias compañeras de clase mediante inteligencia artificial.
La normativa también plantea «sistemas de alto riesgo». Se trata del uso «perverso» de IA en juguetes o productos sanitarios cuando no está contemplado para su educación o la salud del paciente, y también en infraestructuras críticas, de empleo, de educación o de servicios sanitarios. Para aquellas empresas que no cumplan la legislación en materias de sistemas de de alto riesgo, deberán hacer frente a infracciones de entre 500.000 y 7,5 millones de euros o el 1 o 2% del volumen de negocio mundial de la compañía.
La norma se inspira en el Reglamento europeo aprobado en junio del año pasado por el Parlamento y el Consejo sobre esta materia, donde ya se recoge un listado de prácticas de inteligencia artificial prohibidas como «la introducción en el mercado o la utilización de sistemas que se sirvan de técnicas deliberadamente manipuladoras o engañosas con el objetivo de alterar de manera sustancial el comportamiento de una persona, mermando su capacidad para tomar una decisión informada».
Source: www.abc.es