La ley de IA prohibirá los 'deepfakes' sexuales bajo multas de hasta 35 millones

La Ley Orgánica para el buen uso y la gobernanza de la Inteligencia Artificial, conocida como IA, incorporará al ordenamiento español las obligaciones previstas en el Reglamento europeo de IA, que ya se encuentra en vigor, y establecerá la exigencia de identificar los contenidos generados de forma artificial. El objetivo de esta medida es facilitar que los ciudadanos puedan diferenciar con mayor claridad aquello que responde a la realidad de lo que pertenece al terreno de la ficción o ha sido creado mediante esta tecnología.

Fuentes del Ministerio para la Transformación Digital y de la Función Pública han explicado este martes los detalles principales del texto, después de que el Consejo de Ministros lo haya aprobado en segunda vuelta para enviarlo al Congreso de los Diputados, donde deberá continuar su tramitación parlamentaria.

Uno de los puntos centrales de la norma se refiere al etiquetado o marca de agua que deberán incorporar los contenidos generados con IA. En este ámbito, el Gobierno ha sometido a audiencia pública un borrador de código de buenas prácticas que todavía no es definitivo y que quedará condicionado por las observaciones y aportaciones que se presenten durante el proceso. En el caso de los textos, estos deberán incluir las letras «AI» con un tamaño determinado. En las imágenes, la ubicación de esa identificación podrá variar según el tipo de contenido visual de que se trate.

La regulación también establece criterios específicos para los vídeos. Cuando toda la pieza audiovisual haya sido creada con inteligencia artificial, deberá indicarse durante toda su duración que se trata de un contenido generado con esta tecnología. Si el vídeo incluye únicamente algunas partes elaboradas con IA, será necesario advertirlo al inicio. En cambio, cuando se trate de un vídeo de larga duración con distintos fragmentos artificiales, el aviso deberá aparecer tanto al comienzo como a lo largo de la reproducción. Para los audios, el planteamiento será similar al previsto para el vídeo.

La futura ley también recoge un catálogo de prácticas prohibidas que podrán ser denunciadas por los ciudadanos. Entre ellas figura la manipulación engañosa destinada a anular la voluntad de una persona cuando cause daños físicos o psíquicos; el aprovechamiento de circunstancias como la edad, la discapacidad o la situación socioeconómica para distorsionar conductas; la clasificación biométrica; la evaluación de comportamientos con el fin de imponer tratos desfavorables o una exclusión ciudadana injustificada; y la valoración del riesgo de cometer delitos basada únicamente en perfiles o rasgos personales.

Asimismo, quedará prohibido el reconocimiento de emociones en entornos laborales y educativos por vulnerar la intimidad de las personas. También se vetará la extracción no selectiva de imágenes de internet o de circuitos cerrados de televisión para elaborar bases de datos faciales, así como el uso de biometría remota en espacios públicos, salvo en supuestos críticos y con mandato judicial. La norma incluye, además, la prohibición de los deepfakes sexuales y de la pornografía infantil, dos cuestiones incorporadas en el Ómnibus de IA, dentro del Paquete Ómnibus Digital de la Unión Europea, impulsadas por España.

Según han subrayado las fuentes del Ministerio, si se detectan estas prácticas, las sanciones podrían alcanzar hasta 35 millones de euros, fijados como tope máximo, o el 7 % del volumen de negocio anual de la empresa infractora. Desde el departamento confían en que el Congreso sea sensible a esta realidad y dé luz verde a la ley. No obstante, han precisado que, aunque no se podrán imponer multas hasta que la norma esté aprobada, la Agencia Española de Supervisión de la Inteligencia Artificial, AESIA, sí tendrá capacidad para apercibir a quienes incumplan las obligaciones previstas.

Respecto a los cambios introducidos en relación con la versión anterior del texto, destaca que la iniciativa se ha configurado como ley orgánica, al afectar a derechos fundamentales. También se ha añadido un capítulo específico sobre el uso de la inteligencia artificial en la Administración, en el que se contempla la creación de la figura de los delegados de inteligencia artificial.

En paralelo, la Agencia Española de Supervisión de la Inteligencia Artificial asumirá un papel coordinador de mayor relevancia. El organismo modificará sus estatutos para convertirse en otro tipo de autoridad, con un grado superior de independencia, en el plazo de seis meses desde la aprobación de la ley. De acuerdo con las fuentes del Ministerio, tanto los recursos humanos de la AESIA como la continuidad de la agencia están garantizados.