Sánchez maniobró para que la Junta Electoral Central supervisara el uso de la IA en los procesos electorales

El Gobierno ha tenido que cambiar los planes que tenía con su anteproyecto de ley para el buen uso y la gobernanza de la Inteligencia Artificial. El texto, que tiene que aprobarse en segunda vuelta y al que ha tenido acceso El Debate, señala a la Junta Electoral Central (JEC) como una de las autoridades encargadas de vigilar el uso de la Inteligencia Artificial.

La JEC no iba a desempeñar un papel cualquiera: inicialmente se la designaba como autoridad de vigilancia para los procesos democráticos y el ámbito de la biometría.

Sin embargo, la JEC desaparece «de la versión definitiva del anteproyecto, habida cuenta de que se han eliminado del mismo las previsiones relativas a prohibiciones y autorizaciones en relación con el uso de los sistemas de IA», señala el dictamen del Consejo de Estado sobre la norma, a la que también ha tenido acceso El Debate.

Adicionalmente, según el relato del máximo órgano consultivo, la JEC emitió un informe cuando se la propuso como autoridad, señalando las dificultades que suponía su designación: «Adicionalmente, no pueden dejar de subrayarse las dificultades que se ponen de manifiesto en el [...] informe para, con arreglo al marco normativo vigente, designar a la Junta Electoral Central como autoridad de vigilancia del mercado de los sistemas de IA. Se hace notar que en la versión definitiva del anteproyecto, la Junta Electoral Central ya no figura como autoridad de vigilancia».

El apartado que se eliminó se llamaba «Prohibiciones y autorizaciones» y «comprendía cuatro artículos relativos a las siguientes cuestiones: prácticas prohibidas; uso de sistemas de IA para la identificación biométrica remota «en tiempo real» en espacios de acceso público para la prevención, la investigación, la detección o el enjuiciamiento de delitos, o la ejecución de sanciones penales, incluidas la protección frente a las amenazas para la seguridad pública y su prevención, así como para la búsqueda de personas desaparecidas; uso de sistemas de IA para la identificación biométrica remota en diferido; y otros sistemas de IA de alto riesgo para la prevención, la investigación, la detección o el enjuiciamiento de delitos, la ejecución de sanciones penales, incluidas la protección frente a las amenazas para la seguridad pública y su prevención; así como la migración, asilo y gestión del control fronterizo».

Ley orgánica

Según el órgano presidido por Carmen Calvo, la Abogacía del Estado señaló que «'al menos'» dicho capítulo ha de regularse en una ley orgánica, «'en la medida en que su contenido afecta a derechos fundamentales, estableciendo restricciones a su ámbito material'».

En lugar de la Junta Electoral y, tal y como ha avanzado este periódico, se ha propuesto a la Agencia Española de Supervisión de Inteligencia Artificial (AESIA) como autoridad de vigilancia de mercado de los sistemas de IA –entre otros– relativos a los procesos democráticos.

De acuerdo al reglamento de la IA de la Unión Europea, al que se acoge esta ley, estos sistemas son aquellos «destinados a ser utilizados para influir en el resultado de una elección o referéndum o en el comportamiento electoral de personas físicas que ejerzan su derecho de voto en elecciones o referendos». Tal como informó El Debate, el Consejo de Estado manifestó sus dudas respecto a la independencia de la AESIA habida cuenta de que todo el Consejo Rector es nombrado por el ministro para la Transformación Digital y de Función Pública, es decir, Óscar López.