El Gobierno crea un superregulador de la IA con poder para vigilar incluso los procesos democráticos

El Gobierno tiene listo su anteproyecto de ley para el buen uso y la gobernanza de la Inteligencia Artificial. El texto se aprobó en primera vuelta en Consejo de Ministros en marzo de 2025 pero el texto de la segunda vuelta –con cambios respecto a la primera versión– ya está lista –aunque podría volver a sufrir modificaciones– y pasó por el trámite de audiencia e información pública.

El texto, al que ha tenido acceso El Debate, pretende adaptar el marco europeo a nuestro país y desarrollar una regulación que «forma parte de un conjunto de actuaciones más amplias destinadas al desarrollo de la IA en España. A través de estas actuaciones se ha avanzado en aunar la acción de los diferentes sectores estratégicos, para favorecer el impulso y fomento de la innovación, tanto en la Administración Pública como en el sector privado».

Una de las cuestiones que llaman la atención del anteproyecto es que se designa a la llamada Agencia Española de Supervisión de Inteligencia Artificial (AESIA) «como autoridad de vigilancia del mercado». Su función se desprende del reglamento sobre la IA de la Unión Europea –Reglamento (UE) 2024/1689– y consiste en supervisar que los sistemas de IA que cumplan la normativa europea.

Sistemas de alto riesgo

Esta autoridad, la AESIA es la encargada de vigilar varios sistemas de IA entre los que se encuentran los de alto riesgo y que están «destinados a ser utilizados para influir en el resultado de una elección o referéndum o en el comportamiento electoral de personas físicas que ejerzan su derecho de voto en elecciones o referendos», según explica el reglamento de IA de la Unión Europea.

Si bien el Consejo de Estado, máximo órgano consultivo del Gobierno entiende en su dictamen sobre el anteproyecto –al que también ha accedido este periódico– que es tarea del Gobierno crear esta autoridad tal y como marca el reglamento europeo, cuestiona la idoneidad de la AESIA para supervisar los procesos democráticos.

Los procesos democráticos, controlados por Óscar López

¿Por qué? El Consejo de Estado considera que la autoridad que quiere poner el Gobierno, la AESIA, no es lo suficientemente independiente porque estará controlada por el titular de Transformación Digital, Óscar López y corre el riesgo de

la AESIA, fue creada cuando el reglamento de la Unión Europea «aún se encontraba en tramitación». Se definió entonces como un «'organismo público con personalidad jurídica pública, patrimonio propio, plena capacidad de obrar y potestades administrativa, inspectora y sancionadora que se le atribuyan en aplicación a la normativa nacional y europea en relación con el uso seguro y confiable de los sistemas de inteligencia artificial'». Además, se definieron sus funciones, tal y como cita el Consejo de Estado en su dictamen: «'Colaboración y coordinación con otras autoridades, nacionales y supranacionales, de supervisión de inteligencia artificial y de «'supervisión de la puesta en marcha, uso o comercialización de sistemas que incluyan inteligencia artificial y, especialmente, aquellos que puedan suponer riesgos significativos para la salud, seguridad y los derechos fundamentales'».

Para el Consejo de Estado el régimen legal de la AESIA «se revela exiguo teniendo en cuenta la relevancia y dimensión de las funciones que se le atribuyen» y recuerda además que cuenta con un estatuto que señala que señala que será un consejo rector su órgano de Gobierno cuyos miembros son todos designados por la persona titular del Ministerio para la Transformación Digital y de Función Pública, es decir, Óscar López.

A juicio del Consejo de Estado, la AESIA «no satisface las exigencias de independencia e imparcialidad exigidas por el RIA [Reglamento de Inteligencia Artificial] relación con las autoridades de vigilancia del mercado, en particular para aquellas a las que se encomiende la supervisión de los sistemas de IA de alto riesgo». Y añaden: «De entre estos sistemas de IA cuya supervisión ha de corresponder a autoridades con una independencia reforzada, el anteproyecto atribuye a la AESIA la vigilancia de sistemas de IA de uso vinculado a los procesos democráticos».

Los requisitos de independencia exigidos por el derecho de la Unión Europea no quedan cumplidos

Para el órgano dirigido por Carmen Calvo, «resulta del todo evidente que los requisitos de independencia exigidos por el derecho de la Unión Europea no quedan cumplidos por un órgano con el estatuto jurídico de agencia estatal, presidido por un órgano superior del Ministerio para la Transformación Digital y de la Función Pública y cuyos órganos de dirección y ejecución son nombrados también por este departamento».

Además, el texto del Gobierno dice que para la supervisión de los sistemas de IA de alto riesgo relativos a procesos democráticos, la AESIA deberá cumplir con los criterios determinados por el artículo 74.8 del Reglamento de la Unión Europea, y «'en particular las condiciones establecidas en los artículos 41 a 44 de la Directiva (UE) 2016/680 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por parte de las autoridades competentes para fines de prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales, y a la libre circulación de dichos datos'».

Hay riesgo de un incumplimiento grave del ordenamiento jurídico europeo

Se trata, dice el Consejo de Estado de «una previsión manifiestamente insuficiente, pues no garantiza que las características de la AESIA como supervisor de los sistemas de IA aludidos en el artículo 74.8 el RIA vayan a ser efectivamente respetuosas con este precepto y genera el riesgo de un incumplimiento grave del ordenamiento jurídico europeo».

El Consejo de Estado termina concluyendo que si el Gobierno quiere mantener la autoridad en la AESIA lo haga siempre que modifique su estatuto y que se erija como autoridad administrativa independiente, y no de agencia estatal. También recuerda que si esta autoridad va a vigilar sistemas de IA de alto riesgo vinculados a procesos democráticos debe legislarse vía ley orgánica y, en concreto, a través de la Ley Orgánica del Régimen Electoral (LOREG).