Sánchez quiere regular el uso de reconocimientos biométricos en tiempo real

El Gobierno tiene listo el texto de su anteproyecto de ley para el buen uso y la gobernanza de la Inteligencia Artificial. El texto ya se aprobó en primera vuelta el pasado año, pero ya está listo para pasar por el Consejo de Ministros en segunda vuelta.

El texto redactado por el Ministerio para la Transformación Digital y de la Función Pública –cuyo titular es Óscar López– es la norma con la que España adapta a su ordenamiento el reglamento de Inteligencia Artificial de la Unión Europea – 2024/1689– en los temas en que se delega a los Estados miembros.

El texto –que aún puede sufrir modificaciones– cambió en un aspecto fundamental y no porque el Gobierno lo decidiera, sino tras el informe recibido de la Abogacía del Estado. ¿De qué aspecto se trata? Se tuvo que suprimir el capítulo dedicado a «Prohibiciones y autorizaciones», que comprendía cuatro artículos: prácticas prohibidas; uso de sistemas de IA para la identificación biométrica remota «en tiempo real» en espacios de acceso público para la prevención, la investigación, la detección o el enjuiciamiento de delitos, o la ejecución de sanciones penales, incluidas la protección frente a las amenazas para la seguridad pública y su prevención, así como para la búsqueda de personas desaparecidas; uso de sistemas de IA para la identificación biométrica remota en diferido; y otros sistemas de IA de alto riesgo para la prevención, la investigación, la detección o el enjuiciamiento de delitos, la ejecución de sanciones penales, incluidas la protección frente a las amenazas para la seguridad pública y su prevención, así como la migración, asilo y gestión del control fronterizo.

Derechos fundamentales

La Abogacía del Estado considera que «'al menos'» dicho capítulo ha de regularse en una ley orgánica, «'en la medida en que su contenido afecta a derechos fundamentales, estableciendo restricciones a su ámbito material'». Así lo recoge el dictamen del Consejo de Estado sobre el anteproyecto de IA, al que también ha tenido acceso este periódico.

En este sentido, el Consejo de Estado cita doctrina del Tribunal Constitucional y recuerda que las restricciones o limitaciones de derechos fundamentales han de estar sujetas necesariamente «a la reserva de ley orgánica». Así, el Consejo de Estado señala que comparte el criterio de la Abogacía del Estado «en cuanto a la propuesta de excluir del anteproyecto de ley sometido a consulta las previsiones aludidas, en tanto han de estar incorporadas a una ley orgánica, pues no cabe duda alguna de que afectan al núcleo esencial de algunos derechos fundamentales (entre otros, seguridad, intimidad, propia imagen, protección de datos personales o inviolabilidad del domicilio).

Respecto a este tema, el Consejo de Estado también apunta a que el texto del Gobierno alude a ciertas prácticas de la IA como infracciones graves. Por ejemplo, «sistemas de IA que empleen técnicas subliminales o exploten vulnerabilidades de menores o personas con discapacidad», señala el Consejo de Estado. En este caso, el dictamen no ve inconvenientes.

En cambio, las restantes conductas a las que se refiere el proyecto se refieren al empleo de técnicas de identificación mediante sistemas de identificación biométrica remota en tiempo real en espacios de acceso público «con fines de garantía del cumplimiento del Derecho».

Actuaciones de la policía, jueces y fiscales

Este concepto, de acuerdo al Reglamento de la Unión Europea (RIA) engloba «las actividades realizadas por las autoridades garantes del cumplimiento del Derecho, o en su nombre, para la prevención, la investigación, la detección o el enjuiciamiento de delitos o la ejecución de sanciones penales, incluida la protección frente a amenazas para la seguridad pública y la prevención de dichas amenazas». Es decir, los que usarían esos sistemas serían policías, jueces, fiscales, etc.

El Consejo de Estado entiende que esta cuestión tiene que regularse por ley orgánica, no ordinaria, y por eso encomienda al Gobierno suprimir todos los apartados referentes a identificación biométrica remota en tiempo real en espacios de acceso público «con fines de garantía del cumplimiento del Derecho».

Además, señala que «carece de sentido que en el anteproyecto de ley sometido a consulta se tipifiquen como infracciones administrativas graves» conductas desarrolladas por autoridades públicas en el ejercicio de sus funciones en los ámbitos de la seguridad pública, la investigación y enjuiciamiento de delitos y la ejecución de penas.

Según el Consejo, si una autoridad pública hace un incorrecto uso de esos sistemas de IA, ya existen otros mecanismos para controlarlo. Es decir, los tribunales pueden revisar la actuación, puede haber responsabilidad patrimonial en caso de daños y también puede aplicarse el régimen disciplinario correspondiente.