Bruselas prohibirá por ley las aplicaciones de contenido sexual y la IA que lo cree

El Parlamento Europeo y el Consejo Europeo han alcanzado de madrugada un acuerdo para prohibir las aplicaciones de contenido sexual explícito así como los sistemas de Inteligencia Artificial que creen «material de abuso sexual infantil o que muestren las partes íntimas de una persona identificable, o que participen en actividades sexualmente explícitas, sin su consentimiento». afirman ambas instituciones en un comunicado. El contenido en cuestión puede ser imágenes, vídeo o audio.

Este acuerdo, que entrará en vigor el próximo mes de diciembre, llega después de meses de investigación, amenazas y multas a las plataformas digitales que permitían la utilización de material susceptible de mostrar contenido sexual o imágenes sexualizadas.

Así pues, el acuerdo prevé que la prohibición alcance a la comercialización de sistemas de IA en el mercado de la Unión Europea con el fin de crear dicho contenido y a su introducción en el mercado de la UE sin medidas de seguridad razonables para prevenir su creación.

Además, a partir de diciembre de 2027 también se prohibirán los sistemas de IA con un caso de uso de alto riesgo, lo que incluye los que utilizan datos biométricos y los empleados en infraestructuras críticas, educación, empleo, fuerzas del orden y gestión de fronteras.

Para el negociador por parte de la Comisión de Mercado Interior y Protección del Consumidor, Arba Kokalari, «con este acuerdo, demostramos que la política puede avanzar con la misma rapidez que la tecnología». Por su parte, el también eurodiputado Michael McNamara, considera que «de este modo, contamos con las herramientas necesarias para actuar si los proveedores no abordan los sistemas de IA que comprometen los derechos fundamentales o la dignidad humana».

Eso sí, el acuerdo no será de aplicación inmediata. Ahora las instituciones implicadas, es decir, el Consejo Europeo y el Parlamento Europeo tienen que aprobarlo formalmente en sus plenarios. Se espera que estas modificaciones estén oficialmente aprobadas antes de la finalización de este curso político, es decir antes de agosto.