Bruselas amplia la investigación sobre X tras la aparición de menores desnudas por la Inteligencia Artificial

Después de que varios países como Reino Unido, España o Francia anunciaran investigaciones sobre el uso de la Inteligencia Artificial en la red social X, donde últimamente han aparecido imágenes de menores de edad desnudas en la herramienta Grok, la Comisión Europea ha tomado cartas en el asunto y ha ampliado la investigación que ya venía realizando sobre la plataforma de Elon Musk.

Así, le ha ordenado que guarde toda la documentación interna relativa a Grok que se genere este año. Hasta ahora, la investigación se limitaba a los algoritmos que utiliza para determinar qué información recibe cada usuario en su cuenta. Ahora quiere investigar toda la documentación, los algoritmos pero también todo lo que Grok recibe y las medidas de seguridad que aplica.

La orden llega en plena polémica por las imágenes de niños y mujeres desnudas que ha mostrado Grok en las últimas semanas y que han llevado al Gobierno francés a denunciar a X ante los tribunales, que se añaden a otros contenidos como el blanqueo del Holocausto que la IA de la red social publicó a finales del año pasado. También Reino Unido ha iniciado acciones tras el escándalo y el Gobierno español ha pedido a la Fiscalía que investigue si se está produciendo algún delito por la aparición de estas imágenes.

«Esto es ilegal, es inaceptable», insistió el portavoz de política digital del Ejecutivo comunitario, Thomas Regnier, en la rueda de prensa de la institución.

Combate al contenido ilegal

La Comisión necesita la documentación para analizar las medidas que X está llevando a cabo para combatir el contenido ilegal y la lucha contra la desinformación a la que le obliga la ley de servicios digitales (DSA) de la Unión Europea (UE).

«La DSA es muy clara. En Europa, todas las plataformas tienen que poner en orden su propia casa porque lo que generan es inaceptable y cumplir con la legislación europea no es una opción; es una obligación», dijo Regnier.

El portavoz señaló que la normativa le permite tomar medidas cautelares contra la IA de X, que en última instancia podrían llegar a prohibir su uso en la UE, aunque aseguró que por ahora la Comisión no contempla esta posibilidad.

«No es nuestra opción preferida, no estamos aquí para suspender a las plataformas, no estamos aquí para decirle a los ciudadanos qué plataforma es más segura, qué herramienta de inteligencia artificial es mejor. No es nuestro objetivo. Nuestro objetivo es forzar a cada plataforma a poner su casa en orden», dijo Regnier.