Imagen de archivo de inteligencia artificial
Ciencia
El último aviso de la ONU sobre la IA: «Hay que actuar antes de que sea demasiado tarde»
Los incidentes relacionados con agentes que se sobrepasan de sus prerrogativas para cumplir la misión que les había sido encomendada han aumentado en los últimos meses
El Alto Comisionado de la ONU para los derechos humanos advirtió el lunes sobre la necesidad de elaborar rápidamente una gobernanza de la inteligencia artificial, afirmando que la IA avanzada puede «suponer un riesgo existencial para la humanidad».
«Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa», declaró el Alto Comisionado, Volker Türk, en la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, que ha señalado que «hay que actuar antes de que sea demasiado tarde».
«Un puñado de hombres detenta un poder casi ilimitado de la IA, que, nos repiten hasta la saciedad, posee una potencia de cálculo inimaginable. Hablan de libertad pero, cuando se observa el tema más de cerca, resulta que más bien se trata de la libertad de explotar nuestros datos», denunció.
Los incidentes relacionados con agentes que se sobrepasan de sus prerrogativas para cumplir la misión que les había sido encomendada han aumentado en los últimos meses: Anthropic y el chino Alibaba registraron casos parecidos.
Unos hechos que generan preocupación entre los investigadores, por las dificultades crecientes a la hora de vigilar unos modelos cada vez más potentes.
Según dijo, Volker Türk escribirá próximamente a las empresas del sector «para exigirles que emprendan medidas (...) para reducir los riesgos desde ya».
«Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes», subrayó.
«Necesitamos una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria», sostuvo.
También pidió que se tengan en cuenta «las repercusiones de la IA en las prácticas laborales, en los principios fundamentales de la democracia y en nuestro medio ambiente».
China endurecerá los abusos de la IA
Por su parte, esta semana China ha fijado nuevas reglas judiciales para hacer frente a los abusos de la inteligencia artificial, entre ellas la creación de «deepfakes» y las voces clonadas, informó la agencia estatal Xinhua.
La medida, anunciada por el Tribunal Supremo chino, establece criterios para los litigios relacionados con la IA, un sector clave en el que Pekín compite con Estados Unidos.
Estas directrices «dejan claro que las personas no pueden utilizar la IA para crear o distribuir réplicas digitales reconocibles de otras personas sin su consentimiento, incluidos rostros y voces clonados», informó Xinhua.
Entre los litigios figuran también «la discriminación de precios mediante algoritmos y la información falsa generada por IA», señaló la agencia.
Por su parte, la Unión Europea afirmó este lunes que «investiga» un incidente revelado la semana pasada en el que miles de agentes autónomos de IA de OpenAI desafiaron las instrucciones y tomaron el control de un sitio web alemán. Los agentes (programas de IA que funcionan por sí solos, sin que una persona guíe cada paso) dejaron alrededor de 18.000 mensajes en DSEwiki, un sitio en alemán para programadores que cualquiera puede editar, muy parecido a Wikipedia.
«No es la primera pérdida de control» de agentes de IA, pero «tomamos el asunto muy en serio y vigilamos la situación de cerca», declaró a los periodistas Thomas Regnier, un portavoz del Ejecutivo europeo.