Google DeepMind alerta del mayor riesgo de la IA: una amenaza invisible

Con la inexorable irrupción de la inteligencia artificial (IA) surgen dudas en el aspecto de la seguridad, la privacidad y la fiabilidad que nos hacen replantearnos su uso. En este contexto, Google DeepMind, laboratorio líder en IA, ha publicado un informe que nos aclara cuál es el principal problema. La amenaza no viene de dentro de la herramienta, sino de la información que el agente decide emplear. Ante esto, hay quienes tratan de cargar a la IA con información errónea para su beneficio.

Las 'AI Agent Traps' surgen para manipular agentes autónomos a partir del contenido que consumen. La técnica conocida como inyección de contenido permite que una página web incluya instrucciones ocultas en elementos invisibles: código HTML no perceptible, texto del mismo color que el fondo o comandos insertados en los metadatos de accesibilidad. Mientras que el usuario no percibe nada extraño, el agente interpreta esas órdenes como parte legítima de su tarea.

En pruebas realizadas con páginas estáticas, este tipo de manipulación ha logrado modificar el comportamiento del agente en porcentajes que oscilaron entre el 15 % y el 86 %, según el modelo implicado y el objetivo del ataque. Ese 86 % no representa un error, sino una tasa real de éxito. Asimismo, el ocultamiento dinámico consiste en que una web puede detectar cuando es visitada por un agente automático en lugar de un usuario.

Ante esto, el administrador de la web muestra una versión distinta al agente automatizado, manipulando su posterior comportamiento. Para realizar acciones maliciosas, el atacante solo necesita inyectar información para su beneficio en una única IA, para que se produzca un efecto dominó que acabe comprometiendo a un sinfín de empresas y usuarios. Las compañías deben tener especial cuidado con las funciones que les atribuyen a los agentes automatizados, ya que son realmente complicados de controlar.