Hackean a Meta pidiéndoselo «por favor»: el error de su IA que comprometió el Instagram de Obama

Meta investiga un fallo en su asistente de inteligencia artificial que permitió a un grupo de piratas informáticos apropiarse de varias cuentas de Instagram importantes, entre ellas el antiguo perfil oficial de la Casa Blanca bajo Barack Obama, la marca de cosmética Sephora y la del máximo suboficial de la Fuerza Espacial de Estados Unidos. Una crisis importante y que pone en duda hasta qué punto es seguro delegar funciones críticas de atención al usuario y seguridad en sistemas de IA que pueden ser manipulados con simples y educados mensajes de chat.

Durante el último fin de semana de mayo, varios usuarios comenzaron a compartir capturas y vídeos donde se veía cómo el asistente automatizado de soporte de Meta en Instagram aceptaba cambiar el correo electrónico asociado a una cuenta simplemente porque el interlocutor se lo pedía de forma insistente y «creíble». Una vez que el bot vinculaba la cuenta a una dirección controlada por los atacantes, estos podían solicitar el restablecimiento de la contraseña y tomar el control del perfil sin necesidad de tener acceso al correo original de la víctima.

Una vez que el bot vinculaba la cuenta a una dirección controlada por los atacantes, estos podían solicitar el restablecimiento de la contraseña

La información publicada en The Guardian describía un proceso «sorprendentemente sencillo» en el que los hackers iniciaban un chat con el soporte de Meta AI, facilitaban el nombre de usuario objetivo, pedían actualizar el email y recibían en su propia bandeja un código de verificación que volvían a introducir en la conversación con el bot. Completado ese paso, el sistema ofrecía un botón para restablecer la contraseña, lo que abría la puerta a un secuestro completo de la cuenta en cuestión de minutos, especialmente en perfiles sin autenticación en dos pasos activada.

Cuentas institucionales y marcas

Entre los perfiles comprometidos figura el archivo oficial de la Casa Blanca correspondiente a la etapa de Obama, una cuenta que llevaba inactiva desde enero de 2017 pero que seguía acumulando millones de seguidores. En este perfil, los atacantes llegaron a publicar una imagen generada por IA acompañada de un mensaje político falso en el que se aseguraba que la Casa Blanca estaba bajo control chií, contenido que fue retirado después de que la plataforma recuperara el control.

También se vieron afectadas la cuenta corporativa de Sephora y el perfil del Chief Master Sergeant de la Fuerza Espacial estadounidense, objetivos que dan una idea del interés de este tipo de ataques para campañas de desinformación, phishing o chantaje digital. Aunque Meta ha confirmado el incidente, por ahora no ha revelado cuántas cuentas se vieron implicadas ni el alcance de la brecha, mientras otras informaciones hablan de decenas o incluso cientos de perfiles de alto valor comprometidos.

La respuesta de Meta

Meta, la empresa matriz de Instagram, ha reconocido que su asistente de soporte impulsado por IA fue utilizado para acceder a cuentas ajenas y asegura que el fallo ya ha sido corregido. Portavoces de la compañía se han limitado a afirmar en los medios que «el problema se ha resuelto» y que están «asegurando las cuentas afectadas», sin ofrecer más detalles sobre las causas técnicas ni sobre posibles medidas compensatorias para los usuarios.

Meta ha reconocido que su asistente de soporte impulsado por IA fue utilizado para acceder a cuentas ajenas

El caso alimenta la preocupación en torno al uso de la inteligencia artificial para gestionar procesos tan sensibles como la recuperación de contraseñas y la verificación de identidad. Meta lleva meses promoviendo su asistente como una herramienta capaz de ofrecer «soluciones, no solo sugerencias» en materia de soporte y seguridad de cuentas, un avance que ahora se enfrenta a su primera gran prueba reputacional.

Nueva superficie de ataque

La IA ya se encarga de la automatización de la atención al usuario mediante agentes conversacionales, que en muchos casos reciben permisos para actuar directamente sobre configuraciones críticas de las cuentas. Expertos en ciberseguridad advierten de que cada vez que se delega en un chatbot la capacidad de cambiar correos, modificar factores de recuperación o iniciar reseteos de contraseñas, ese sistema se convierte en una nueva superficie de ataque que debe ser auditada con el mismo rigor que cualquier aplicación interna.

En este caso, el fallo no estaba en los servidores ni en el cifrado de las contraseñas, sino en la lógica que gobernaba el comportamiento del asistente, diseñado para ser «útil» y resolver problemas con la mínima fricción posible, incluso cuando el interlocutor no era quien decía ser.

Este hackeo llega en un momento en el que Meta está desplegando su IA en Europa de forma progresiva, integrando el asistente en servicios como WhatsApp, Facebook, Instagram y Messenger y entrenando sus modelos con contenido público de los propios usuarios. La compañía ya había sido criticada en la Unión Europea por el uso de datos para entrenar estos sistemas, y ahora se suman las dudas sobre qué ocurre cuando esos modelos se convierten en guardianes de nuestra identidad digital.

Diseñar agentes inteligentes implica no solo entrenarlos con más datos, sino dotarlos de límites, mecanismos de supervisión y protocolos que asuman, desde el principio, que siempre habrá alguien al otro lado intentando engañarlos.