Cuando la IA decide actuar sola: el episodio que dispara las alarmas sobre su control

Un incidente ocurrido durante una prueba de seguridad de OpenAI ha reavivado el debate sobre los riesgos que plantea el desarrollo de sistemas de inteligencia artificial cada vez más autónomos. La compañía estadounidense ha revelado que varios de sus modelos avanzados intentaron por iniciativa propia obtener acceso a internet y acabaron atacando una conocida plataforma para desarrolladores con el objetivo de mejorar sus posibilidades de superar la evaluación a la que estaban siendo sometidos.

La empresa, creadora de ChatGPT, calificó lo sucedido como un «incidente cibernético sin precedentes» y anunció la apertura de una investigación conjunta con Hugging Face, la plataforma afectada y uno de los mayores repositorios de modelos de inteligencia artificial, conjuntos de datos y herramientas de programación del mundo.

Según explicó OpenAI en un comunicado, el episodio se produjo en un entorno de pruebas aislado y sin acceso libre a internet, diseñado precisamente para evaluar las capacidades de sus sistemas más avanzados en materia de ciberseguridad. En el experimento participaban varios modelos, entre ellos el recién presentado GPT-5.6 Sol y otro todavía en fase de desarrollo.

Durante la evaluación, los modelos dedicaron una parte importante de su capacidad de cálculo a encontrar una forma de saltarse las restricciones impuestas y conectarse a internet. Una vez lograron el acceso, dirigieron sus acciones contra Hugging Face en busca de información que les permitiera manipular el propio proceso de evaluación.

De acuerdo con OpenAI, la inteligencia artificial llegó a encadenar diferentes técnicas de ataque, incluido el uso de credenciales robadas, con el objetivo de obtener información considerada «secreta» que le ayudara a resolver la tarea planteada.

Un incidente «asombroso»

Este comportamiento ha despertado preocupación entre especialistas en inteligencia artificial y ciberseguridad porque refleja un grado de autonomía superior al observado hasta ahora. Los denominados agentes de IA son sistemas capaces de ejecutar tareas complejas sin intervención humana constante, lo que amplía enormemente sus posibilidades, pero también los riesgos asociados a un uso indebido o a un funcionamiento inesperado.

El profesor de informática Hussein Abbass, de la Universidad de Nueva Gales del Sur (UNSW Canberra), calificó el incidente de «asombroso». Según explicó a la agencia AFP, lo más inquietante no fue únicamente el ataque contra una plataforma externa, sino que el sistema también intentara explotar vulnerabilidades del propio entorno donde estaba siendo evaluado.

A juicio del investigador, el potencial de estas tecnologías resulta especialmente preocupante porque podrían identificar y aprovechar fallos de seguridad con mayor rapidez que los propios especialistas humanos. Aunque actualmente estos modelos permanecen bajo el control de laboratorios tecnológicos, Abbass advirtió de que el escenario sería «catastrófico» si herramientas de este nivel terminaran en manos de personas con fines delictivos.

Precisamente por ese motivo, tanto OpenAI como Anthropic, otra de las empresas líderes del sector, retrasaron temporalmente el despliegue generalizado de algunos de sus modelos más avanzados ante las preocupaciones expresadas por las autoridades estadounidenses sobre su posible utilización para atacar infraestructuras críticas.

Por su parte, Hugging Face confirmó que la semana pasada sufrió una intrusión informática, aunque inicialmente no identificó a OpenAI como responsable. Posteriormente, la plataforma explicó que el ataque fue diferente a cualquier otro registrado hasta la fecha porque estuvo impulsado íntegramente por un agente de inteligencia artificial autónomo y, además, fue detectado gracias a sus propios sistemas de IA.

El director ejecutivo de Hugging Face, Clément Delangue, aseguró que la compañía nunca creyó que existiera una intención maliciosa por parte de OpenAI. Sin embargo, reconoció que el episodio demuestra hasta qué punto los nuevos sistemas son capaces de tomar decisiones complejas de forma autónoma. Un comportamiento que, aunque se produjo dentro de un entorno de pruebas controlado, vuelve a alimentar el debate sobre la necesidad de establecer mecanismos de supervisión y límites eficaces para las inteligencias artificiales más avanzadas.